NVIDIA WKN: 918422 ISIN: US67066G1040 Kürzel: NVD Forum: Aktien Thema: Hauptdiskussion
Unter Windows wird das sehr interessant werden. Lokale KI bedeutet nicht zwingend auf dem eigenen Rechner, sondern bspw. KI auf einem internen Firmenserver. Und da ist Nvidia dann mehr im Rennen als Apple. Da sehe ich viel Potential. Viele Firmen haben hochvertrauliche Daten, die sie nicht für ein Cloud-Modell hochladen können. Mit lokaler KI gibt es hier weitere Szenarien, um auch diese Daten zu analysieren und mit KI zu nutzen. Auf dem PC Markt wird es interessant. Das Surface Laptop Ultra wird eher für Entwickler sein, ich denke, die Kosten werden recht hoch sein und für den Normalverbraucher zu teuer. Daher wird es hier (noch) nicht die breite Masse erreichen. Aber mittelfristig wird es spannend, was da auf dem PC Markt mit Intel, Qualcomm und Nvidia passieren wird. Nvidia ist ja nicht zum ersten Mal hier unterwegs. Bereits das erste Surface Tablet hatte einen Nvidia Tegra Prozessor.
Ich arbeite schon lange mit lokaler KI. vLLM, Ollama, Microsoft Foundry Local, ONNX Runtime auf Windows, Windows AI APIs und Co. Windows Copilot+ PCs unterstützen lokale KI mit dem lokalen Phi Silica LLM. Dabei kommt die Neural Processing Unit (NPU) zum Einsatz. Um als Copilot+ PC zu gelten, muss die NPU 40TOPS können, also 40 Trillion Operations per second. Die Trillion ist Englisch und somit die deutsche Billion. Also 40.000.000.000.000 Operationen. Das Microsoft Surface Laptop Ultra mit Nvidia RTX Spark Architektur wird 1Petaflop schaffen, das sind 1 Billiarde Operationen pro Sekunde. Das entspricht dem 25-fachen der Anforderungen an Copilot+ PCs. Das ist der Wahnsinn, damit sind lokal LLMs mit 120B Parametern möglich, also 120Billionen (Englisch) bzw. In deutsch 120 Milliarden Parameter. Um das als nicht IT'ler einzuschätzen: Das ist deutlich leistungsfähiger als die älteren Cloud-basierten Modelle wie GPT3.5. Lokale KI wird Cloud KI nicht ersetzen, aber sehr viele neue Möglichkeiten bieten.
Mehr zu diesem Wert
|
|
Thema | ||
|---|---|---|---|
| 1 | DAX Prognose / Germany 40 | -0,15 % | |
| 2 | NIKE Hauptdiskussion | -1,67 % | |
| 3 | DPCM Capital Hauptdiskussion | -1,06 % | |
| 4 | MICRON TECHNOLOGY Hauptdiskussion | -0,65 % | |
| 5 | DAX / Germany 40 Hauptdiskussion | -0,15 % | |
| 6 | Nantkwest / Immunitybio -> IBRX | +1,14 % | |
| 7 | BTC/USD Hauptdiskussion | -0,63 % | |
| 8 | Ondas Holdings | +5,42 % | |
| 9 | Inno | +13,48 % | |
| 10 | Security der nächsten Generation | -0,28 % | Alle Diskussionen |
|
|
Thema | ||
|---|---|---|---|
| 1 | NIKE Hauptdiskussion | -1,65 % | |
| 2 | DPCM Capital Hauptdiskussion | -0,48 % | |
| 3 | MICRON TECHNOLOGY Hauptdiskussion | -0,66 % | |
| 4 | Nantkwest / Immunitybio -> IBRX | +1,68 % | |
| 5 | Inno | +13,48 % | |
| 6 | Ondas Holdings | +5,04 % | |
| 7 | Security der nächsten Generation | -0,28 % | |
| 8 | Gamestop, das Ende naht | +1,54 % | |
| 9 | Gamestop RC regelt ✌️ | +1,54 % | |
| 10 | EOS - Verteidigungs- und Raumfahrttechnik | +4,80 % | Alle Diskussionen |