NVIDIA WKN: 918422 ISIN: US67066G1040 Kürzel: NVD Forum: Aktien Thema: Hauptdiskussion
Nvidia-CEO Jensen Huang auf Microsoft-Event: RTX Spark bahnt sich an. Microsoft hat für den 7. Oktober in San Francisco eine Windows- und Surface-Veranstaltung angesetzt. Nach Angaben des Unternehmens wird der Schwerpunkt der Veranstaltung darauf liegen, wie lokale KI das nächste Kapitel der PC-Entwicklung prägen wird. Unter anderem werden Microsoft-CEO Satya Nadella und der Leiter der Windows- und Surface-Sparte, Pavan Davuluri, anwesend sein, aber auch Nvidia-CEO Jensen Huang wird erwartet.
Ich arbeite schon lange mit lokaler KI. vLLM, Ollama, Microsoft Foundry Local, ONNX Runtime auf Windows, Windows AI APIs und Co. Windows Copilot+ PCs unterstützen lokale KI mit dem lokalen Phi Silica LLM. Dabei kommt die Neural Processing Unit (NPU) zum Einsatz. Um als Copilot+ PC zu gelten, muss die NPU 40TOPS können, also 40 Trillion Operations per second. Die Trillion ist Englisch und somit die deutsche Billion. Also 40.000.000.000.000 Operationen. Das Microsoft Surface Laptop Ultra mit Nvidia RTX Spark Architektur wird 1Petaflop schaffen, das sind 1 Billiarde Operationen pro Sekunde. Das entspricht dem 25-fachen der Anforderungen an Copilot+ PCs. Das ist der Wahnsinn, damit sind lokal LLMs mit 120B Parametern möglich, also 120Billionen (Englisch) bzw. In deutsch 120 Milliarden Parameter. Um das als nicht IT'ler einzuschätzen: Das ist deutlich leistungsfähiger als die älteren Cloud-basierten Modelle wie GPT3.5. Lokale KI wird Cloud KI nicht ersetzen, aber sehr viele neue Möglichkeiten bieten.
Ich arbeite schon lange mit lokaler KI. vLLM, Ollama, Microsoft Foundry Local, ONNX Runtime auf Windows, Windows AI APIs und Co. Windows Copilot+ PCs unterstützen lokale KI mit dem lokalen Phi Silica LLM. Dabei kommt die Neural Processing Unit (NPU) zum Einsatz. Um als Copilot+ PC zu gelten, muss die NPU 40TOPS können, also 40 Trillion Operations per second. Die Trillion ist Englisch und somit die deutsche Billion. Also 40.000.000.000.000 Operationen. Das Microsoft Surface Laptop Ultra mit Nvidia RTX Spark Architektur wird 1Petaflop schaffen, das sind 1 Billiarde Operationen pro Sekunde. Das entspricht dem 25-fachen der Anforderungen an Copilot+ PCs. Das ist der Wahnsinn, damit sind lokal LLMs mit 120B Parametern möglich, also 120Billionen (Englisch) bzw. In deutsch 120 Milliarden Parameter. Um das als nicht IT'ler einzuschätzen: Das ist deutlich leistungsfähiger als die älteren Cloud-basierten Modelle wie GPT3.5. Lokale KI wird Cloud KI nicht ersetzen, aber sehr viele neue Möglichkeiten bieten.
Mehr zu diesem Wert
|
|
Thema | ||
|---|---|---|---|
| 1 | DAX Prognose / Germany 40 | -0,02 % | |
| 2 | NIKE Hauptdiskussion | +1,07 % | |
| 3 | Ondas Holdings | +4,88 % | |
| 4 | Security der nächsten Generation | +3,89 % | |
| 5 | MICRON TECHNOLOGY Hauptdiskussion | +0,22 % | |
| 6 | Gamestop RC regelt ✌️ | +1,34 % | |
| 7 | Inno | +7,95 % | |
| 8 | Nantkwest / Immunitybio -> IBRX | +5,39 % | |
| 9 | Critical Metals: Grönland - Tanbreez seltene Erden | +8,84 % | |
| 10 | DAX / Germany 40 Hauptdiskussion | -0,02 % | Alle Diskussionen |
|
|
Thema | ||
|---|---|---|---|
| 1 | NIKE Hauptdiskussion | +1,07 % | |
| 2 | Ondas Holdings | +4,97 % | |
| 3 | Security der nächsten Generation | +3,92 % | |
| 4 | MICRON TECHNOLOGY Hauptdiskussion | +0,31 % | |
| 5 | Gamestop RC regelt ✌️ | +1,34 % | |
| 6 | Nantkwest / Immunitybio -> IBRX | +5,28 % | |
| 7 | Critical Metals: Grönland - Tanbreez seltene Erden | +7,80 % | |
| 8 | Inno | +7,95 % | |
| 9 | RHEINMETALL Hauptdiskussion | +1,28 % | |
| 10 | EOS - Verteidigungs- und Raumfahrttechnik | +4,83 % | Alle Diskussionen |