NVIDIA WKN: 918422 ISIN: US67066G1040 Kürzel: NVD Forum: Aktien Thema: Hauptdiskussion
Diese Werbung richtet sich nur an Personen mit Wohn-/Geschäftssitz in Deutschland. Der jeweilige Basisprospekt, etwaige Nachträge, die Endgültigen Bedingungen sowie das maßgebliche Basisinformationsblatt sind auf www.dzbank-wertpapiere.de veröffentlicht. Beachten Sie auch die weiteren Hinweise zu dieser Werbung.
AMDs MI300X übertrifft NVIDIAs H100 bei LLM-Inferenz AMDs Flaggschiff-Beschleuniger MI300X wurde mit großer Spannung erwartet. Angesichts seiner unübertroffenen Rohspezifikationen bleibt die drängende Frage: Kann er NVIDIAs Hopper-Architektur bei realen KI-Workloads übertreffen? Wir können einige spannende erste Ergebnisse mit Ihnen teilen. Im vergangenen Monat haben TensorWave und MK1 eng zusammengearbeitet, um die Leistung der AMD-Hardware für KI-Inferenz freizusetzen. Zu Beginn konzentrierten wir uns auf Mixture of Expert (MoE)-Architekturen aufgrund ihrer Rechenleistung und Beliebtheit – sie werden insbesondere von Mistral, Meta, Databricks und X.ai für ihre leistungsstärksten Open-Source-LLMs verwendet. Die ersten Ergebnisse sind beeindruckend: Mit der Inferenzsoftware von MK1 erreicht der MI300X im Vergleich zum H100 SXM mit vLLM auf Mixtral 8x7B für einen realen Chat-Anwendungsfall einen um 33 % höheren Durchsatz. Obwohl das Software-Ökosystem von NVIDIA ausgereifter ist, ist klar, dass AMD bereits ein beeindruckender Konkurrent auf dem KI-Markt ist. Wenn man die Hardwareverfügbarkeit und die Kosten berücksichtigt, erweist sich der MI300X als attraktive Option für Unternehmen, die groß angelegte Inferenz in der Cloud ausführen..
Mehr zu diesem Wert
|
|
Thema | ||
|---|---|---|---|
| 1 | DAX Prognose / Germany 40 | -1,01 % | |
| 2 | MICRON TECHNOLOGY Hauptdiskussion | +4,84 % | |
| 3 | Security der nächsten Generation | -2,38 % | |
| 4 | Aktuelles zu Almonty Industries | -11,23 % | |
| 5 | VONOVIA Hauptdiskussion | -1,09 % | |
| 6 | Quantum Emotion, redefrei | -2,38 % | |
| 7 | APLD - 2024 | +8,44 % | |
| 8 | ALMONTY INDUSTRIES INC. Hauptdiskussion | -11,23 % | |
| 9 | FREYR BATTERY | ±0,00 % | |
| 10 | MICROSTRATEGY Hauptdiskussion | +1,14 % | Alle Diskussionen |
|
|
Thema | ||
|---|---|---|---|
| 1 | MICRON TECHNOLOGY Hauptdiskussion | +3,23 % | |
| 2 | Security der nächsten Generation | -2,38 % | |
| 3 | Aktuelles zu Almonty Industries | -11,23 % | |
| 4 | VONOVIA Hauptdiskussion | -1,09 % | |
| 5 | Quantum Emotion, redefrei | -2,38 % | |
| 6 | APLD - 2024 | +8,44 % | |
| 7 | ALMONTY INDUSTRIES INC. Hauptdiskussion | -11,23 % | |
| 8 | FREYR BATTERY | ±0,00 % | |
| 9 | MICROSTRATEGY Hauptdiskussion | +1,14 % | |
| 10 | Gamestop, das Ende naht | -1,93 % | Alle Diskussionen |