NVIDIA WKN: 918422 ISIN: US67066G1040 Kürzel: NVDA Forum: Aktien Thema: Hauptdiskussion
Diese Werbung richtet sich nur an Personen mit Wohn-/Geschäftssitz in Deutschland. Der jeweilige Basisprospekt, etwaige Nachträge, die Endgültigen Bedingungen sowie das maßgebliche Basisinformationsblatt sind auf www.dzbank-wertpapiere.de veröffentlicht. Beachten Sie auch die weiteren Hinweise zu dieser Werbung.
AMDs MI300X übertrifft NVIDIAs H100 bei LLM-Inferenz AMDs Flaggschiff-Beschleuniger MI300X wurde mit großer Spannung erwartet. Angesichts seiner unübertroffenen Rohspezifikationen bleibt die drängende Frage: Kann er NVIDIAs Hopper-Architektur bei realen KI-Workloads übertreffen? Wir können einige spannende erste Ergebnisse mit Ihnen teilen. Im vergangenen Monat haben TensorWave und MK1 eng zusammengearbeitet, um die Leistung der AMD-Hardware für KI-Inferenz freizusetzen. Zu Beginn konzentrierten wir uns auf Mixture of Expert (MoE)-Architekturen aufgrund ihrer Rechenleistung und Beliebtheit – sie werden insbesondere von Mistral, Meta, Databricks und X.ai für ihre leistungsstärksten Open-Source-LLMs verwendet. Die ersten Ergebnisse sind beeindruckend: Mit der Inferenzsoftware von MK1 erreicht der MI300X im Vergleich zum H100 SXM mit vLLM auf Mixtral 8x7B für einen realen Chat-Anwendungsfall einen um 33 % höheren Durchsatz. Obwohl das Software-Ökosystem von NVIDIA ausgereifter ist, ist klar, dass AMD bereits ein beeindruckender Konkurrent auf dem KI-Markt ist. Wenn man die Hardwareverfügbarkeit und die Kosten berücksichtigt, erweist sich der MI300X als attraktive Option für Unternehmen, die groß angelegte Inferenz in der Cloud ausführen..
Mehr zu diesem Wert
|
|
Thema | ||
|---|---|---|---|
| 1 | BYD Hauptdiskussion | -1,17 % | |
| 2 | YANDEX Hauptdiskussion | +4,13 % | |
| 3 | WISeSat Space Hldgs | +37,03 % | |
| 4 | ADVENTRX PHARMA Hauptdiskussion | +4,94 % | |
| 5 | TASER Hauptdiskussion | -1,36 % | |
| 6 | VERBIO Hauptdiskussion | -0,96 % | |
| 7 | Iris Energy | +3,15 % | |
| 8 | AFC ENERGY Hauptdiskussion | -2,12 % | |
| 9 | DeFi Technologies: Eine Perle? | -5,66 % | |
| 10 | Goldpreis Hauptdiskussion | -0,16 % | Alle Diskussionen |
|
|
Thema | ||
|---|---|---|---|
| 1 | BYD Hauptdiskussion | -1,17 % | |
| 2 | YANDEX Hauptdiskussion | +4,08 % | |
| 3 | WISeSat Space Hldgs | +37,03 % | |
| 4 | ADVENTRX PHARMA Hauptdiskussion | +4,94 % | |
| 5 | TASER Hauptdiskussion | -1,36 % | |
| 6 | VERBIO Hauptdiskussion | -1,33 % | |
| 7 | Iris Energy | +3,15 % | |
| 8 | AFC ENERGY Hauptdiskussion | -2,12 % | |
| 9 | DeFi Technologies: Eine Perle? | -5,66 % | |
| 10 | BMW Hauptdiskussion | -5,34 % | Alle Diskussionen |