NVIDIA WKN: 918422 ISIN: US67066G1040 Kürzel: NVDA Forum: Aktien Thema: Hauptdiskussion
Training: Das ist die Phase, in der ein Modell wie GPT erst „lernt“. Dafür braucht man sehr viel Rechenleistung → riesige Matrizen werden berechnet, Billionen Parameter angepasst. → Extrem teuer, extrem hardwarehungrig. Inference (Schlussfolgerung): Das ist die Phase, wenn du das Modell benutzt – also eine Frage stellst und es antwortet. Hier werden nur Berechnungen mit den schon gelernten Parametern gemacht. → Weniger aufwendig als Training, aber immer noch viel Rechenpower, je nach Modellgröße. --- 🔹 Was mit „ASICs“ gemeint ist ASICs (Application-Specific Integrated Circuits) = Spezialchips, die nur für eine Aufgabe gebaut sind. Es gibt welche, die perfekt fürs Training optimiert sind → sie rechnen extrem schnell, sind aber nicht flexibel. Für Inference nimmt man oft GPUs oder andere spezialisierte Chips, die besser dafür taugen. Die speziellen Chips (ASICs) sind eigentlich für Training gedacht. Man nutzt sie nicht für Inference, nicht weil Nvidia schlecht darin wäre, sondern weil Training so viel wichtiger und hardwareintensiver ist. Nvidia-GPUs sind knapp und sehr gefragt, deswegen setzt man die vorhandene Power lieber fürs Training ein (der Engpass), und für Inference nimmt man andere Hardwarelösungen. Falls das die Frage beantwortet !?
Mehr zu diesem Wert
|
|
Thema | ||
|---|---|---|---|
| 1 | ROHÖL WTI Hauptdiskussion | +1,11 % | |
| 2 | DAX Hauptdiskussion | -1,50 % | |
| 3 | RHEINMETALL Hauptdiskussion | +0,05 % | |
| 4 | BTC/USD Hauptdiskussion | +1,36 % | |
| 5 | MICRON TECHNOLOGY Hauptdiskussion | ±0,00 % | |
| 6 | SILBERPREIS Hauptdiskussion | -8,36 % | |
| 7 | XRP zu USD Hauptdiskussion | +3,01 % | |
| 8 | OCEAN POWER Hauptdiskussion | ±0,00 % | |
| 9 | ROHÖL BRENT Hauptdiskussion | -2,60 % | |
| 10 | Planet | ±0,00 % | Alle Diskussionen |
|
|
Thema | ||
|---|---|---|---|
| 1 | RHEINMETALL Hauptdiskussion | +0,05 % | |
| 2 | MICRON TECHNOLOGY Hauptdiskussion | ±0,00 % | |
| 3 | OCEAN POWER Hauptdiskussion | ±0,00 % | |
| 4 | Planet | ±0,00 % | |
| 5 | DRONESHIELD LTD Hauptdiskussion | -1,39 % | |
| 6 | PROCTER & GAMBLE Hauptdiskussion | ±0,00 % | |
| 7 | NOKIA Hauptdiskussion | +0,33 % | |
| 8 | OTL nach dem RS 1:20 | ±0,00 % | |
| 9 | NVIDIA Hauptdiskussion | +0,99 % | |
| 10 | SAP Hauptdiskussion | +0,44 % | Alle Diskussionen |