NVIDIA WKN: 918422 ISIN: US67066G1040 Kürzel: NVD Forum: Aktien Thema: Hauptdiskussion
Training: Das ist die Phase, in der ein Modell wie GPT erst „lernt“. Dafür braucht man sehr viel Rechenleistung → riesige Matrizen werden berechnet, Billionen Parameter angepasst. → Extrem teuer, extrem hardwarehungrig. Inference (Schlussfolgerung): Das ist die Phase, wenn du das Modell benutzt – also eine Frage stellst und es antwortet. Hier werden nur Berechnungen mit den schon gelernten Parametern gemacht. → Weniger aufwendig als Training, aber immer noch viel Rechenpower, je nach Modellgröße. --- 🔹 Was mit „ASICs“ gemeint ist ASICs (Application-Specific Integrated Circuits) = Spezialchips, die nur für eine Aufgabe gebaut sind. Es gibt welche, die perfekt fürs Training optimiert sind → sie rechnen extrem schnell, sind aber nicht flexibel. Für Inference nimmt man oft GPUs oder andere spezialisierte Chips, die besser dafür taugen. Die speziellen Chips (ASICs) sind eigentlich für Training gedacht. Man nutzt sie nicht für Inference, nicht weil Nvidia schlecht darin wäre, sondern weil Training so viel wichtiger und hardwareintensiver ist. Nvidia-GPUs sind knapp und sehr gefragt, deswegen setzt man die vorhandene Power lieber fürs Training ein (der Engpass), und für Inference nimmt man andere Hardwarelösungen. Falls das die Frage beantwortet !?
Mehr zu diesem Wert
|
|
Thema | ||
|---|---|---|---|
| 1 | VONOVIA Hauptdiskussion | -1,33 % | |
| 2 | RHEINMETALL Hauptdiskussion | -0,97 % | |
| 3 | NVIDIA Hauptdiskussion | +0,98 % | |
| 4 | ATOS Hauptdiskussion | -2,71 % | |
| 5 | DAX Prognose / Germany 40 | -0,48 % | |
| 6 | ORACLE Hauptdiskussion | -2,14 % | |
| 7 | Keel Infrastructure Corporation Hauptdiskussion | -2,05 % | |
| 8 | Ulis leckere Gerresheimer Trüffel | +3,51 % | |
| 9 | Der Gold Club von Susiwong | -3,11 % | |
| 10 | DAX / Germany 40 Hauptdiskussion | -0,48 % | Alle Diskussionen |
|
|
Thema | ||
|---|---|---|---|
| 1 | VONOVIA Hauptdiskussion | -1,33 % | |
| 2 | RHEINMETALL Hauptdiskussion | -1,07 % | |
| 3 | ATOS Hauptdiskussion | -2,71 % | |
| 4 | NVIDIA Hauptdiskussion | +1,06 % | |
| 5 | ORACLE Hauptdiskussion | -2,13 % | |
| 6 | Ulis leckere Gerresheimer Trüffel | +3,67 % | |
| 7 | Keel Infrastructure Corporation Hauptdiskussion | -2,80 % | |
| 8 | Antimony Resources Corp. | +6,08 % | |
| 9 | Renk und alles was dazugehört | -3,39 % | |
| 10 | BASF Hauptdiskussion | -2,55 % | Alle Diskussionen |