Aktien und Saunaclub alla Luci Forum: Community User: WALL.E

Heute in den News zu Nvidia/Alibaba: Alibaba Cloud hat ein neues Computing-Pooling-System namens Aegaeon vorgestellt, das Berichten zufolge den Bedarf an Nvidia-GPUs bei der Bereitstellung seiner KI-Modelle um 82 % senkt. Diese Innovation wurde in einem Forschungsbeitrag auf dem 31. Symposium on Operating Systems Principles (SOSP) vorgestellt und zielt darauf ab, die bei der Bereitstellung gleichzeitiger Large Language Model (LLM)-Workloads häufig auftretende Ressourceneffizienz zu beheben. Das Aegaeon-System nutzt automatische Skalierung auf Token-Ebene und Ressourcenpooling, sodass eine einzelne Nvidia H20-GPU bis zu sieben verschiedene Modelle gleichzeitig unterstützen kann, was eine erhebliche Steigerung gegenüber den bisherigen maximal zwei oder drei Modellen darstellt. Während der Beta-Tests auf dem Modellmarktplatz von Alibaba Cloud reduzierte das System die Anzahl der erforderlichen Nvidia H20-GPUs für Modelle mit bis zu 72 Milliarden Parametern von 1.192 auf 213. Diese erhebliche Effizienzsteigerung senkt die Kosten für die Hardwarebeschaffung und steht im Einklang mit Chinas Bestrebungen nach technologischer Selbstversorgung und Optimierung der KI-Infrastruktur.

Guten Morgen und ein fröhliches Börsenchaos mit der 🍊

Moin Leute 🥳🍀🙂👋🌞🤸‍♀️

Moin 🥳

Schönen Sonntag an alle 🥳

🗣🔊 Sooooonntaaaaaag 🌞 Guten Morgen alle miteinander 🥳🍀🙂👋🤸‍♀️.

Nöööööööööö 🤗

Ich nehme an kongsberg hast du schon ? 😄

Ne ne der soll ruhig Rum Pöbeln

Bingo. Danke 👍👍 Wie es scheint aber gerade doch hart überbewertet. Jetzt kann sie aber schön auf meine Wachlist

To the Moin und Wochende ☕ Auf das Trump weiter 🌮😉 isst.

Moin Moin 🥳

Moin 😸

Prysmian?

🔊🗣 Früüüüüühsport 🏋‍♂️🤸🏃