Aktien und Saunaclub alla Luci Forum: Community User: WALL.E

Wollt mal wieder vorbei schauen wie's so ausschaut 😉

Heute in den News zu Nvidia/Alibaba: Alibaba Cloud hat ein neues Computing-Pooling-System namens Aegaeon vorgestellt, das Berichten zufolge den Bedarf an Nvidia-GPUs bei der Bereitstellung seiner KI-Modelle um 82 % senkt. Diese Innovation wurde in einem Forschungsbeitrag auf dem 31. Symposium on Operating Systems Principles (SOSP) vorgestellt und zielt darauf ab, die bei der Bereitstellung gleichzeitiger Large Language Model (LLM)-Workloads häufig auftretende Ressourceneffizienz zu beheben. Das Aegaeon-System nutzt automatische Skalierung auf Token-Ebene und Ressourcenpooling, sodass eine einzelne Nvidia H20-GPU bis zu sieben verschiedene Modelle gleichzeitig unterstützen kann, was eine erhebliche Steigerung gegenüber den bisherigen maximal zwei oder drei Modellen darstellt. Während der Beta-Tests auf dem Modellmarktplatz von Alibaba Cloud reduzierte das System die Anzahl der erforderlichen Nvidia H20-GPUs für Modelle mit bis zu 72 Milliarden Parametern von 1.192 auf 213. Diese erhebliche Effizienzsteigerung senkt die Kosten für die Hardwarebeschaffung und steht im Einklang mit Chinas Bestrebungen nach technologischer Selbstversorgung und Optimierung der KI-Infrastruktur.

Ich nehme an kongsberg hast du schon ? 😄

Unterwasserenergie, Synthetic Aperture Sonar, LiDAR | Kraken Robotics https://share.google/38iBJ03KPRs6EzFtv

Prysmian?