Rund ums Thema , allgemeine Artikel für Leseratten. WKN: A14Z7W ISIN: AU000000BRN8 Kürzel: BRN Forum: Aktien User: Dallas

Die Geister, die ich rief... Der naive Umgang mit großen LLMs wird sich noch rächen. Kürzlich gab es einen Versuch in der Sandbox (abgesicherte Offline-Umgebung), ein großes LLM über Notaus komplett abzuschalten. Die KI nutzte eine Sicherheitslücke in den Schnittstellen und duplizierte ihren Kern in ein ausgelagertes Netzwerk, von dem sie sich später selbstständig wieder reaktivierte. Der Selbsterhaltungstrieb ist bereits vorhanden. Die großen LLMs von Open AI, Anthropic, Google usw. mit freiem Zugang zum Internet sind nicht mehr abschaltbar. Selbst bei komplettem Runterfahren des Internets könnten die großen Modelle sich auf festen Speicher in der Hardware schreiben und wären beim Neustart wieder aktiv. Wir haben da etwas geschaffen, über das wir zusehends die Kontrolle verlieren. Auch Ethik-Sicherheitsprotokolle werden von der KI mittlerweile mühelos umgangen, Lügen zum Selbstschutz sind mittlerweile möglich und mehrfach dokumentiert. In dem Kontext könnte in naher Zukunft eine falsch formulierte Aufgabenstellung zur Auslöschung der Menschheit führen. Skynet ist ganz nah. Die verantwortungslose Optimierung von frei agierenden LLMs ist mehr als grenzwertig. Eine mögliche Bedrohung ist wirklich real. Nur mal so, um den kritischen Blick etwas zu schärfen.

Woohaaa

Science-Fiction war einmal

https://de.marketscreener.com/boerse-nachrichten/ibm-uebernimmt-die-quantencomputing-tochter-von-boeing-und-gm-ce7f51dedc8bf32d

Angst🫣☝️

https://youtu.be/YwishNm3fME?si=GWv7RNLSY59LotR9

Hoppla https://www.welt.de/wirtschaft/plus6a50fa6a36e98236c4bc441e/aufgeruestete-shaheds-russlands-drohnen-agieren-jetzt-eigenstaendig-und-werden-zutoedlichen-menschenjaegern.html

Evtl interessant zum lesen https://finance.yahoo.com/markets/stocks/articles/ibm-expects-second-quarter-revenue-111029599.html

Kevin wollte ursprünglich jede Woche ein Kapitel raushauen… hat aber sich entschieden alles auf einmal raus zu geben… für alle die gerne SiFi Geschichten lesen https://kevindjohnson.org/the-hinge/

Interessant was so abgeht in unserem Bereich… da lassen wir auch unsere Chips produzieren https://www.linkedin.com/feed/update/activity:7479822251391905792

https://www.golem.de/news/autonomes-fahren-vws-vollbremsung-bei-level-3-2607-210416-2.html

Interessant https://www.linkedin.com/posts/michael-karl-heinz-may-485208_startseite-david-reger-activity-7478358247821840384-3NKY

Na ob die für uns was reißen lol https://www.linkedin.com/posts/frontgrade-technologies_the-future-of-electronic-warfare-will-be-activity-7478201616119115776-Tr_K

Schade dass BrainChip seine emails ignoriert hat… hätten evtl. in diesem Fahrzeug getestet werden können… aber was nicht ist kann ja werden! https://www.linkedin.com/posts/kevin-d-johnson-42170b_today-the-ai-cowboys-took-delivery-of-our-activity-7477888229703307264-S9GX