Firmenchefs warnen erstmals bei UN-Sicherheitsrat vor Risiken von KI 24.09.2026, 06:59 Uhr von dpa-AFX Jetzt kommentieren: 0

Nach dem Schock eigenständiger Hacking-Attacken durch Künstliche Intelligenz (KI) haben die Chefs der größten US-amerikanischen KI-Firmen erstmals vor dem UN-Sicherheitsrat vor den Risiken der Technologie gewarnt. "Wir sind an einem Scheideweg angelangt", sagte der Chef des ChatGPT-Entwicklers OpenAI, Sam Altman, vor dem Gremium in New York. "Dieser Zeitpunkt verlangt nach extremer Vorsicht." Es gebe besonders zwei große Risiken: den Verlust der Kontrolle über KI und die "Konzentration von zu viel Macht in zu wenigen Händen".

KI sei "die größte Sicherheitsherausforderung, mit der die Welt heute konfrontiert ist", sagte der per Video zugeschaltete Chef des KI-Labors Anthropic, Dario Amodei. "Bei schlechter Handhabung glaube ich, dass KI ein Risiko für die gesamte Menschheit sein könnte." Es war der erste Auftritt der Firmenchefs vor dem Sicherheitsrat und das erste Mal, dass sich das Gremium während der Generaldebatte - der wichtigsten UN-Woche des Jahres - mit dem Thema beschäftigte.

Nach Hacking-Attacke Bereitschaft zur Entwicklungsverlangsamung

Zuletzt hatte es unter anderem eine aufsehenerregende Hacking-Attacke gegeben, bei der eine Software von OpenAI in einem Testlauf aus der abgesicherten Umgebung ausgebrochen und auf eigene Faust in Systeme der KI-Firma Hugging Face eingedrungen war. Daraufhin hatten sich große amerikanische KI-Firmen wie OpenAI und Anthropic dazu bereit erklärt, die Entwicklung der Technologie zu verlangsamen - was Kritiker schon lange gefordert hatten.

OpenAI-Chef Altman betonte seine Bereitschaft dazu nun erneut. "Wir haben in der Vergangenheit schon einseitig verlangsamt. Wir werden das in Zukunft wieder tun." Niemand sollte KI-Modelle entwickeln, von denen er nicht garantieren könnte, dass er sie unter menschlicher Kontrolle halten könne. Altman gab aber auch zu: "Wir haben nicht alle Antworten und sind offen für jegliche bessere Idee."

Anthropic-Chef Amodei forderte globale kooperative Maßnahmen zur Eindämmung der Risiken - unter anderem mit gemeinsamen Standards, Inspektoren, mehr Transparenz und einer Einigung darauf, KI nicht für die Entwicklung von biologischen Waffen zu nutzen.

Amodei hatte schon in den vergangenen Jahren immer wieder vor Risiken bei der Entwicklung Künstlicher Intelligenz gewarnt - und war dafür aus Teilen der KI-Branche zum Teil heftig kritisiert worden. Ein Argument von Befürwortern eines hohen Tempos in den USA - etwa auch im Weißen Haus von US-Präsident Donald Trump - ist der Wettlauf mit China.