Macht die Blackbox KI auf 24.09.2026, 06:43 Uhr von dpa-AFX Jetzt kommentieren: 0

Nach den Warnungen vor Gefahren Künstlicher Intelligenz hält es die Geschäftsführerin des Hasso-Plattner-Instituts (HPI) für notwendig, dass Tech-Konzerne ihre Systeme für eine Überprüfung unabhängiger Experten öffnen. "Ich würde den Tech-Konzernen mit ihren Warnungen gerne sagen: Okay, dann macht die Blackbox, die wir heute bei euch sehen, macht sie auf, lasst uns reinschauen", sagte die neue Managerin an dem IT-Forschungsinstitut in Potsdam, Daniela Gerd tom Markotten, der Deutschen Presse-Agentur.

"Dazu sollte ein unabhängiges Expertenteam als Prüfaufsicht eingerichtet werden und Europas Spitzenforscher mit am Tisch sitzen." Wenn die Tech-Konzerne ihre Warnungen ernst meinten, sollten sie auch nichts dagegen haben, solche Experten dazuzuholen, so Gerd tom Markotten.

HPI-Managerin: Zugang zu Modellen bekommen

Die Gutachter - Wissenschaftler ohne wirtschaftliches Interesse - sollten Zugang zu allen Daten und Modellen haben. "Das wäre ein Lösungsvorschlag." Wenn die Tech-Konzerne selbst dafür Unternehmen beauftragten, "können wir nicht sicher sein, dass die relevanten Informationen zu uns durchdringen", meint Gerd tom Markotten.

Die 51-Jährige war Vorständin bei der Deutschen Bahn für Digitalisierung und Technik und Daimler-Managerin. Seit August ist die promovierte Wirtschaftsingenieurin Geschäftsführerin am Hasso-Plattner-Institut, das seine KI-Forschung weiter ausbauen will.

Untergangsszenarien lösen Verunsicherung aus

Zuletzt hatten nach eigenständigen Hacking-Attacken durch KI-Software führende Labore in den USA wie Anthropic und der ChatGPT-Entwickler OpenAI sich dafür ausgesprochen, die Entwicklung Künstlicher Intelligenz zu bremsen. Sie sehen das Risiko, dass die Technologie der Kontrolle durch Menschen entgleiten könnte.

"Die Verunsicherung, insbesondere in der Bevölkerung, muss man aus unserer Sicht ernst nehmen", sagt Gerd tom Markotten. Es sei deshalb der sinnvollste Weg, dafür zu sorgen, diese Technologie zu erklären und sie transparent zu machen. "Einbremsen lässt sich die Technologie nur schwer, aber begleiten."

Das Bundesdigitalministerium verwies angesichts von Bedrohungsszenarien auf das neu gegründete nationale KI-Sicherheitsinstitut, das sicherheitsrelevante Risiken mit Blick auf KI frühzeitig identifizieren soll. Das Bundesamt für Sicherheit in der Informationstechnik (BSI) teilte mit: "Hersteller von KI-Modellen sind aus Sicht des BSI in der Pflicht, KI-Agenten enge und sichere Grenzen zu setzen: mit klaren Rollen, begrenzten Rechten und verbindlichen Prüfmechanismen."

Managerin: Unkontrollierbare Super-KI nicht in Sicht

Die Managerin warnt vor Alarmismus und plädiert für eine "Versachlichung" der Debatte. "Eine Super-KI, die unkontrollierbar ist, ist im Moment nicht in Sicht." Die Technologie an sich sei erst einmal neutral und verfolge selbst keine bösen Absichten. "Sie versucht ein Problem zu lösen, eine Aufgabe, die ihr übertragen wurde."

Entscheidend sei, dass der Mensch in kritischen Situationen die letztendliche Entscheidung treffe. "Die KI kann Empfehlungen abgeben, aber am Ende muss ein Mensch sagen: wir machen das oder wir machen das nicht." Die KI müsse ein Werkzeug bleiben, das den Menschen diene.