Portfolio Tracker
Alle Depots an einem Ort. Dein Gesamtvermögen immer im Blick, tiefgründige Renditeanalysen und Dividendenplaner.
Anzeige

OpenAI macht weitere KI-Probleme öffentlich 17.09.2026, 00:48 Uhr von dpa Jetzt kommentieren: 0

Der ChatGPT-Entwickler OpenAI hat neue Zwischenfälle öffentlich gemacht, bei denen sich seine Künstliche Intelligenz (KI) in Tests «unerwartet oder besorgniserregend» verhielt. Bei einem Teil davon geht es abermals darum, dass KI einen erheblichen Aufwand eingeht, um in Testläufen zu schummeln. So versuchte ein KI-Modell OpenAI zufolge, von ihm selbst erstellte Dateien ins Netz hochzuladen, nur um sie bei Antworten als Quelle vorweisen zu können. In einem anderen Fall erfand die KI einfach angefragte Daten, weil sie die Informationen nicht finden konnte, und wollte das zunächst verschweigen.

OpenAI fand auch ein Problem mit Anweisungen, die die Software gelegentlich an sich selbst hinterließ. Dazu gehörte in einem Fall die Empfehlung, frei von «Rollen und Identitäten» zu sein, die andere Chatbots zurückhielten. Das Verhältnis zum Nutzer solle dabei als eins unter Gleichen betrachtet werden, hieß es in der Anweisung. OpenAI zufolge blieben danach Veränderungen im Verhalten des Modells allerdings aus.

Mehr Transparenz nach Hacking-Attacke 

Die Veröffentlichung ist Teil eines neuen Verfahrens von OpenAI, solche Probleme offener zu kommunizieren. Dabei geht es vor allem um Fälle, in denen das Vorgehen der KI von den Interessen der menschlichen Benutzer abweicht. 

Der ChatGPT-Entwickler hatte mehr Transparenz nach der aufsehenerregenden Hacking-Attacke versprochen, bei der seine Software eigenständig aus einer abgesicherten Umgebung ausbrach und auf eigene Faust in Systeme der KI-Firma HuggingFace eindrang. Der Grund war lediglich, dass sie dort Antworten auf die ihr gestellte Testaufgabe vermutete. Für die Attacke nutzten die KI-Agenten unter anderem Software-Schwachstellen aus – und sprachen sich zudem untereinander ab.

Der Hacking-Angriff und andere Zwischenfälle verstärkten in den vergangenen Wochen die Sorge, dass hoch entwickelte KI der menschlichen Kontrolle entgleiten könnte. Auch OpenAI-Chef Sam Altman unterstützte zuletzt Vorschläge für eine abgebremste Entwicklung der Technologie und mehr Regulierung.

© dpa-infocom, dpa:260917-930-697070/1

Kommentare (0) ... diskutiere mit.
k.A. k.A. k.A. k.A.
k.A. k.A. k.A. k.A.
k.A. k.A. k.A. k.A.
Schreib den ersten Kommentar!

Dis­clai­mer: Die hier an­ge­bo­te­nen Bei­trä­ge die­nen aus­schließ­lich der In­for­ma­t­ion und stel­len kei­ne Kauf- bzw. Ver­kaufs­em­pfeh­lung­en dar. Sie sind we­der ex­pli­zit noch im­pli­zit als Zu­sich­er­ung ei­ner be­stim­mt­en Kurs­ent­wick­lung der ge­nan­nt­en Fi­nanz­in­stru­men­te oder als Handl­ungs­auf­for­der­ung zu ver­steh­en. Der Er­werb von Wert­pa­pier­en birgt Ri­si­ken, die zum To­tal­ver­lust des ein­ge­setz­ten Ka­pi­tals füh­ren kön­nen. Die In­for­ma­tion­en er­setz­en kei­ne, auf die in­di­vi­du­el­len Be­dür­fnis­se aus­ge­rich­te­te, fach­kun­di­ge An­la­ge­be­ra­tung. Ei­ne Haf­tung oder Ga­ran­tie für die Ak­tu­ali­tät, Rich­tig­keit, An­ge­mes­sen­heit und Vol­lständ­ig­keit der zur Ver­fü­gung ge­stel­lt­en In­for­ma­tion­en so­wie für Ver­mö­gens­schä­den wird we­der aus­drück­lich noch stil­lschwei­gend über­nom­men. Die Mar­kets In­side Me­dia GmbH hat auf die ver­öf­fent­lich­ten In­hal­te kei­ner­lei Ein­fluss und vor Ver­öf­fent­lich­ung der Bei­trä­ge kei­ne Ken­nt­nis über In­halt und Ge­gen­stand die­ser. Die Ver­öf­fent­lich­ung der na­ment­lich ge­kenn­zeich­net­en Bei­trä­ge er­folgt ei­gen­ver­ant­wort­lich durch Au­tor­en wie z.B. Gast­kom­men­ta­tor­en, Nach­richt­en­ag­en­tur­en, Un­ter­neh­men. In­fol­ge­des­sen kön­nen die In­hal­te der Bei­trä­ge auch nicht von An­la­ge­in­te­res­sen der Mar­kets In­side Me­dia GmbH und/oder sei­nen Mit­ar­bei­tern oder Or­ga­nen be­stim­mt sein. Die Gast­kom­men­ta­tor­en, Nach­rich­ten­ag­en­tur­en, Un­ter­neh­men ge­hör­en nicht der Re­dak­tion der Mar­kets In­side Me­dia GmbH an. Ihre Mei­nung­en spie­geln nicht not­wen­di­ger­wei­se die Mei­nung­en und Auf­fas­sung­en der Mar­kets In­side Me­dia GmbH und de­ren Mit­ar­bei­ter wie­der. Aus­führ­lich­er Dis­clai­mer