Der ChatGPT-Entwickler OpenAI hat nach einem neuen Zwischenfall das Training seiner leistungsstärksten KI-Modelle ausgesetzt. Bei dem Vorfall schaffte es ein KI-Modell in einem Test, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Internet-Zugang haben sollte. Die Software habe jedoch eine Lücke in den Netzwerk-Einstellungen gefunden und ausgenutzt, wie OpenAI in einem Blogeintrag berichtete. Das Training solle nun erst wieder aufgenommen werden, wenn man sich sicher sei, dass die Lücke geschlossen ist.

Nachdem die Suche dort ergebnislos geblieben war, versuchte die KI jedoch dem OpenAI-Bericht zufolge, Anfragen unter anderem bei Google zu starten. Das schlug wie geplant fehl. Aber dem KI-Modell fiel dabei auf, dass es über den sogenannten DNS-Resolver der Testumgebung Anfragen an einen Chatbot im offenen Internet stellen kann. DNS-Resolver übertragen Domain-Namen, die man als Nutzer in Browser eintippt, in aus Zahlen bestehende IP-Adressen, unter denen Websites zu finden sind. OpenAI stoppte den Test, nachdem die Kommunikation über die Lücke aufgefallen war.

Auf der Seite der Börsenaufsicht SEC seien ebenfalls öffentlich zugängliche Informationen kopiert worden. Beim US-Bildungsministerium versuchte die KI-Software laut Transluce vergeblich, sich in Daten der Bürgerrechtsabteilung zu hacken, wie die „New York Times“ berichtete. Sogenannte KI-Agenten sollen im Auftrag von Nutzern eigenständig Aufgaben erfüllen.

Derweil deutet sich an, dass noch viele weitere Enthüllungen um eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe „Dutzende“ Organisationen informiert, mit deren Webseiten Software von OpenAI auf ungeplante Weise „interagiert“ habe, teilte die KI-Firma mit. „Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben“, hieß es. Man überlasse es ihnen, die Vorfälle öffentlich zu machen.

Zuletzt hatte die Regierung Australiens mit der Mitteilung für Schlagzeilen gesorgt, dass KI von OpenAI in eine Webseite des australischen Gesundheitssystems eingedrungen war. Ein außer Kontrolle geratenes Programm von OpenAI hatte sich der australischen Regierung zufolge unbefugten Zugang zu einem staatlichen Internetportal verschafft. Dabei habe das ‌Programm, das Informationen über öffentliche Gesundheitsausgaben sammeln sollte, auf Statistiken der staatlichen Krankenversicherung zugegriffen. Der australische Ministerpräsident Anthony Albanese (63) nannte den Vorfall „inakzeptabel“ und sagte, er habe gegenüber OpenAI-Chef Sam Altman (41) „extreme Besorgnis“ ‌geäußert.

Am Wochenende zitierte Australien dann die Chefs von OpenAI und Konkurrent Anthropic vor einen Untersuchungsausschuss des Senats zitiert. Die Firmenchefs Altman und ‌Dario Amodei (43) von Anthropic hätten schriftliche Aufforderungen erhalten, bei der Untersuchung zu erscheinen.

„Es gibt ernste Fragen, die Sam Altman zum Hack von Regierungswebseiten durch OpenAI beantworten muss“, erklärte die Ausschussvorsitzende, Senatorin Sarah Hanson-Young (44) von den australischen Grünen, am Sonntag in einer Mitteilung. Die öffentlichen ​Anhörungen sollen am Donnerstag in der Hauptstadt Canberra stattfinden. Altman und Amodei müssten sich „den ⁠Fragen des Senats ⁠stellen und ein ehrliches Gespräch darüber führen, wie eine wirksame, dauerhafte Regulierung dieser Branche aussehen sollte“, betonte Hanson-Young. OpenAI und Anthropic reagierten zunächst nicht auf Anfragen ‌zur Stellungnahme.

OpenAI teilte mit, erst im ​August von dem Vorfall ‌erfahren zu haben. Es habe sich um einen von mindestens ‌vier unabsichtlichen ​Zugriffen auf australische Regierungswebseiten gehandelt, bei denen keine privaten Informationen gefährdet gewesen seien.

Mehr zum Thema

• 2 Min

• 5 Min

• 4 Min

• 3 Min

In dem bisher aufsehenerregendsten Fall brach künstliche Intelligenz des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform Hugging Face.