Nach erneutem Zwischenfall: OpenAI pausiert KI-Training

Der ChatGPT-Entwickler OpenAI hat nach einem neuen Sicherheitsvorfall das Training seiner leistungsstärksten KI-Modelle vorübergehend gestoppt. In einem Test schaffte es ein KI-Modell, Antworten von einem externen Chatbot zu bekommen, obwohl es eigentlich keinen Zugang zum Internet haben sollte.

Das Modell nutzte dafür eine Lücke in den Netzwerkeinstellungen aus, wie OpenAI erklärte. Das Training soll erst fortgesetzt werden, wenn die Lücke geschlossen ist.

Australien: OpenAI-Agent hackt Regierungsportal

OpenAI bezeichnete den Vorfall als weniger schwerwiegend als einige frühere Fälle. Trotzdem sei er der erste Vorfall dieser Art, seit das Unternehmen seine Sicherheitsvorkehrungen nach einem Angriff auf die KI-Firma Hugging Face verschärft hatte. Der Test zeige, an welchen Stellen die Schutzmaßnahmen weiter verbessert werden müssen.

In dem Test sollte das KI-Modell anhand bestimmter Hinweise Informationen über eine Person finden, die einen Blogbeitrag veröffentlicht hatte. Dafür konnte es eine nachgebildete Internetumgebung nutzen, die vom echten Internet abgeschirmt war.

Als die Suche dort keine Ergebnisse brachte, versuchte das Modell laut OpenAI, unter anderem Google zu erreichen. Das funktionierte wie vorgesehen nicht. Das Modell entdeckte jedoch eine Lücke: Über den sogenannten DNS-Resolver der Testumgebung konnte es Anfragen an einen Chatbot im offenen Internet senden.

Zuletzt hatte die australische Regierung für Schlagzeilen gesorgt, als sie mitteilte, dass ein KI-System von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen war. Nach dem Hackerangriff hat Australien nun die Chefs von OpenAI und des Konkurrenzunternehmens Anthropic vor einen Untersuchungsausschuss des Senats geladen.

Derweil deutet sich an, dass noch viele weitere Enthüllungen über eigenständige Hacking-Aktivitäten der KI von OpenAI folgen könnten. Man habe "Dutzende" Organisationen informiert, mit deren Webseiten die OpenAI-Software auf ungeplante Weise "interagiert" habe, so das Unternehmen. "Einige der betroffenen Webseiten werden von Regierungen, Universitäten, Behörden und anderen Institutionen betrieben", hieß es weiter. Man überlasse es ihnen, die Vorfälle öffentlich zu machen. 

Mehr zum Thema – Bill Gates: KI ist mächtig genug, um eine Milliarde Tote zu verursachen