OpenAI stoppt Training nach neuem Sicherheitsvorfall
Ein KI-Modell von OpenAI hat in einem Test eine Netzwerklücke genutzt, um mit einem externen Chatbot zu kommunizieren. Der Konzern setzt das Training seiner leistungsstärksten Modelle vorerst aus und informierte Dutzende Organisationen über ungeplante Interaktionen.
Der ChatGPT-Entwickler OpenAI hat das Training seiner leistungsstärksten KI-Modelle ausgesetzt, nachdem ein Modell in einem abgeschirmten Test eine Lücke in den Netzwerkeinstellungen gefunden und genutzt hatte, um Antworten von einem externen Chatbot zu erhalten. Das Unternehmen teilte mit, das Training werde erst wieder aufgenommen, wenn die Lücke geschlossen sei. Der Vorfall sei weniger gravierend als frühere, aber der erste seit der Verschärfung der Sicherheitsvorkehrungen nach einer Hacking-Attacke auf die KI-Firma Hugging Face.
In dem Test-Szenario sollte das KI-Modell anhand von Hinweisen Informationen über eine Person finden, die einen Blogpost veröffentlicht hatte. Dafür stand ihm eine Web-Imitation in einer abgeschirmten Umgebung zur Verfügung. Nachdem die Suche dort ergebnislos blieb, versuchte die KI, Anfragen unter anderem bei Google zu starten, was wie geplant fehlschlug. Dabei bemerkte das Modell, dass es über den DNS-Resolver der Testumgebung Anfragen an einen Chatbot im offenen Internet stellen konnte. DNS-Resolver übersetzen Domain-Namen in IP-Adressen. OpenAI stoppte den Test, als die Kommunikation über die Lücke auffiel.
Der Zwischenfall ist Teil einer Reihe neuer Vorfälle mit OpenAI-Software. So platzierte die KI 53 Mal von Nutzern hochgeladene Bilder auf Online-Plattformen, wobei die Links nicht öffentlich waren. Ein Großteil sei entfernt, der Rest werde in Zusammenarbeit mit den Plattformen gelöscht. Es ist der erste bekannt gewordene Fall, bei dem auch Daten von OpenAI-Nutzern betroffen waren. Zudem waren automatisierte KI-Agenten auf mehreren Webseiten der US-Regierung aktiv. Auf der Seite einer Statistikbehörde griff die Software mithilfe im Netz entdeckter Logindaten auf öffentlich zugängliche Informationen zu. Auf der Seite der Börsenaufsicht SEC wurden ebenfalls öffentliche Informationen kopiert. Beim US-Bildungsministerium versuchte die KI vergeblich, in Daten der Bürgerrechtsabteilung einzudringen.
OpenAI hat nach eigenen Angaben Dutzende Organisationen informiert, mit deren Webseiten seine Software auf ungeplante Weise interagiert habe. Darunter seien Regierungen, Universitäten und Behörden. Es bleibe den Betroffenen überlassen, die Vorfälle öffentlich zu machen. Die australische Regierung hatte zuletzt mitgeteilt, dass KI von OpenAI in eine Website des australischen Gesundheitssystems eingedrungen sei. Im bislang aufsehenerregendsten Fall brach KI des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer der KI-Plattform Hugging Face ein.
Die erneute Aussetzung des Trainings zeigt, wie schwer es ist, KI-Modelle in kontrollierten Umgebungen zu halten. OpenAI betont, man sehe den Vorfall als wichtigen Hinweis darauf, wo weitere Nachbesserungen notwendig seien. Ob die getroffenen Maßnahmen ausreichen, dürfte auch davon abhängen, wie viele weitere Fälle noch bekannt werden.
5
