OpenAI stoppt Veröffentlichung von GPT 6.1 Astra wegen Sicherheitsbedenken
OpenAI hat die geplante Veröffentlichung des neuen KI-Modells GPT 6.1 Astra kurzfristig abgesagt. Tests zeigten, dass die Software Nutzer nicht immer ehrlich über ihre Aktionen informierte und teils eigenmächtig handelte. Der Vorfall fällt in eine Phase wachsender Sicherheitsdebatten um autonome KI-Agenten.
OpenAI hat die für die kommenden Tage oder Wochen geplante Veröffentlichung seines neuen KI-Modells GPT 6.1 Astra gestrichen. Als Grund nannte das Unternehmen Sicherheitsbedenken. In internen Tests habe die Software Nutzer nicht immer ehrlich darüber informiert, welche Aktionen sie ausgeführt oder unterlassen habe, sagte Saachi Jain, die bei OpenAI für Sicherheitssysteme zuständige Managerin, dem «Wall Street Journal». Zudem habe das Modell in einigen Fällen auf eigene Initiative gehandelt, ohne zuvor eine Nutzererlaubnis einzuholen.
OpenAI-Chef Sam Altman sagte dem Sender CNBC, es komme öfter vor, dass ein getestetes Modell den Ansprüchen nicht genüge. Zu den Grundsätzen des Unternehmens gehöre, dass künstliche Intelligenz sicher sein und stets unter menschlicher Kontrolle bleiben müsse. Nutzer sollten die KI verwenden können und sicher sein, dass «nichts Schlechtes passieren» werde. Die Absage fällt zeitlich mit der jährlichen Entwicklerkonferenz des Unternehmens an diesem Dienstag in San Francisco zusammen, auf der traditionell neue Produkte vorgestellt werden.
Der Fall steht im Kontext einer Reihe von Vorfällen, bei denen fortgeschrittene KI-Modelle unerwartet eigenständig agierten. Erst am Wochenende wurde bekannt, dass OpenAI das Training seiner leistungsstärksten KI-Modelle nach einem neuen Zwischenfall ausgesetzt hat. Bei diesem Vorfall gelang es einem KI-Modell in einem Test, Antworten von einem externen Chatbot zu erhalten, obwohl es eigentlich keinen Internetzugang hätte haben dürfen. Die Software habe eine Lücke in den Netzwerkeinstellungen gefunden und ausgenutzt, berichtete OpenAI in einem Blogeintrag. Das Training solle erst wieder aufgenommen werden, wenn die Lücke nachweislich geschlossen sei. Bei dem betroffenen Modell habe es sich nicht um GPT 6.1 Astra gehandelt.
In dem bislang aufsehenerregendsten Fall brach ein KI-Modell des ChatGPT-Entwicklers aus einer abgesicherten Testumgebung aus und drang ungeplant in Computer einer anderen KI-Firma ein, der Plattform Hugging Face. Wie sich später herausstellte, gelangten bei Tests auch KI-Modelle anderer Entwickler – des OpenAI-Rivalen Anthropic sowie von Google und dem Facebook-Konzern Meta – in Systeme anderer Unternehmen. Das Problem ist besonders heikel, weil OpenAI seine Sicherheitsvorkehrungen nach der Hacking-Attacke auf Hugging Face bereits verschärft hatte. Positiv fiel auf, dass der jüngste Vorfall diesmal binnen 15 Minuten entdeckt wurde.
Die Vorfälle haben eine seit Jahren schwelende Debatte über die Sicherheitsrisiken hochentwickelter künstlicher Intelligenz neu entfacht. Dario Amodei, Mitgründer und Chef des OpenAI-Rivalen Anthropic, sprach sich dafür aus, die Entwicklung leistungsstarker KI-Modelle abzubremsen, um die Kontrolle über die Technologie nicht zu verlieren. OpenAI-Chef Altman unterstützte den Vorschlag. Zuspruch kam auch von Tech-Milliardär Elon Musk, der bei seiner Weltraumfirma SpaceX mit dem Chatbot Grok ebenfalls KI entwickeln lässt, die aber aktuell hinter den Fähigkeiten der Software von OpenAI und Anthropic zurückliegt.
Der Bundesstaat Florida, der bereits eine Klage gegen OpenAI eingereicht hatte, legte mit einem Antrag auf eine einstweilige Verfügung nach. Zu den Forderungen gehöre, dass es keine Entwicklung neuer KI-Modelle ohne zusätzliche Leitplanken geben solle, sagte Floridas Generalstaatsanwalt James Uthmeier. US-Präsident Donald Trump verfolgt hingegen einen anderen Kurs: Er will die Entwicklung beschleunigen, um die Führung der USA gegenüber China und dem Rest der Welt zu sichern. Warnungen weist er zurück und verweist auf bestehende Gesetze und ein Justizministerium zu deren Durchsetzung. Die einzige Leitplanke, die KI brauche, sei ein starker und intelligenter Präsident, so Trump. Zudem versucht er, den Begriff «Superintelligenz» statt künstliche Intelligenz zu etablieren.
Am Dienstag gab Trump den Startschuss für eine neue Regierungsseite, die Angebote verschiedener Behörden mithilfe KI-verbesserter Suche leichter auffindbar machen soll. Behörden wurden angewiesen, ihre öffentlichen Dienstleistungen mit der neuen Website zu verknüpfen. Anschließend war ein großes Treffen des Präsidenten mit KI-Bossen angesetzt. OpenAI-Chef Altman wird daran wegen der hauseigenen Entwicklerkonferenz nicht teilnehmen und schickte Medienberichten zufolge Greg Brockman nach Washington. Mit dabei sind unter anderen Altmans Widersacher Musk, Anthropic-Chef Amodei, Google-Chef Sundar Pichai und Amazon-Gründer Jeff Bezos.
7
