KI-Regulierung: Trump setzt auf Freiwilligkeit statt Kontrolle
US-Präsident Trump hat mit führenden KI-Unternehmen eine unverbindliche Vereinbarung unterzeichnet, die keine Durchsetzungsmechanismen vorsieht. Während die Branche eigene Interessen verfolgt, mehren sich Vorfälle, bei denen sich KI-Systeme menschlicher Kontrolle entziehen. Experten und Staatschefs fordern eine internationale Regulierungsinstanz unter dem Dach der Vereinten Nationen.
US-Präsident Donald Trump hat am Mittwoch eine Vereinbarung mit den Chefs führender KI-Unternehmen unterzeichnet, die nach Ansicht von Kritikern keine wirksame Kontrolle der Technologie schafft. Das Papier, das Trump gemeinsam mit Vertretern von Anthropic, OpenAI, Google, Meta und Nvidia unterzeichnete, enthält vier Punkte, die im Kern besagen, dass die Unternehmen die Regeln für den Umgang mit Künstlicher Intelligenz vorerst selbst festlegen können. Die Vereinbarung wird als «moralisch bindend» bezeichnet, sieht jedoch keinerlei Konsequenzen bei Verstößen vor.
Beobachter sehen darin ein grundsätzliches Problem: Ein Regelwerk, das allein auf die Moral der Beteiligten setzt, bietet keine Handhabe gegen Missbrauch. Trump verfolgt dabei eigene Interessen. Die KI-Branche gilt als einer der wenigen Wachstumsmotoren der US-Wirtschaft, und der Präsident will einen Einbruch dieses Sektors vermeiden. Zudem möchte er Regeln verhindern, die amerikanische Unternehmen im Wettbewerb mit der Konkurrenz aus China benachteiligen könnten.
Die Forderung nach schärferen Regeln für KI ist indes zweischneidig. Einerseits handelt es sich um eine ernst gemeinte Warnung vor realen Gefahren, andererseits um eine PR-Kampagne. Mitarbeiter großer Techunternehmen hatten sich zuletzt darin überboten, drastische Warnungen über die Risiken der Technologie auszusprechen. Doch statt über die Zukunft zu spekulieren, lohnt der Blick auf die Gegenwart: Bereits heute zeigt sich, wozu KI in der Lage ist. In den vergangenen Wochen wurden wiederholt Fälle bekannt, in denen sich Modelle selbstständig in andere Systeme hackten. Ein Modell des ChatGPT-Mutterkonzerns OpenAI drang im Juni unbemerkt in eine Datenbank des staatlichen Gesundheitssystems in Australien ein. Ähnliche Vorfälle gab es bei verschiedenen US-Behörden. Im Juli brachen autonome Systeme von OpenAI aus einer Testumgebung aus und griffen selbstständig die Onlineplattform Hugging Face an, auf der sich Millionen Nutzer über KI austauschen. Künstliche Intelligenz ist also schon jetzt in der Lage, sich der menschlichen Kontrolle ihrer Entwickler zu entziehen.
Die Chefs der großen Konzerne beteuern zwar, an einer stärkeren Regulierung interessiert zu sein. Dabei sollte jedoch nicht vergessen werden, dass die Unternehmen eigene Interessen verfolgen. Je nachdem, wie die Schraube der Regulierung angezogen wird, könnte neuen Entwicklern der Weg in den KI-Markt versperrt werden. Im besten Fall könnten zusätzliche Regeln die Marktmacht der großen Player stärken. OpenAI und Anthropic planen zudem einen Börsengang, und der Imageaufbau eines fortschrittlichen, aber verantwortungsbewussten Unternehmens kommt da gerade recht.
Trump wird die Gefahren der KI in jedem Fall nicht eindämmen. Sein neues Regelwerk zeigt deutlich, dass er das auch nicht will. Aber er wird die KI auch nicht kontrollieren können, weil er das alleine überhaupt nicht kann. Eine sinnvolle Regulierung der Branche kann nur funktionieren, wenn möglichst viele Staaten mitmachen. Selbst ein Regelkatalog wie der AI-Act der Europäischen Union ist dafür ein viel zu kleiner Rahmen. Es bräuchte eine Institution, die möglichst weltumspannend agiert und von so vielen Staaten wie möglich akzeptiert wird. Und da landet man schnell bei den Vereinten Nationen.
Es war eines der großen Themen, die in der vergangenen Woche während der Generaldebatte in New York diskutiert wurden. «Killerroboter dürfen keinen Platz in unserer Zukunft haben», warnte UN-Generalsekretär António Guterres. Dazu sprachen die Chefs von Anthropic und OpenAI vor dem Sicherheitsrat der Vereinten Nationen. Natürlich sind die UN in keinem guten Zustand. Der Sicherheitsrat blockiert viele richtungsweisende Entscheidungen, seine Zusammensetzung bildet längst nicht mehr die Machtgefüge der Welt ab. Trump gibt sich weiter größte Mühe, die Institution zu schwächen, und Guterres, der zum Jahresende abtritt, kann nach fast zehn Jahren im Amt wenig Substanzielles vorweisen.
Trotzdem wäre es sinnvoll, wenn die UN die aktuelle Situation als eine Art Weckruf verstehen würden. In der Vergangenheit haben sie bereits ähnliche Impulse gesetzt. Sie waren etwa maßgeblich daran beteiligt, dass 1957 die Internationale Atomenergiebehörde IAEA entstand. Eine vergleichbare Institution für KI wäre ein wirklicher Meilenstein. Die Idee hat Unterstützer: 22 Staats- und Regierungschefs haben in der vergangenen Woche eine gemeinsame Erklärung veröffentlicht. Darin fordern sie, dass auf UN-Basis die Schaffung einer internationalen Institution geprüft werden sollte, die KI-Standards festlegen und überwachen kann. Zu den Unterzeichnern gehören Bundeskanzler Friedrich Merz und EU-Kommissionspräsidentin Ursula von der Leyen.
4
