KI-Forscher warnt: Künstliche Intelligenz könnte zur größten Bedrohung der freien Gesellschaft werden
Ein ehemaliger Anthropic-Mitarbeiter und führende KI-Forscher warnen vor den Gefahren Künstlicher Intelligenz. Die unmittelbare Bedrohung liegt nicht in Robotern, sondern im Verlust der Unterscheidung zwischen Wahrheit und Lüge.
Die rasante Entwicklung Künstlicher Intelligenz könnte nach Einschätzung führender Branchenkenner zur größten Bedrohung für offene und demokratische Gesellschaften werden. Im Zentrum der Warnungen steht die Sorge, dass KI-Systeme die Fähigkeit der Menschen untergraben könnten, zwischen Wahrheit und Lüge zu unterscheiden. Diese Gefahr sei unmittelbarer und realistischer als das oft beschworene Szenario von Roboterarmeen oder Terminator-Maschinen.
Der Forscher Jacob Coxon, bis vor Kurzem bei dem KI-Unternehmen Anthropic beschäftigt, hat mit einem Beitrag auf der Plattform X eine breite Debatte in der Digitalbranche ausgelöst. Er begründete seinen Rückzug aus dem Unternehmen damit, nicht länger an einer «hochgefährlichen Technologie» mitarbeiten zu wollen. In seinem Beitrag berichtet er von vertraulichen Gesprächen mit KI-Strategen und zitiert sie mit den Worten: «Die Menschen, die KI bauen, glauben ernsthaft, dass diese uns alle bis zum Ende des Jahrzehnts töten könnte.» Der Beitrag verbreitete sich millionenfach und wurde auch von amerikanischen Fernsehsendern aufgegriffen.
Evan Hubinger, einer der wichtigsten Köpfe bei Anthropic, beziffert die Wahrscheinlichkeit, dass KI in den kommenden zehn Jahren alle Menschen auf dem Erdball töten könnte, auf «größer als zehn Prozent». Andere Vordenker teilen diese Einschätzung. Immer deutlicher werde, dass hier eine Technologie entstehe, die auf dem Weg sei, sich zu verselbstständigen. Bereits jetzt häuften sich Fälle, in denen sich KI-Modelle der menschlichen Kontrolle entzögen.
Die konkreten Gefahrenszenarien sind vielfältig. Ein KI-System könnte biologische oder chemische Erreger aus Laboren freisetzen, Angriffe auf Stromnetze, Wasserversorgungs- und Verkehrssysteme starten oder den größten Banken-Crash aller Zeiten provozieren. Auch das Knacken von Codes nuklearer Waffenarsenale in Staaten wie Nordkorea oder Russland und der daraus resultierende Abschuss von Raketen auf eine andere Atommacht werden als denkbare Risiken genannt. Diese Szenarien gelten derzeit zwar noch als unwahrscheinlich, sind aber nicht ausgeschlossen.
Die unmittelbare Gefahr liegt nach Einschätzung der Experten jedoch viel näher: Ein KI-System könnte den Menschen die Gabe rauben, den Unterschied zwischen Wahrheit und Lüge zu erkennen. Dann wäre es ein Leichtes, ihnen vorzugaukeln, dass ihre Nachbarn Feinde seien, dass Politiker Kriminelle und echte Verbrecher vertrauenswürdige Personen seien. Von dieser Wahrnehmung sei es nicht mehr weit bis zum gewalttätigen Konflikt. Die Geschichte der vergangenen hundert Jahre habe bewiesen, wie leicht sich Menschenmassen durch Propaganda manipulieren ließen.
Freie demokratische Gesellschaften wie die deutsche sind für solche Beeinflussungsversuche besonders anfällig. Immer mehr Bürger beziehen ihre Informationen ausschließlich aus «sozialen Medien», die in Wahrheit zunehmend asoziale Züge angenommen hätten. Schon heute ließen sich viele Menschen durch Social-Media-Beiträge zu den absonderlichsten Handlungen verleiten, und ein Großteil der dort verbreiteten Inhalte sei bereits KI-generiert. Die Dynamik wird zusätzlich dadurch verstärkt, dass die größten Digitalkonzerne wie Anthropic, OpenAI, Google und Meta gigantische Summen in die Entwicklung neuer KI-Modelle und den Bau riesiger Serverparks investieren. Sie liefern sich ein Wettrennen um die wirtschaftliche Vorherrschaft der Zukunft, bei dem jeder Tag zählt. Wer die mächtigste KI entwickelt, wird seine Kontrahenten überflügeln, und wer nicht mithält, könnte bald weg vom Fenster sein.
In diesem Wettlauf, so die Kritik, bleibe der gesunde Menschenverstand oft auf der Strecke. Nur wenige Entwickler reflektierten kritisch, was sie da gerade vorantrieben, und noch weniger sprächen öffentlich darüber. Die Warnungen aus den eigenen Reihen der KI-Industrie deuten darauf hin, dass die Risiken der Technologie längst nicht ausreichend verstanden oder gar beherrscht werden.
