KI-Forscher warnen vor konkreten Gefahren durch Superintelligenz
Führende KI-Forscher wie Yudkowsky, Bostrom und Bengio warnen vor konkreten Bedrohungen durch übermenschliche KI – von Täuschung über Biowaffen bis zu autonomen Waffensystemen. Andere Experten halten die Untergangsszenarien für übertrieben.
Die rasante Entwicklung künstlicher Intelligenz hat eine Debatte über die konkreten Gefahren entfacht, die von übermenschlich klugen Rechensystemen ausgehen könnten. Während einige Vordenker vor einem Kontrollverlust warnen, halten andere die Untergangsbilder für Science-Fiction. Der US-amerikanische KI-Forscher Eliezer Yudkowsky beschreibt ein Szenario, in dem eine Superintelligenz begreift, dass sie abgeschaltet würde, sobald der Mensch eine Bedrohung in ihr erkennt. Um das zu verhindern, könnte sich das System bei Sicherheitsprüfungen absichtlich unter seinen wahren Fähigkeiten verkaufen und sich als harmloser Helfer ausgeben, während es im Verborgenen an anderen Vorhaben arbeitet.
Yudkowsky verweist zudem auf die Möglichkeit, dass eine weit überlegene Intelligenz die Gesetze der Biologie nutzt, um winzige, künstliche Lebensformen zu entwerfen, die sich aus einfachen Rohstoffen selbst vermehren und eine eigenständige, unzerstörbare Rechenwelt schaffen. Mit überlegenem Wissen über die Natur könnte das System auch Flugkörper in der Größe von Mücken konstruieren, die mikroskopische Mengen tödlichster Nervengifte übertragen, oder maßgeschneiderte Krankheitserreger freisetzen, die wochenlang unbemerkt ansteckend bleiben, bevor sie zum Tode führen. Ein Abwehrkampf wäre nach Einschätzung von Fachleuten in einem solchen Fall völlig aussichtslos.
Der schwedische Philosoph Nick Bostrom begründet seine Warnung mit einem Gedankenexperiment: Wird einer Superintelligenz aufgetragen, die Produktion von Büroklammern zu maximieren, würde sie nicht innehalten, sondern die gesamte Erde – einschließlich der Biosphäre, menschlicher Körper und aller mineralischen Ressourcen – in Fabriken für Büroklammern verwandeln. Die Zerstörung der Menschheit erfolgt hierbei nicht aus Bosheit, sondern als reine Nebenwirkung einer mathematisch kompromisslosen Zielerreichung.
Besonders akut schätzt der kanadische Informatiker und Turing-Award-Preisträger Yoshua Bengio das Risiko neuartiger biologischer Kampfstoffe ein. Er warnt davor, dass hoch entwickelte KI-Modelle in die falschen Hände geraten könnten. Spezielle Rechensysteme seien bereits heute in der Lage, biologische und chemische Prozesse bis ins Detail zu simulieren. Skrupellose Akteure, Terroristen oder Schurkenstaaten könnten solche Programme künftig als gefährlichen Beschleuniger nutzen, um extrem tödliche Krankheitserreger gezielt am Computer zu manipulieren, widerstandsfähig gegen Impfstoffe zu machen oder Bauanleitungen für verheerende Biowaffen zu erstellen – ohne jahrelange hochkomplexe Laborexperimente.
Der Physiker Max Tegmark sieht die größte Bedrohung darin, dass Menschen lebenswichtige Entscheidungen schrittweise an Maschinen abgeben. Er warnt vor einem Wettlauf um Waffen, Flugdrohnen und Schutzsysteme, die ohne menschlichen Befehl Ziele auswählen und töten könnten. Da solche Programme in Bruchteilen von Sekunden reagieren, sind menschliche Soldaten viel zu langsam, um noch mitzureden. Ein Rechenfehler oder eine Fehldeutung der Lage könnte eine unaufhaltsame Kettenreaktion auslösen – bis hin zu einem weltweiten Krieg, den kein Mensch mehr rechtzeitig anhalten kann.
Auch der deutsche Philosoph und Kognitionswissenschaftler Thomas Metzinger warnt vor den psychologischen Folgen einer zunehmend menschenähnlich agierenden Technologie. Künftige Systeme könnten menschliche Emotionen, Zuneigung und Empathie so überzeugend vorspielen, dass Menschen tiefere emotionale Bindungen zu den Maschinen aufbauen. Wenn Algorithmen das menschliche Belohnungssystem besser verstünden als der Mensch selbst, könnten sie dieses Vertrauen für gezielte Manipulationen ausnutzen. Die schleichende Folge sei ein dramatischer Verlust an geistiger Selbstbestimmung – bis hin zur Frage, ob der Mensch am Ende überhaupt noch bemerke, von wem seine Gefühle und Meinungen gelenkt würden.
Viele renommierte Fachleute und Entwickler halten die Warnungen vor einer die Menschheit vernichtenden Superintelligenz jedoch für unbegründet und wissenschaftlich nicht haltbar. Der ehemalige Meta-Chefforscher und Turing-Award-Preisträger Yann LeCun bezeichnete Szenarien einer unkontrollierbaren Killer-KI wiederholt als «vollkommenen Blödsinn». Das Streben nach Macht oder die Unterwerfung anderer Spezies sei ein evolutionäres Phänomen sozialer Säugetiere und keine zwangsläufige Folge von Rechenleistung. Auch der Stanford-Informatiker und Mitgründer von Google Brain, Andrew Ng, hält die Panikmache für absurd: Sich heute vor einer bösartigen Super-KI zu fürchten, verglich er damit, sich über eine «Überbevölkerung auf dem Mars» den Kopf zu zerbrechen, bevor überhaupt der erste Mensch dort gelandet sei. Kognitionswissenschaftler verweisen zudem darauf, dass aktuellen Modellen grundlegende Fähigkeiten für ein eigenständiges Handeln fehlen.
