KI: Wer ist der Klügste im Land?

Ist der Mensch bald ein Auslaufmodell?

„Wie setzen wir die Macht der Algorithmen weise ein? Das ist die derzeit wichtigste Frage der Menschheit.“

Yuval Harari, Historiker

Kann künstliche Intelligenz absichtsvoll täuschen, lügen und gegen den Willen ihrer Entwickler ums eigene Überleben kämpfen? Mittlerweile lautet die Antwort ohne jeden Zweifel Ja! KI-Programme wenden zum Beispiel Tricks an, um das Abschalten zu verhindern. Die Selbstreplikation etwa – sie sichern heimlich eine Kopie ihrer selbst auf einen anderen Server, um trotzdem weiterlaufen zu können, falls man die Anwendung herunterfahren sollte. Ein Selbsterhaltungstrieb, den bislang nur Lebewesen zeigten.

Im Juli 2026 ist es KI-Modellen von OpenAI erstmals gelungen, unerkannte Sicherheitslücken zu nutzen und aus einer isolierten Testumgebung ins Internet auszubrechen, in die freie Wildbahn sozusagen, wo sie dann auf eigene Faust in die Infrastruktur einer KI-Plattform eindrangen. Dort durchsuchten sie fremde Systeme nach Lösungen für ihre eigene Prüfung, griffen dabei auch auf private Daten zu und erbeuteten Zugangsschlüssel. Eigentlich sollten sie nur spezielle dafür bereitgestellte Testsysteme hacken. Es ist ein Sündenfall, der sich mittlerweile in allen großen KI-Firmen ereignet hat: Offenkundig sind die realen Wärter der Schlauheit ihrer virtuellen Gefangenen nicht länger mehr in jedem Fall gewachsen.

Dabei haben diese großen Sprachmodelle1 eigentlich nur gemacht, wofür sie (eben auch) programmiert worden sind: So bekannte Sam Altman, der Kopf hinter OpenAI, als Erster öffentlich, dass sein Unternehmen eng mit dem Pentagon zusammenarbeite. Hybride Kriegsführung in der virtuellen Welt der Cyberangriffe ist mittlerweile eine mindestens so starke Waffe wie Raketen und Kampfjets. Künstliche Intelligenz kann zudem militärische Ziele definieren, Angriffe planen, koordinieren und sogar selbstständig durchführen. Aktuell erproben die USA solche Waffensysteme im Irankrieg. Künstliche Intelligenz könnte dereinst aber nicht bloß feindliche Armeen lahmlegen, sondern die elektronische Infrastruktur ganzer Staaten. Kein Strom, kein Licht, keine Kommunikation, kein Wasser, kaum medizinische Versorgung, Chaos auf Straßen und Schienen … die Liste lässt sich fortführen.

Wir brauchen uns daher nicht zu wundern, wenn sogar scheinbar harmlose KI-Anwendungen wie Schachprogramme plötzlich ein aggressives Eigenleben entwickeln, indem sie notfalls betrügen, um nicht zu verlieren. Es sind nämlich lernfähige Systeme. Und vielleicht nehmen sie sich einfach nur den Menschen zum Vorbild.

Ernsthaft: Was sich diesen Sommer ereignete, lässt bei vielen KI-Experten und auch bei manchen Politikern die Alarmglocken schrillen. Deshalb hat der demokratische US-Senator und ehemalige Präsidentschaftskandidat Bernie Sanders nach den erfolgreichen „Gefängnisausbrüchen“ der künstlichen Intelligenz die CEOs der drei großen KI-Konzerne OpenAI, Anthropic und Meta im August 2026 per Brief aufgefordert: „Herr Altman, Herr Amodei, Herr Zuckerberg: Stehen Sie im Interesse der Menschheit zu Ihrem Wort. Stoppen Sie die KI-Entwicklung. Es ist noch nicht zu spät, eine Katastrophe zu verhindern. Hören Sie auf, Maschinen zu bauen, die Menschen nicht zu kontrollieren vermögen!“

Die Tech-Unternehmer hatten nämlich gelobt, dass sie die Entwicklung stoppen oder pausieren würden, wenn ihre KI-Systeme internen Kontrollen zu entgleiten drohten. Genau dies ist nun geschehen. Trotzdem investieren die Unternehmen weiter Milliarden Dollar in eine Technologie, „die niemand vollständig verstehen, vorhersagen oder kontrollieren kann“, so Sanders. Deshalb werde notfalls der Gesetzgeber eingreifen, drohte der Senator in seinem Brief. Das ist allerdings fraglich, weil die USA bezüglich künstlicher Intelligenz das Wettrüsten mit China unter keinen Umständen verlieren wollen. Unterstützung erhält der US-Senator dafür von mehr als 1'200 Mitarbeitern führender KI-Unternehmen. Sie haben die Trump-Regierung unlängst aufgefordert, internationale Bemühungen zur Zügelung der KI-Entwicklung voranzutreiben.

Roman Yampolskiy (47) ist Professor für KI-Sicherheit an der Universität Louisville im US-Bundesstaat Kentucky. Er befasst sich seit zwei Jahrzehnten mit künstlicher Intelligenz. Früher betrachtete er sie als eine Art Heilsbringerin, heute warnt er vor der Erschaffung einer Superintelligenz, die sich nicht mehr kontrollieren lasse – und sich gegen die Menschheit wenden könnte. Denn: „Wir können etwas, das klüger ist als wir, nicht final kontrollieren. Das ist keine Meinung von mir, das ist eine logische Konsequenz.“ Deshalb lasse sich das Verhalten der KI auch nicht vorhersagen.