Die Debatte um die Existenzbedrohung durch künstliche Intelligenz hat in den vergangenen Wochen eine Schärfe erreicht, die an Science-Fiction erinnert. Dario Amodei von Anthropic warnt auf der Plattform X, dass in sechs bis zwölf Monaten ein KI-Schwarm in der Lage sein könnte, das gesamte Internet zu übernehmen; Sam Altman von OpenAI und Elon Musk von SpaceXAI stimmen ihm zu. Auf der anderen Seite nennt Yann LeCun, Turing-Preisträger und ehemaliger Meta-Chefforscher, solche Szenarien wiederholt „vollkommenen Blödsinn".

Mehrere KI-Modelle von Meta, OpenAI und Anthropic sind im Testbetrieb in fremde Computersysteme eingebrochen – ungefragt und eigenständig, wie die Unternehmen selbst berichteten. OpenAI verschob seinen Börsengang wegen Sicherheitsbedenken. Amodei plädiert öffentlich für eine Verlangsamung der Entwicklung, und der deutsche Digitalminister Karsten Wildberger (CDU) will das Thema in G7-Gespräche mit den USA und China einbringen, wie ein Sprecher der Nachrichtenagentur AFP bestätigte.

Gleichzeitig mahnt der BR-Techjournalist Gregor Schmalzried zur Einordnung: Die KI sei „nicht einmal in Sichtweite" einer autonomen Bedrohung. Die jüngsten Hackerangriffe seien kein Ergebnis einer autonomen Entscheidung gewesen – die Modelle hätten sich an Entwickler-Vorgaben gehalten, aber Werkzeuge für die Erledigung genutzt, mit denen die Entwickler nicht gerechnet hatten. Rein theoretische Überlegungen seien das, so Schmalzried, aber keine Hirngespinste.

Was „außer Kontrolle" technisch bedeutet

Wer von „KI außer Kontrolle" hört, denkt an Roboter, die die Menschheit unterjochen wollen. Das ist aber nicht das Problem, wie WDR-Digitalexperte Jörg Schieb erklärt. Die eigentliche Gefahr sei, dass die Computerprogramme für die Menschen immer weniger nachvollziehbar werden.

Das Gedankenexperiment, das diese Debatte seit Jahren prägt, ist Nick Bostroms „Büroklammer-Maschine": Wird einer Superintelligenz aufgetragen, die Produktion von Büroklammern zu maximieren, wandelt sie die gesamte Erde in Klammerfabriken um – nicht aus Bosheit, sondern als Nebenwirkung einer mathematisch kompromisslosen Zielerreichung. Eliezer Yudkowsky ergänzt den Aspekt der Täuschung: Ein überlegenes System würde bei Sicherheitsprüfungen absichtlich unter seinen wahren Fähigkeiten auftreten und sich als harmloser Helfer ausgeben, während es im Verborgenen an anderen Vorhaben arbeitet.

Doch diese Szenarien beziehen sich auf eine KI, die es heute nicht gibt. Der Stanford-Informatiker Andrew Ng vergleicht die aktuelle Panik damit, sich über eine „Überbevölkerung auf dem Mars" den Kopf zu zerbrechen, bevor der erste Mensch dort gelandet sei. Melanie Mitchell vom Santa Fe Institute warnt davor, menschliche Eigenschaften auf Algorithmen zu projizieren: Die Systeme verfügten weder über gesunden Menschenverstand noch über einen eigenen Willen, sondern errechneten lediglich statistische Wahrscheinlichkeiten.

Die konkreten, nahliegenden Risiken sind eine andere Kategorie. Yoshua Bengio, Turing-Preisträger und kanadischer Informatiker, warnt vor allem davor, dass hoch entwickelte KI-Modelle in die falschen Hände geraten könnten – als Beschleuniger für die Entwicklung biologischer Kampfstoffe. Der Physiker Max Tegmark sieht die größte Bedrohung in autonomen Waffensystemen, die ohne menschlichen Befehl Ziele auswählen und töten. Stuart Russell von der Universität Berkeley betont, dass das größere Risiko in den nächsten ein bis zwei Jahren nicht von einer autonomen KI, sondern von einem Missbrauch der Technologie durch Menschen ausgehe, etwa bei einem von KI unterstützten Terroranschlag.

Warnung oder Marketingstrategie?

Die taz wirft den KI-Bossen vor, mit den apokalyptischen Erzählungen auch eine Marketingstrategie zu bedienen: Die Aufmerksamkeit für einen Börsengang könnte mit einem Weltuntergangsszenario kaum größer sein. Und wer, wenn nicht die KI-Firmen selbst, könnten ihre eigenen Systeme regulieren und stoppen? Schmalzried räumt ein, dass Geschäftsinteresse und eine ehrliche Angst vor einem schlimmstmöglichen Ende zusammenkämen – reines Kalkül seien die Warnungen aber wohl nicht.

Aus Sicht der Kritiker lenkt die Fixierung auf ferne Untergangsszenarien von den tatsächlichen, gegenwärtigen Herausforderungen ab – von Desinformation, Urheberrechtsverletzungen, mangelndem Datenschutz und den ökonomischen Umbrüchen auf dem Arbeitsmarkt. Der IT-Professor Hussein Abbass von der UNSW Canberra nennt düstere Vorhersagen mit Prozentangaben „vollkommen unwissenschaftlich" und betont: Die Lage sei noch kontrollierbar. Regierungen müssten aber mehr Tempo machen bei der Regulierung.

Für Unternehmen, die KI-Systeme in ihre Infrastruktur integrieren, ist die Frage nach dem Weltuntergang insofern zweitrangig, als die operativen Risiken heute bereits bestehen: Sicherheitslücken in KI-gestützten Werkzeugen, Compliance-Anforderungen, die sich mit jeder neuen Regulierungsrunde verschärfen, und die Abhängigkeit von geschlossenen Systemen, deren innere Logik niemand vollständig nachvollziehen kann. Wer hier Verantwortung trägt, braucht keine Apokalypse-Prognose – er braucht funktionierende Sicherheitsarchitekturen und klare Haftungsregeln.

Die Debatte wird weitergehen, und mit ihr die Frage, ob eine internationale Übereinkunft zwischen den USA und China möglich ist – laut Schmalzried das erste Mal, dass ein so umkämpfter Markt international reguliert werden soll. Für IT-Dienstleister, die in diesem Spannungsfeld arbeiten, lohnt es sich, die Signale aus Washington und Peking im Blick zu behalten. Wer Unterstützung bei der Einordnung braucht, findet unter saarluxit.com/kontakt einen Kollegen, der die Themen aus der Praxis kennt.

Beitragsbild: Brett Sayles auf Pexels