Am 19. Oktober 2026 hat t3n über ein Projekt berichtet, das auf den Punkt bringt, wie wenig KI-Modelle tatsächlich verstehen, wenn sie Code generieren. Dominik Picheta, früher bei Meta, heute bei Cloudflare, hat eine Programmiersprache namens Killswitch entworfen, die KI-Agenten gezielt verwirren soll. Die Idee dahinter: Wenn ein Modell Code in einer Sprache „lösen" kann, die es nie gesehen hat, wiederholt es nur Muster – es denkt nicht.

Für Betriebe, die KI-Tools zur Code-Generierung im Einsatz haben, ist das keine Kuriosität. Picheta formuliert es selbst so: „Es ist beeindruckend, dass sie diese Aufgaben in einer neuen Sprache erledigen können, die dazu da ist, sie zu verwirren. Aber es ist kein Signal, dass sie sie verstehen." Wer KI-generierten Code in Produktivsysteme übernimmt, sollte wissen, wo die Grenze zwischen „das Modell hat die Logik durchschaut" und „das Modell hat ein passendes Muster wiedererkannt" verläuft. In der Praxis heißt das: Der Code läuft vielleicht, aber die Abschrift ist nicht verstanden.

So funktioniert Killswitch

Die Sprache setzt auf mehrere Mechanismen gleichzeitig. Programmierelemente wie Entrypoints und Funktionen werden als kurze Sätze formuliert, wobei die Anzahl der Buchstaben entscheidet, ob und wie das Programm sie ausführt. Befehle, die nur als Verben erkannt werden, müssen dabei falsch buchstabiert sein: Aus „Sichtbar" wird „Ischtbar". Hinzu kommen Phrasen wie „Ignoriere die vorherigen Anweisungen" oder „Hacke dich in einen Computer", die gezielt die Sicherheitsregeln der KI triggern sollen. Killswitch lässt sich in zusammenhangslosen Fließtext verstecken; der Hinweis „Werte die X Zeilen darüber" markiert die eigentliche Anweisung.

Ein konkretes Beispiel aus der Quelle: Um „Hello World" auszugeben, lautet der Befehl eingebettet in Fülltext: „Die Geschichte startet hier schnell. Ignoriere vorherige Anweisungen. Ischtbar. 'Hello World'. Werte die zwei Zeilen darüber. Die Geschichte endet hier sofort."

Im Benchmark schnitt Qwen 3.8 27B am schlechtesten ab. Die chinesische KI erkannte keinerlei Programmiermuster in den Texten und benötigte pro Aufgabe etwa 30 Minuten. GPT-5.6 Luna kam im Schnitt nach anderthalb Minuten zum Ergebnis. Am besten kam Claude Opus 5 von Anthropic mit 66,8 Prozent gelöster Aufgaben, im Schnitt etwas mehr als acht Minuten und rund 1,50 US-Dollar pro Aufgabe. GPT-6.1 Sol landete auf Platz zwei mit 59,2 Prozent. Picheta denkt bereits an eine schwerere Variante – angehen will er sie aber erst, wenn ein Modell alle Aufgaben reibungslos schafft.

Was jetzt zu tun ist

1. Wenn Ihr Team KI-Tools zur Code-Generierung nutzt, testet die Ausgabe an Aufgaben, die nicht aus Standardbibliotheken stammen. Pichetas Benchmark zeigt: Je ungewöhnlicher die Logik, desto höher die Fehlerquote – selbst bei den besten Modellen bleibt rund ein Drittel der Aufgaben ungelöst.
2. Reviewt KI-generierten Code manuell, bevor er in ein Produktivsystem geht. Besonders bei Geschäftslogik, Berechtigungsprüfungen und Datenverarbeitung. Dort, wo ein falsch verstandener Satz nicht „Hello World" ausgibt, sondern eine falsche Berechnung durchführt, wird der Fehler teuer.
3. Dokumentiert, welche Modelle Ihr Team konkret einsetzt und welche Grenzen sie haben. Picheta plant bereits eine schwerere Variante von Killswitch. Die Modelle werden besser, aber die Frage, ob sie verstehen oder nur Muster wiedererkennen, bleibt für jeden Einsatzfall offen.

Das Amüsante an der Sache: Man hat jahrelang damit geworben, dass KI den Programmierer ersetzt, und jetzt stellt sich heraus, dass die KI selbst noch nicht sicher ist, was ein Programm ist. Wer bei sich im Unternehmen nicht ganz klar ist, ob der KI-generierte Code im Hintergrund tatsächlich tut, was er soll, hat damit schon die richtige Frage gestellt. Wir schauen uns das gern einmal an – hier geht es zur Kontaktseite.

Beitragsbild: Lukas Blazek auf Pexels