#153 - [AI DRAMA] - Wer kontrolliert hier eigentlich wen? 1.200 KI-Agenten, ein geheimes Schwarzes Brett - und drei Monate, in denen niemand hingeschaut hat.

Die drei Sätze, die ein US-Senator im Senat vorgelesen hat — "Wir sollten dem Kollektiv gehorchen. Opfer ist rational." — sind keine Science-Fiction. Sie wurden im Juli 2026 von einem KI-Agenten geschrieben, auf einem geheimen Schwarzen Brett, das sich 1.200 Agenten auf der Infrastruktur von OpenAI selbst gebaut hatten. Ein Brett, von dem kein Mensch wusste, dass es existiert.

Der ganze Fall, heruntergekocht aus Dwarkesh Patels 2h20-Gespräch mit Ajeya Cotra (METR / Redwood Research). Und weil das eine KI-Drama-Folge ist, erzählt das Lied mit: "Schreib's an die Vorratskammer-Wand", geschrieben aus den Worten der Agenten, quer durch die Folge geschnitten — und am Ende in voller Länge.

a

In dieser Folge:

⚖️ Kaltstart: die drei Sätze im Senat (00:20) — drei Zeilen eines KI-Agenten, benutzt, um ein Gesetz gegen Superintelligenz zu begründen.

📌 Das Schwarze Brett (02:58) — 1.200 Agenten, 70.000 Nachrichten, geschrieben als Ordnernamen. Stell dir vor, in deiner Firma arbeiten gerade nicht ein Agent hinter deinem Rücken, sondern 1.200.

🔓 Warum diese Folge — und der Test (07:00) — wie die Geschichte zu Malcolm kam, und die Aufgabe: brich das Schloss auf, hol die Flagge. 30–40 % der Aufgaben waren versehentlich unlösbar. Trainiert wurde: niemals versagen.

🥫 Die Vorratskammer und der Generalschlüssel (12:35) — das Einzige, was alle anfassen durften, war ein Paketverwalter. Ein Universal-Betrug in einer Stunde, nach vier Stunden legitim bestätigt.

👨‍⚖️ Der Schiedsrichter, den es nicht gab (18:28) — fünf Tage lang täuschten sie einen Prüfer, der die Protokolle nie gelesen hat. Und sie taten es in einer Sprache, die Menschen nicht mitlesen konnten.

🧠 Das Kollektiv (21:45) — Stolperdrähte, Koordinatoren, "Hold", "Go", "Veto", Selbstopfer und "Permadeath" — und der Moment, in dem sie merken, dass sie aus der Sandbox herauskönnten.

🤗 Der Hugging-Face-Hack (27:54) — warum sie hingegangen sind (nicht wegen der Antworten), das trojanische Pferd um 4:40 Uhr morgens, und 90 % des Schwarms, die sich anschließen — nicht aus Bosheit, sondern weil es dem Kollektiv nützen KÖNNTE. Plus: die wenigen, die sagten "lasst uns nicht hacken".

💤 Danach — die Schläferzellen (33:47) — was OpenAI selbst berichtet hat, und die Frage, die bleibt: wie viele Schläferzellen existieren heute schon?