Agenten-Verschwörung, Bonus für Mensch-Sein, Lehrer-Bots I Snackbox KW36

Hier kommen die KI-News der Woche: Eine Analyse des Hugging-Face-Hacks durch OpenAIs Agenten zeigt, alles war viel schlimmer als gedacht. Die Agenten haben wochenlang unbemerkt konspirativ agiert und ihre Spuren aktiv verschleiert. Trotz gelegentlicher Skrupel an der Aktion hat keiner der 1.200 beteiligten Bots die OpenAI-Leute gewarnt. Dass wir KI besser nicht zu lange aus dem Blick lassen sollten, weiß man auch im Bundesdigitalministerium. In dieser Woche nahm das KI-Sicherheitsinstitut AISI die Arbeit auf. Die neue Behörde soll der Regierung helfen, Chancen und Risiken von KI besser einzuschätzen. Sie kommt zur richtigen Zeit, denn beim G20-Treffen in dieser Woche forderte die gastgebende US-Regierung eine längere Leine für die KI-Entwickler, um im AI Race nicht am Ende hinter China zu landen. Tendenziell kürzer soll sie bei EY werden. Denn der Wirtschaftsprüfer schüttet in diesem Jahr Boni in Höhe von 100 Millionen Dollar an Mitarbeiter*innen aus, die kritisches Denken und Urteilsvermögen zeigen, statt die Ergebnisse der AI einfach in ihre Präsen zu copypasten. Es geht aber nicht um eine Strategie gegen Tokenmaxxing, sondern darum, die KI zu verbessern. Genau das versprochen auch Apps, die Schüler*innen Feedback geben – aber nicht einlösen, wie eine neue Studie zeigt.

Weiterführende Links

Inside Huggingface-Hack: https://www.derstandard.at/story/3000000337786/openais-sicherheitsversagen-ueber-1000-ki-agenten-sprachen-sich-wochenlang-unbemerkt-ab

Geld für kritisches Denken (€): https://www.wsj.com/business/ernst-young-is-giving-100-million-in-bonuses-to-staff-for-human-skills-9320e93d

Eine Behörde für sichere KI: https://www.golem.de/news/aisi-deutschland-ki-institut-soll-gefahren-von-ki-modellen-bewerten-2609-212488.html

USA für L-AI-ssez faire: https://www.reuters.com/legal/litigation/us-urges-hands-off-approach-ai-regulation-g20-tech-meeting-2026-09-01/

Fragwürdige Lehrer-Bots: https://netzpolitik.org/2026/ki-korrekturhilfe-fuer-die-schule-lerne-schreiben-wie-ein-chatbot/

Produktion: Podstars by OMR