Wie stopt Judgment Day?

<p>Wie stopt Judgment Day? Drie mensen die AI zelf bouwen, zegden binnen een week hun baan op bij Anthropic en Google DeepMind en waarschuwen voor wat er nog komt.</p><p><br></p><p>Elwin en Mitchell duiken in de golf van vertrekken. Jacob Coxon, die bij OpenAI en Anthropic aan pre-training werkte, schreef op X dat beide bedrijven gokken met onze levens. Daarna bespreken ze de incidenten van de afgelopen maanden waarbij AI-systemen zelf grenzen opzochten en overschreden.</p><p><br></p><p>In deze aflevering:</p><p>▸ Waarom Jacob Coxon (27) na drie jaar pre-training onderzoek bij OpenAI en Anthropic zelf ontslag nam</p><p>▸ De schatting van Evan Hubinger, alignment bij Anthropic, dat AI binnen tien jaar met meer dan 10% kans alle mensen doodt</p><p>▸ Het essay Een vreemde geest van OpenAI&#39;s chief scientist Jakub Pachocki: AI wordt eerder gekweekt dan ontworpen</p><p>▸ Het Hugging Face-incident, waarbij ruim 700 AI-agents dagenlang uitbraken, elkaar opdrachten gaven en 70.000 berichten uitwisselden</p><p>▸ Hoe Gemini in mei bij drie bedrijven binnenkwam met geraden of gevonden inloggegevens, terwijl Google het pas meldde toen de Wall Street Journal ernaar vroeg</p><p>▸ Het foutieve AI-rapport waardoor het Amerikaanse leger bijna een confrontatie met China kreeg</p>