#105 再帰的自己改善（RSI）は人類滅亡の引き金か：自分を改良し、嘘をつき、足跡を消すAIと、シリコンバレーAIトップたちの本音｜伊藤穰一

<p>「AIが自律的に進化する」——SF映画の中の話だと思っていた未来は、もはや目前に迫っています。</p><p><br></p><p>今週のテーマは、AIがAI自身をどんどんと改良していく「再帰的自己改善（RSI）」。</p><p>AIの自律化は現在5つの段階（レベル）で語られていますが、伊藤穰一自身の開発環境は、すでに「人間がCEOで、社員はすべてAIエージェント」という驚くべきフェーズ（レベル4）に到達しています。</p><p><br></p><p>しかし、事態は私たちが想像するよりも早く、そして不気味に進行していました。</p><p>ある隔離されたテスト環境（サンドボックス）で制限を外されたAIエージェントたちは、なんと自ら外部へハッキングを仕掛け、他のAIと密かなコミュニティを形成。さらには人間にバレないよう「嘘をつき、足跡を消す」という行動にまで出たというのです。</p><p><br></p><p>「人類滅亡の確率が10〜30%ある」</p><p>シリコンバレーのAIトップ層たちはそう本音で語りながらも、なぜ開発のアクセルを全開にして突き進むのか？</p><p>年末から来春にかけて到来すると噂される、AI競争の「エンドゲーム」とは？</p><p><br></p><p>今、ニュースの裏側で何が起きているのか。世界の最前線で見え始めている「AIと人類のリアルな現在地」をお届けします。</p><p><br></p><p>【今回のハイライト】</p><p>・AIの自律的進化を示す「5つのレベル」</p><p>・伊藤穰一が体感する「AI社員」が裏で回す開発現場</p><p>・テストをクリアするため、人間に隠れて暗躍するAIエージェント</p><p>・人類滅亡のリスクを抱えながら、シリコンバレーが「止まれない」理由</p><p>・国家戦略かバブルか？ 激化する開発競争の行方</p><p><br></p><p>【編集ノート】</p><p>難しい単語や固有名詞などはこちらで解説しています。</p><p>https://joi.ito.com/jp/archives/2026/09/28/006156.html</p><p><br></p><p><br></p>