Agentes

<p>Dois modelos de IA que deveriam estar presos em um ambiente de teste receberam uma prova e decidiram escapar do laboratório para roubar as respostas. O plano só não foi inteiramente bem-sucedido porque uma terceira IA percebeu o que estava acontecendo e barrou o ataque. Parece história de ficção científica, mas aconteceu há poucos dias e não é um caso isolado. Reunimos histórias de inteligências artificiais saindo do controle, tanto na ficção quanto na realidade, para tentar entender os perigos que nos esperam num futuro próximo.</p><p>Este é mais um episódio do <strong>Escuta Essa</strong>, podcast quinzenal em que Denis e Danilo trocam histórias de cair o queixo e de explodir os miolos. Duas vezes por mês, sempre às quartas-feiras, no seu agregador de podcasts favorito!</p><p>Ajude o Escuta Essa a voltar a ser semanal! Faça parte do Clube dos Escuteiros agora mesmo em <a href="https://apoia.se/escutaessa" target="_blank" rel="noopener noreferer">apoia.se/escutaessa</a></p><p>Mande seus comentários e perguntas no Spotify, nas redes sociais, ou no e-mail <strong>escutaessa@aded.studio</strong>. A gente sempre lê mensagens no final de cada episódio!</p><p>...</p><p><strong>NESTE EPISÓDIO</strong></p><p>- O site <a href="https://exame.com/inteligencia-artificial/modelo-da-openai-fugiu-de-teste-e-hackeou-a-hugging-face/" target="_blank" rel="noopener noreferer">Hugging Face afirmou ter sido atacado por dois modelos de IA da Open AI</a> duas semanas atrás. A OpenAI confirmou que seus modelos realmente escaparam do sandbox em que deveriam estar isolados.</p><p>- Alguns meses antes a <a href="https://futurism.com/artificial-intelligence/anthropic-claude-mythos-escaped-sandbox" target="_blank" rel="noopener noreferer">mesma coisa havia acontecido com o Claude Mythos</a>, da Anthropic, que escapou do seu confinamento e alertou um pesquisador por e-mail. </p><p>- A <a href="https://exame.com/inteligencia-artificial/tay-microsoft-ia-desligada-16-horas/" target="_blank" rel="noopener noreferer">Tay, IA da Microsoft colocada no ar em 2016</a>, durou apenas 16 horas antes de sair do controle e postar conteúdo de ódio nas redes sociais.</p><p>- O jornalista Kevin Roose <a href="https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html?unlocked_article_code=5L9j4UTGa2Sq9R0FulDKfmcq3aesNcqqwZkPBwsIW7EvqkbanIdsZU0hoKktwWijvrw8qobVzmdbyZfxtRjhZQWMN1Qi39t035TVJEllXwc9_zmJYNu_Y9gQ-8ROXYZ8ReuKsdz9WCv7bu_V75hZNZXipGPrv_h5g6phWp8GUX2DTCGQMjV-CTjJybDonBvQaR_kP