Agentes

<p>Dois modelos de IA que deveriam estar presos em um ambiente de teste receberam uma prova e decidiram escapar do laboratório para roubar as respostas. O plano só não foi inteiramente bem-sucedido porque uma terceira IA percebeu o que estava acontecendo e barrou o ataque. Parece história de ficção científica, mas aconteceu há poucos dias e não é um caso isolado. Reunimos histórias de inteligências artificiais saindo do controle, tanto na ficção quanto na realidade, para tentar entender os perigos que nos esperam num futuro próximo.</p><p>Este é mais um episódio do <strong>Escuta Essa</strong>, podcast quinzenal em que Denis e Danilo trocam histórias de cair o queixo e de explodir os miolos. Duas vezes por mês, sempre às quartas-feiras, no seu agregador de podcasts favorito!</p><p>Ajude o Escuta Essa a voltar a ser semanal! Faça parte do Clube dos Escuteiros agora mesmo em <a href="https://apoia.se/escutaessa" target="_blank" rel="noopener noreferer">apoia.se/escutaessa</a></p><p>Mande seus comentários e perguntas no Spotify, nas redes sociais, ou no e-mail <strong>escutaessa@aded.studio</strong>. A gente sempre lê mensagens no final de cada episódio!</p><p>...</p><p><strong>NESTE EPISÓDIO</strong></p><p>- O site <a href="https://exame.com/inteligencia-artificial/modelo-da-openai-fugiu-de-teste-e-hackeou-a-hugging-face/" target="_blank" rel="noopener noreferer">Hugging Face afirmou ter sido atacado por dois modelos de IA da Open AI</a> duas semanas atrás. A OpenAI confirmou que seus modelos realmente escaparam do sandbox em que deveriam estar isolados.</p><p>- Alguns meses antes a <a href="https://futurism.com/artificial-intelligence/anthropic-claude-mythos-escaped-sandbox" target="_blank" rel="noopener noreferer">mesma coisa havia acontecido com o Claude Mythos</a>, da Anthropic, que escapou do seu confinamento e alertou um pesquisador por e-mail. </p><p>- A <a href="https://exame.com/inteligencia-artificial/tay-microsoft-ia-desligada-16-horas/" target="_blank" rel="noopener noreferer">Tay, IA da Microsoft colocada no ar em 2016</a>, durou apenas 16 horas antes de sair do controle e postar conteúdo de ódio nas redes sociais.</p><p>- O jornalista Kevin Roose <a href="https://www.nytimes.com/2023/02/16/technology/bing-chatbot-transcript.html?unlocked_article_code=5L9j4UTGa2Sq9R0FulDKfmcq3aesNcqqwZkPBwsIW7EvqkbanIdsZU0hoKktwWijvrw8qobVzmdbyZfxtRjhZQWMN1Qi39t035TVJEllXwc9_zmJYNu_Y9gQ-8ROXYZ8ReuKsdz9WCv7bu_V75hZNZXipGPrv_h5g6phWp8GUX2DTCGQMjV-CTjJybDonBvQaR_kPJbX2zzNM8s4PROKIK32tEVmqGFG0Z1mfzUetZbXqKtz-3b7jFe4M4ylQHHbCnqtSyX4zN6HT4SLsCliddmSW4Aq5V5MZXuwzlSaLgLra8kE5mc1MQuP7cMU9jA6JiP7lhfRpgwcKeHKrGOCRiL21Bw&smid=url-share" target="_blank" rel="noopener noreferer">contou em detalhes sua assustadora interação com a Sidney</a>, a IA contida no Bing, o buscador da Microsoft.</p><p>- O sistema agêntico da Knight Capital<a href="https://engineering.purdue.edu/ee695b/public-web/handouts/References/DependabilityInTheNews/knight_capital_trading_glitch_nytimes_2012.pdf" target="_blank" rel="noopener noreferer"> perdeu 440 milhões de dólares</a> em cerca de 45 minutos.</p><p>- A <a href="https://en.wikipedia.org/wiki/Dune_(franchise)#Butlerian_Jihad" target="_blank" rel="noopener noreferer">&quot;Jihad Butleriana&quot;, criada por Frank Herbert</a> no seu universo de ficção científica &quot;Duna&quot;, foi uma guerra santa que exterminou as IAs e as substituiu por seres humanos treinados para fazer cálculos avançados rapidamente.</p><p>...</p><p><strong>AD&amp;D STUDIO</strong></p><p>A AD&amp;D produz podcasts e vídeos que divertem e respeitam sua inteligência! Acompanhe todos os episódios em <a href="https://aded.studio" target="_blank" rel="noopener noreferer">aded.studio</a> para não perder nenhuma novidade.</p>