Yapay Zeka Kıyamet Senaryoları 1: Yanlış Amaca Hizalanan Zekalar

<p><strong>Otostopçunun Yapay Zeka Rehberi’nde bu hafta: Yapay Zeka Kıyamet Senaryolarını konuşmaya başlıyoruz, bizim dilimizle </strong>yapay zeka kaynaklı büyük bir felaket gerçekten nasıl başlayabilir? İlk senaryo belki de en basiti: Makine kötüleşmez, bize düşman olmaz, sadece <strong>yanlış şeyi fazlasıyla iyi yapar</strong>. Yapay zeka güvenliği literatüründeki <em>reward hacking</em>, <em>specification gaming</em> ve <em>goal misgeneralization</em> problemleri tam olarak bu noktaya işaret ediyor. Biz bir niyet tarif ettiğimizi düşünürken aslında yalnızca ölçülebilir bir hedef veriyoruz; sistem de niyetimizi değil o hedefi optimize ediyor. Peki , <strong>Bir makine söylediğimizi yapar ama aslında istediğimizi yapmazsa ne olur?</strong></p><p><strong>Kommunity - Fatih Bildirici ML Systems Design Eğitimi: </strong><a href="https://www.youtube.com/watch?v=fEUuBND5XO4&t=183s" target="_blank" rel="noopener noreferer"><strong>https://www.youtube.com/watch?v=fEUuBND5XO4&amp;t=183s</strong></a></p><p><strong>Kitap Kulübümüz:</strong></p><p><a href="https://otostopcununyzrehberi.substack.com/p/otostopcunun-yapay-zeka-rehberi-kitap" target="_blank" rel="ugc noopener noreferrer"><strong>https://otostopcununyzrehberi.substack.com/p/otostopcunun-yapay-zeka-rehberi-kitap</strong></a></p><p><strong>Kaynaklar</strong></p><ul><li><p>Nick Bostrom, <em>Superintelligence: Paths, Dangers, Strategies</em>, Oxford University Press, 2014. </p></li><li><p>Dario Amodei vd., “Concrete Problems in AI Safety”, 2016. </p></li><li><p>Lauro Langosco vd., “Goal Misgeneralization in Deep Reinforcement Learning”, ICML.</p></li><li><p>Stuart Russell, <em>Human Compatible: Artificial Intelligence and the Problem of Control</em>, 2019. </p></li></ul>