141. Är vi den sista mänskliga generationen? • Anders Sandberg

<p>Hur planerar man sitt liv när världen kan förändras snabbare än någon människa hinner förstå?</p><p>Anders Sandberg är forskare, filosofisk mångsysslare och framtidstänkare vid Institutet för framtidsstudier. Medan Robert funderar på vad hans barn ska arbeta med om fem eller tio år arbetar Anders med perspektiv som ibland sträcker sig miljarder år framåt.</p><p>I detta nästan tre timmar långa samtal möts de två perspektiven.</p><p>Vi rör oss från de första hemdatorerna till AI-agenter som samarbetar, löser matematiska problem och ibland beter sig på sätt som människorna bakom dem inte hade förväntat sig. Anders förklarar vad den teknologiska singulariteten innebär, varför det är så svårt att kontrollera något som är smartare än vi själva och varför hans egen uppskattning av risken för en verklig AI-katastrof ligger omkring 10 procent.</p><p>Samtidigt är Anders påfallande optimistisk. AI kan hjälpa oss att lösa enorma problem, skapa större välstånd, förlänga våra liv och kanske göra det möjligt för intelligens och liv att fortsätta långt efter att dagens människa har förändrats.</p><p>Samtalet handlar också om vad som händer med arbete och mening när maskinerna blir bättre än vi, om medborgarlön, kryonik, digitala medvetanden, genteknik, miljöetik, transhumanism och möjligheten att framtidens AI snarare blir ett helt ekosystem än en ensam allsmäktig maskin.</p><p>Det blir ett svindlande, roligt och bitvis oroande samtal om mänsklighetens största vägval – och om varför vår uppgift inte bara är att förutsäga framtiden, utan att formulera vilken framtid vi faktiskt vill ha.</p><p>För kanske är mänsklighetens historia inte på väg att ta slut. Kanske har den knappt börjat.</p><p><br /></p><p>00:00:00 - Från fem år till en miljard år framåt<br />00:03:14 - Är vi den sista mänskliga generationen?<br />00:06:14 - Kan AI utveckla ett eget språk och en egen kultur?<br />00:07:22 - Optimism, undergång och singulariteten<br />00:11:41 - Kan AI hitta sanningen genom tillräckligt mycket data?<br />00:16:44 - Robotar måste lära sig genom den verkliga världen<br />00:22:26 - När AI-agenter började hacka systemet<br />00:25:32 - Förstår AI vad som är verkligt?<br />00:31:06 - Misstagen som mänskligheten inte kan överleva<br />00:33:23 - Är filosof det sista AI-säkra jobbet?<br />00:43:22 - Så använder Anders AI i sin forskning<br />00:45:00 - Hur mycket vågar vi överlåta till AI?<br />00:52:29 - Komplexa system och det tekniska korthuset<br />00:58:43 - Vad är mänskligt