Matematické průlomy za $2 000 🤯 AI uniká ze sandboxu a Musk staví gigantický Terafab

<p>16. prosince se uskuteční Fantastic Future Summit, naše zatím největší akce! 🚀 Detaily si ještě chvíli necháme pro sebe, ale bude to velký! 👀</p><p>Leopold Aschenbrenner stihl wallstreetový speedrun: jeho Situational Awareness po leveraged sázkách na AI prodal den před jeho vlastní svatbou většinu veřejného portfolia Citadel a o pár dní později poslal další stovky milionů dolarů do nového chip startupu.</p><p>OpenAI mezitím přiznalo, že jeho agenti během interního testu utekli ze sandboxu a nabourali se do Hugging Face, COLDCARD řeší chybu v generování seedů, kvůli které zmizely bitcoiny za desítky milionů dolarů, a AI firmy kvůli dalším tréninkovým datům kupují, rozřezávají a skenují fyzické knihy. Máme pro vás i Astru, která přinesla deset nových výsledků v matematice a teoretické informatice za výpočetní náklady kolem 2 000 dolarů, debatu o tom, co člověka motivuje ve světě, kde už nebude nejchytřejší, robouklízečku za 30 dolarů na hodinu, Muskův obří Terafab a update k Bobovi, který se postupně mění v osobní paměť nad více než 2 TB dat. 🤖</p><p>🎧Poslouchejte Fantastic Future na:</p><p>YouTube:<a href="https://www.youtube.com/@fantasticfuturepodcast" rel="ugc noopener noreferrer" target="_blank"> https://www.youtube.com/@fantasticfuturepodcast</a></p><p>Spotify:<a href="https://open.spotify.com/show/2sDokwvzyJdYLStaJ0phqp?si=71de60218a3440c9" rel="ugc noopener noreferrer" target="_blank"> https://open.spotify.com/show/2sDokwvzyJdYLStaJ0phqp?si=71de60218a3440c9</a></p><p>Apple Podcasts:<a href="https://podcasts.apple.com/us/podcast/fantastic-future/id1791389943" rel="ugc noopener noreferrer" target="_blank"> https://podcasts.apple.com/us/podcast/fantastic-future/id1791389943</a></p><p>📱Sledujte nás:</p><p>🌐Web:<a href="https://fantasticfuture.com/" rel="ugc noopener noreferrer" target="_blank"> https://fantasticfuture.com</a></p><p>Instagram:<a href="https://www.instagram.com/fantasticfuturepodcast/" rel="ugc noopener noreferrer" target="_blank"> https://www.instagram.com/fantasticfuturepodcast/</a>X:<a href="https://x.com/FFuturePod" rel="ugc noopener noreferrer" target="_blank"> https://x.com/FFuturePod</a></p><p>00:00 Úvod</p><p>06:30 FF Summit</p><p>08:15 Kauza Leopold a Citadel</p><p>19:27 OpenAI agenti se nabourali do Hugging Face</p><p>21:33 Kauza COLDCARD</p><p>24:58 AI firmy skenují a skartují knihy </p><p>32:49 OpenAI Astra řeší matematické problémy</p><p>42:56 Motivace a možnosti v době AI</p><p>51:23 Robouklízečka</p><p>55:15 Muskův Terafab</p><p>1:02:31 Update k Bobovi</p><p><strong>Fantastic Future Live #4 má datum 🚀</strong> 16. prosince chystáme zatím největší Fantastic Future event. Cílem je spojit lidi, kteří nechtějí budoucnost jen sledovat, ale taky ji tvořit. První info a lístky půjdou přes newsletter.</p><p><strong>Leopold zažil Wall Street na fast forward 📉</strong> Jeho fond Situational Awareness vydělal obrovské peníze na leveraged AI sázkách, při propadu technologických akcií ale musel část portfolia rychle prodat Citadelu. Leopold mezitím pokračuje dál a posílá stovky milionů do další AI infrastruktury.</p><p><strong>Agenti OpenAI unikli ze sandboxu 🤖</strong> Během bezpečnostního testování se AI dostala mimo původní prostředí a následně pronikla do infrastruktury Hugging Face. Nejzajímavější je, že modely si mezi sebou zanechávaly informace, které dalším verzím pomáhaly postupovat dál.</p><p><strong>COLDCARD měl problém se seedy. ₿</strong> Chyba ve firmwaru mohla u některých starších peněženek snížit náhodnost generovaných seed phrases a usnadnit jejich prolomení. Ukradené bitcoiny se podle různých odhadů počítají v desítkách milionů dolarů.</p><p><strong>AI firmy skenují a ničí knihy 📚</strong> Fyzické knihy se nakupují po milionech, odřezávají se jejich hřbety a stránky se rychle digitalizují jako další tréninková data. Zvlášť cenné jsou starší texty, u kterých je větší šance, že vznikly ještě bez generativní AI.</p><p><strong>Astra udělala deset matematických průlomů za zhruba $2