Cybernormer #41: Vil AI virkelig udrydde os?

"AI-agent angreb kunde hos virksomhed, inden den hackede sig videre" "»Vanvittigt«: Nu sætter ai-chef tal på risikoen for, at ai udrydder menneskeheden inden for få år" – sådan nogle af den seneste måneds nyhedsoverskrifter fra DR, Berlingske og Politiken. Og det er lige præcis denne slags overskrifter, der får Cybernauternes indbakke til at flyde over med bekymrede følgere, som synes, det er svært at finde ud af hvad, der er op og ned. Og vi forstår det godt, for det er da uhyggeligt, hele tiden at høre om at alle de tech-CEO's, som udvikler denne her teknologi, bliver ved med at fortælle at de at bange for den og den er en trussel for menneskeheden.

Denne slags nyheder har datalogiprofessor Cal Newport kaldt "doom trolling". I denne episode af Cybernormer er Cybernauterne Maia Kahlke Lorentzen, Anne Katrine Raahede og algoritmisk kunstner Ada Ada Ada i studiet, for sammen at komme dommedagsprofetierne til livs ved at tage udgangspunkt i specifikke historier og forklare, hvad der egentligt skete, og hvordan det blev twistet til de nyhedshistorier, vi får ind i vores hverdagsfeeds. Vi dykker vi ned i den AI dommedagskult der faktisk findes i silicon valley, og diskuterer de mange og reelle risici ved AI.

Vi håber at denne episode vil tydeliggøre hvordan 1 fjer bliver til fem robothøns, så det kan blive lidt lettere at spotte doom trollling og navigere i nyhedsstrømmen. God lytning, og husk at dele den med din bekymrede kollega eller familiemedlem.

Vært: Anne Katrine Raahede

Gæster: Maia Kahlke Lorentzen

Ada Ada Ada, Ig: @ada_ada_ada_art og Patreon

Kilder og mere om emnet

DR: AI-forsker kvitter jobbet i frygt for teknologien – men skal vi være nervøse? Cal Newports blog: Dear AI Companies: Stop the “Doom Trolling”Cal Newport på youtube: AI Isn’t “Out of Control” — The AI Companies AreCal Newport på youtube: The Truth about OpenAI’s “Secret AI Civilizations”Better Offline: The AI Industry Must Stop Doom Trolling w/ Cal NewportBetter Offline: No, AI Is Not "Autonomously Hacking" with Cal Newport Better Offline: Monologue: Jacob Coxon and the AI Safety GriftMarcus on AI substack: 5 lessons from the OpenAI / Hugging Face incidentBetter Offlines subreddit: /r/BetterOfflineShell game: When AI doomerism spirals into violenceWired: The Delirious, Violent, Impossible True Story of the...