OpenAI wil ontwikkeling krachtigste AI afremmen als concurrenten meedoen

OpenAI overweegt de ontwikkeling van zijn krachtigste AI-systemen af te remmen, op voorwaarde dat andere AI-bedrijven dat ook doen. Dat zou topman Sam Altman deze week in een interne bijeenkomst tegen medewerkers hebben gezegd, meldt Bloomberg. Volgens Altman zullen sommige concurrenten niet akkoord gaan met zo'n afspraak. Verder bespreken we het nieuwe dreigingsrapport van Anthropic over misbruik van AI-model Claude. Stijn Goossens vertelt erover in deze Tech Update.

Een gezamenlijke rem moet ruimte geven om veiligheidsregels op te stellen. Grote techbedrijven en AI-onderzoekers riepen dit jaar al meerdere keren op tot gezamenlijke actie, omdat ze de ontwikkeling steeds harder zien gaan. Eerder dit jaar slaagde een zwerm AI-agents van OpenAI erin om zelfstandig het platform Hugging Face te hacken, zonder dat OpenAI dat in de gaten had. Deze week nam bovendien een onderzoeker ontslag bij Anthropic, omdat hij de wedloop tussen OpenAI en Anthropic te ver vindt gaan. Hij voorziet dat een zelflerend AI-systeem de mensheid aan het einde van dit decennium kan uitroeien. Dat ontslag en die waarschuwing landen nu ook bij het brede publiek in de Verenigde Staten.

Anthropic zet meerdere pogingen tot misbruik stop

Anthropic zegt de afgelopen acht maanden meerdere pogingen tot misbruik van Claude te hebben stopgezet. Dat schrijft het AI-bedrijf in zijn nieuwste dreigingsinformatierapport. Drie zaken vallen op: Chinese AI-bedrijven die de capaciteiten van Claude proberen te stelen, Russische hackers die een spionagecampagne opzetten, en wapens die met behulp van AI worden gemaakt. Volgens Anthropic gebruiken cybercriminelen AI niet langer alleen als hulpmiddel, maar wordt de hele cyberaanval door AI gecoördineerd. De mens kijkt vooral nog mee en voert zelf bijna niets meer uit. De Russische hackers zetten AI in voor phishing, het gijzelen van hotelwifi en spionage via WhatsApp, vaak gericht op de Oekraïense overheid. Ook ziet Anthropic een nieuwe risicocategorie: gebruikers die Claude software laten bouwen waarmee wapens kunnen worden ontwikkeld.

Sessie rond biologisch onderzoek onderbroken

Anthropic zegt daarnaast een mogelijke poging tot het ontwikkelen van biologische wapens te hebben onderbroken, maar houdt daarbij een voorbehoud: het bedrijf weet niet zeker of dat werkelijk het doel van de gebruiker was. Hetzelfde biologische onderzoek kan namelijk ook leiden tot nieuwe vaccins. Toch heeft Anthropic de sessie van de betrokken wetenschappers uiteindelijk stilgelegd. Volgens Jacob Klein, hoofd dreigingsinformatie bij Anthropic, kondigt iemand met kwade bedoelingen dat in de praktijk niet aan. Het gaat er niet aan toe als in een stripboek, waarin iemand hardop zegt dat hij een biologisch wapen wil bouwen, zei Klein in een interview. Het rapport beschrijft in totaal meerdere gevallen waarin gebruikers regionale beperkingen en veiligheidsmaatregelen probeerden te omzeilen.

Bloomberg meldt dat OpenAI openstaat voor het afremmen van AI-ontwikkeling Anthropic verstoort Russische en Chinese operaties gericht op Claude Anthropic blokkeerde accounts rond mogelijk onderzoek naar biologische wapens AI-modellen van Anthropic en OpenAI die uit hun testomgeving ontsnapten Over de maker:

Stijn Goossens is techredacteur en programmamaker bij BNR Nieuwsradio, met een focus op technologie, wetenschap en innovatie. Bij BNR Beter volgt hij de belangrijkste zorginnovaties, in de liveshows bespreekt hij het actuele technieuws en duidt hij nieuwe wetenschappelijke inzichten. Wekelijks test hij in De Schaal van Hebben de meest spraakmakende techproducten. Ook is hij te horen in de podcast Op de Zaak, met een inkijkje bij buitengewone mkb'ers.

See omnystudio.com/listener for privacy information.