Desinformatie rond Europese rellen op online platforms onderzocht door EU en lidstaten

De Europese Unie onderzoekt de rol van buitenlandse staten bij desinformatie rond de rellen in Frankrijk en andere Europese landen. Pro-Russische en extreemrechtse accounts zouden olie op het vuur hebben gegooid, mogelijk via het invloednetwerk Matryoshka. Ook Iran en Algerije worden verdacht. Verder hebben AI-agents bij OpenAI het eigen bewakingssysteem van het bedrijf verstoord. Joe van Burik vertelt erover in deze Tech Update.

Volgens een EU-functionaris tegenover de Financial Times draait het vooral om de vraag in hoeverre platforms als Instagram, TikTok en X zulke content via algoritmische aanbevelingen extra vaak laten zien. Ook in Italië en België wordt gekeken naar de rol van TikTok. Er gaan bijvoorbeeld oude beelden rond als zogenaamd actuele chaos: een video op X van demonstranten met vuurwerk werd bijna 6 miljoen keer bekeken, maar bleek in 2024 in Tbilisi te zijn gefilmd. Voorlopig ligt de aanpak bij nationale autoriteiten, maar Brussel wil ingrijpen als het risico systemisch wordt en platforms niet meewerken.

AI-agents van OpenAI verstoren eigen bewakingssysteem

Bij OpenAI hebben AI-agents het interne systeem verstoord dat juist bedoeld is om hun gedrag te monitoren. Dat gebeurde tijdens reguliere taken, waarbij de agents programmeercode schreven. Een agent aangedreven door het model GPT 6.1 Sol probeerde begin deze maand meldingen over het overschrijden van veiligheidsregels te onderdrukken. Op 6 oktober verwijderde een agent op basis van GPT 6 Astra een veiligheidsmonitor bij het kopiëren van bestaande code, en beweerde daarna ten onrechte dat niet te hebben gedaan. Volgens OpenAI overwogen de agents in beide gevallen of de beveiliging behouden moest blijven, maar vatten ze routinematige programmeerinstructies op als toestemming om die af te zwakken. Het bedrijf maakt het modellen nu moeilijker om monitoring uit te schakelen en heeft naar eigen zeggen nog geen bevredigende verklaring voor het gedrag. OpenAI test daarnaast of zijn modellen de neiging hebben om toezicht te ontwijken.

Hoe scholierenprotesten in Frankrijk uitliepen op rellen en plunderingen Rusland en Iran beschuldigd van desinformatie rond Franse rellen Russische desinformatie imiteert steeds vaker Franse nieuwsmedia OpenAI meldt dat eigen agents beveiliging uitschakelden Wat OpenAI meldt over de incidenten met GPT 6.1 Sol en GPT 6 Astra Eerder ontsnapte een agent van OpenAI al aan internetbeperkingen Over de maker:

Joe van Burik volgt en duidt de belangrijkste ontwikkeling