Aflevering 5: Technologie en de toekomst van transparantie

De overheid gebruikt steeds vaker algoritmen en kunstmatige intelligentie. Maar wat gebeurt er met vertrouwen, verantwoordelijkheid en democratische controle? In deze aflevering bestuurskundige Stefan Grimmelikhuijsen en Open State-directeur Serv Wiemers.

Algemene Disclaimer

Deze podcast wordt mede mogelijk gemaakt door het ministerie van Binnenlandse Zaken en Koninkrijksrelaties. In deze serie onderzoeken we openheid en transparantie vanuit verschillende perspectieven. De gasten spreken vanuit hun eigen expertise en ervaring; hun opvattingen zijn voor eigen rekening en vertegenwoordigen niet noodzakelijkerwijs het standpunt van betrokken organisaties.

Disclaimer Aflevering 5

In deze aflevering spreken gasten over AI, algoritmes en transparantie bij de overheid. Naar aanleiding van de opname zijn enkele feitelijke verduidelijkingen toegevoegd. Er bestaan inmiddels verschillende wettelijke en beleidsmatige kaders voor AI en algoritmes, waaronder de Europese AI-verordening en rijksbrede documenten over de verantwoorde inzet van generatieve AI. De registratie van algoritmes is in ontwikkeling; percentages over de volledigheid daarvan zijn afhankelijk van scope, categorie en inventarisatie. Waar voorbeelden als de toeslagenaffaire of WIA worden genoemd, gaat het niet uitsluitend om technologie, maar om de wisselwerking tussen systemen, organisatie, menselijk handelen en bestuurlijke verantwoordelijkheid.

Feitelijke verduidelijking bij registratie van algoritmes In de aflevering wordt gesproken over de registratie van algoritmes. Voor de Rijksoverheid geldt dat in 2024 vijf hoog-risico AI-systemen en 89 impactvolle algoritmes zijn toegevoegd aan het algoritmeregister. Daarmee is ruim 26 procent van de 442 geïnventariseerde hoog-risico AI-systemen en impactvolle algoritmes geregistreerd. Omdat inventarisatie een continu proces is en aantallen per categorie en bestuurslaag verschillen, zijn algemene percentages over “het aantal geregistreerde algoritmes” afhankelijk van de gehanteerde scope. Naast deze categorieën publiceren departementen ook andere algoritmes, zoals categorie C en D, en zetten zij dit proces voort. Feitelijke verduidelijking bij Helsinki en Amsterdam In de aflevering wordt verwezen naar Helsinki als voorbeeld van een stad die werkt met een openbaar algoritmeregister. Daarbij is het goed om te verduidelijken dat Helsinki dit niet los van Nederland heeft ontwikkeld. Amsterdam en Helsinki lanceerden in 2020 gezamenlijk hun algoritmeregisters en