De menselijke kant van AI: discriminatie

Algoritmen hebben de neiging te discrimineren. Heel menselijk eigenlijk. Maar niet goed natuurlijk. Daarom is het best gek dat we discriminatie een enorm probleem vinden -lees artikel 1 van de Grondwet er even op na- behalve als een computer de dader is.

Reden voor een gesprek met Sennay Ghebreab, hoogleraar AI aan de UvA en lid van de voormalige Staatscommissie tegen Discriminatie en Racisme. Over gezichtsherkenning, risicoprofielen, datagedreven profileringspraktijken, en alle andere plekken waar het mis kan gaan.

Want in de wereld van de algoritmen lijkt de wet van Murphy meer waar dan ooit. Ook met de beste bedoelingen worden de meest lelijke algoritmen gemaakt.

Daarnaast werpt Ghebreab een blik in de spiegel. Bijna letterlijk. Hij legt uit hoe deze technologie uit de vroege Middeleeuwen lijkt op de AI van vandaag.

Reacties en ideeën zijn altijd welkom via technoloog@bnr.nl

Gast

Sennay Ghebreab

Video

www.youtube.com/@bnrtech

Over De Technoloog

Mark Beekhuis en Ben van der Burg gaan in gesprek met spraakmakende experts over technologische ontwikkelingen en de impact op onze samenleving. Want technologie is overal om ons heen, in onze broekzak en soms zelfs op ons hoofd. Van AI naar ruimtevaart, van chips naar het metaverse en van mobiele telefonie naar ICT-recht. In een open en vooral nieuwsgierig gesprek krijgt de luisteraar samen met Mark en Ben een razend interessant mini-college.

Over de makers