Demissionair of niet, kabinet moet snelheid maken met beleid rond algoritmes en AI
De Autoriteit Persoonsgegevens (AP) kwam maandag met een heuse primeur. Voor het eerst rapporteerde de waakhond over de risico’s van algoritmes en kunstmatige intelligentie (AI).
Sinds begin van dit jaar is de AP door de overheid aangewezen om het toezicht op de inzet van algoritmes en AI te coördineren. Het is te prijzen dat de overheid toezicht belangrijk vindt en regelt, nu publieke en private organisaties deze moderne technieken steeds vaker inzetten. Dergelijke systemen nemen werk dat voorheen door mensen werd gedaan uit handen, kunnen dankzij hun enorme rekenkracht complexe vragen razendsnel oplossen en zijn daarom een populair middel voor een efficiëntere bedrijfsvoering.
Voor veel organisaties is het dan ook maar wat verleidelijk om uitgebreid te experimenteren met allerlei nieuwe toepassingen, zoals slimme chatbots. Immers, als die zorgen voor een snellere beoordeling van sollicitanten of patiënten, of als ze beloven fraude eenvoudig te kunnen opsporen of zelfs te voorkomen, wie zou dat soort middelen dan niet graag inzetten?
Dat het helaas regelmatig ernstig misgaat, blijkt wel uit bijvoorbeeld de toeslagenaffaire. Daarbij beschuldigde de Belastingdienst duizenden ouders ten onrechte van fraude, op basis van een onheuse, discriminerende risico-inschatting door algoritmes. Recenter nog ging het fout bij DUO, de dienst die verantwoordelijk is voor de studiefinanciering. Bij controles op misbruik bleek hun systeem veel vaker studenten met een migratieachtergrond op de korrel te nemen.
In beide gevallen combineerden de systemen allerlei mógelijke risico-indicatoren, waarna –veelal dus ten onrechte– vrijwel automatisch de conclusie werd getrokken dat de aanvrager van een toeslag of studiebeurs wel gefraudeerd móést hebben. Het leverde voor talloze onschuldige mensen onherstelbaar leed op. Geen overbodige luxe dus dat de AP nu halfjaarlijks de ”algoritmerisico’s” in kaart brengt, en maandag de eerste van die rapportages naar buiten bracht.
De waakhond stelt vast dat er op dit moment onvoldoende grip is op de inzet van algoritmes en AI. Het ontbreekt aan instrumenten om de groeiende risico’s in beeld te brengen en te beheersen. Zeker, er zijn mooie mogelijkheden om algoritmes op een verantwoorde manier te gebruiken. Daar kan de samenleving als geheel ook beslist van profiteren. Maar dat gaat volgens de AP wel gepaard met risico’s als discriminatie, oneerlijke uitkomsten en een gebrek aan transparantie. Daar moet óók iets mee.
Zolang niet duidelijk is welke grondrechten en publieke waarden van individuen, groepen mensen of de samenleving als geheel geschonden zouden kunnen worden, past terughoudendheid bij de inzet van allerlei nieuwe technieken. Dat pleidooi van de AP verdient bijval, net als de aanbeveling van de waakhond aan het demissionaire kabinet om snelheid te maken met beleid voor verscherpt toezicht op algoritmes en kunstmatige intelligentie.
