Slecht nieuws voor iedereen die weleens een selfie of groepsfoto naar Facebook, Instagram of andere website heeft geüpload: er is een bedrijf dat deze beelden allemaal heeft opgeslagen, en ze benutte om een gezichtsherkenningsapp te bouwen die wereldwijd wordt gebruikt door politieagenten, dictatoriale regimes en particulieren. Met de technologie kunnen zij misdrijven oplossen, politieke tegenstanders oppakken of ‘gewoon’ achterhalen wie ze tegen het lijf lopen. Ook personen die nooit foto’s van zichzelf op internet zetten, komen mogelijk toch in de database voor – bijvoorbeeld doordat anderen foto’s met hen erop uploadden.

Het bedrijf in kwestie heet Clearview AI. Met zijn illegale fotoverzameling choqueerde oprichter Hoan Ton-That toezichthouders, journalisten en privacyvoorvechters. Allereerst omdat hij de foto’s zonder toestemming van de eigenaren verzamelde, en ten tweede omdat hij ze gebruikte om ”faceprints” –digitale patronen van iemands unieke gezichtskenmerken– te maken en daar munt uit te slaan.

Alle ophef ten spijt weigert Ton-That om te stoppen. In de Verenigde Staten probeerde hij met een beroep op de vrijheid van meningsuiting de rechter ervan te overtuigen dat het verzamelen van de foto’s niet onwettig was.

De gezichtsherkenningstechnologie van Clearview AI –en van vele andere aanbieders– kan de samenleving voorgoed veranderen doordat geen enkele burger meer anoniem is en de algoritmen ook nog eens niet foutloos zijn, betoogt Kashmir Hill, werkzaam bij The New York Times, in haar boek ”Je gezicht is nu van ons”. Het dossier-Clearview is daarmee relevant: voor naïeve internetgebruikers, gewetensvolle burgers en autoriteiten die graag nieuwe technologie uitproberen.

Schimmig

Clearview AI kan op mijn belangstelling rekenen. In 2021 schreef ik voor het journalistieke onderzoeksplatform Follow the Money over de schimmigheid waarmee de app van het bedrijf in Nederland is omgeven.

Gelekte gegevens suggereerden dat Nederlandse politieagenten de app ook uitprobeerden, maar noch minister Grapperhaus (Justitie en Veiligheid), noch staatssecretaris Dekker (Rechtsbescherming) kon uitsluiten dat Clearview voor andere doeleinden werd gebruikt. De bewindslieden brachten elkaar bovendien in een lastig parket door in Kamervragen te haspelen met termen over het gebruik van realtime gezichtsherkenning in Nederland. Daarbij worden gezichten van personen à la minute herkend, wat juridisch gezien nog weer anders is dan gezichtsherkenning waarbij een foto in een app wordt geüpload. Live gezichtsherkenning gebeurt hier niet, zei Dekker. Het mag niet, corrigeerde Grapperhaus, waarmee hij zich indekte voor het geval de technologie toch door de overheid en wetshandhavers wordt gebruikt.

Twee jaar later is er nog steeds weinig duidelijkheid over het gebruik van gezichtsherkenning door Nederlandse autoriteiten – en daarmee over gezichtsherkenningstechnologieën die mogelijk de grondrechten van burgers schaden.

Ernstige gevolgen

De manier waarop Kashmir Hill op het spoor van Clearview AI kwam, klinkt als een journalistieke droom. Hill kreeg eind 2019 een tip over het bestaan van het bedrijf, rook lont en besloot op onderzoek uit te gaan. Ze stuitte echter op gesloten deuren. Pogingen om de app te testen mislukten omdat Clearview AI haar gezicht in de app blokkeerde, en politieagenten die een foto van haar in de app uploadden kregen een telefoontje van Clearview-medewerkers met de vraag waar ze mee bezig waren. Hills pogingen om de technologie te testen werden, kortom, intern op de voet gevolgd en gedwarsboomd.

Dat vroeg om opheldering. Die kwam er uiteindelijk dankzij de vasthoudendheid van Hill. Het mondde uit in een artikel dat wereldwijd stof deed opwaaien en tot diverse rechtszaken en onderzoeken tegen Clearview AI leidde.

In ”Je gezicht is nu van ons” plaatst Hill de verwikkelingen rond Clearview AI in breder perspectief. Ze beschrijft hoe (overwegend Amerikaanse) wetenschappers, autoriteiten en bedrijven al sinds de jaren 50 technieken ontwikkelen om mensen te herkennen aan de hand van hun gezicht. De inzet was vaak onschuldig –een tv-bedrijf wilde bijvoorbeeld kijkcijfers bijhouden door te tellen hoeveel mensen naar een uitzending keken– maar de implicaties zijn dat zeker niet. Algoritmen zijn feilbaar, datasets die worden gebruikt om ze te trainen werken vooringenomenheid en discriminatie in de hand, en verkeerde toepassing kan tot ernstige gerechtelijke dwalingen leiden.

Als er, zoals in het geval van Clearview AI, ook nog eens sprake is van een opportunistische ontwikkelaar die maling aan burgerrechten heeft, is dat vragen om problemen. De praktijk heeft het uitgewezen: Clearview AI moet zich inmiddels verweren in tal van rechtszaken en kreeg miljoenenboetes van privacytoezichthouders. Toch laat Ton-That zich daar niet door weerhouden. Ooit zullen mensen de meerwaarde van Clearview AI voor het opsporen van criminelen zien, is zijn gedachte. Hij wordt daarin bevestigd door gezichtsherkenningstests waarin de app hoog scoort en misdrijven die met de technologie konden worden opgelost, ook al ontwikkelde Ton-That de app daar in eerste instantie niet voor.

Lessen

De belangrijkste lessen van ”Je gezicht is nu van ons” zijn dan ook dat technologische vooruitgang zonder de juiste regulering ernstige gevolgen kan hebben, dat regulering vaak achterloopt op de ontwikkelingen, en dat er nog een serieus debat gevoerd moet worden over de afweging tussen technologische kansen en gevaren.

Het is jammer dat het boek door de herhaling van waarschuwingen, gemankeerde vertaling en soms weinig subtiele politieke uitlatingen uiteindelijk wat vermoeiend aandoet. De inhoud is namelijk uiterst lezenswaardig, ook voor mensen die na het lezen van de intro op deze recensie dachten dat ze niets te verbergen hebben. Al die foto’s op sociale media zouden op een kwade dag zomaar nadelig kunnen uitpakken – simpelweg omdat een algoritme niet onfeilbaar is of een kwade genius ermee aan de haal kan gaan.

Boekgegevens

”Je gezicht is nu van ons”, Kashmir Hill; uitg. POM.press; 344 blz.; € 23,50