Big data en morele keuzes

Een ”sociaal kredietsysteem” is volgens de Chinese overheid noodzakelijk voor het „bouwen van een harmonieuze socialistische samenleving”. Foto: winkelstraat in Beijing. beeld EPA, Rolex Dela Pena

De Chinese overheid maakte vier jaar geleden bekend dat het hele land vanaf 2020 gaat werken met een ”sociaal kredietsysteem”. Volgens Peking is dat noodzakelijk voor het „bouwen van een harmonieuze socialistische samenleving”.

Met het systeem wordt al geëxperimenteerd. Ant Financial is een van de firma’s die volop ermee bezig zijn. Het Chinese bedrijf ontwikkelde Alipay, de betaalapp van de steeds machtiger wordende webshop Alibaba. Meer dan een half miljard Chinese gebruikers heeft de app al. Op een wereldbevolking van 7 miljard ben je dan geen kleine speler. Bijna elke dienst wordt aangeboden: treinkaartjes kopen, geld lenen, boetes betalen. Maar ook vrienden toevoegen is mogelijk. De app lijkt daarmee op een combinatie van Bol.com, Facebook, ov-chipkaart en je bankapp. Om het nieuwe overheidsbeleid alvast uit te proberen, is er een nieuwe dienst bijgekomen. Het gaat om een puntensysteem dat Chinezen voordeeltjes kan opleveren: Sesamkrediet. Deelnemers krijgen een score tussen de 350 en 950 punten. Hoe hoger de score des te meer voordeeltjes. Meer dan 600 punten? Dan kun je een leuke lening sluiten. Meer dan 700 punten? Dan krijg je eenvoudiger een visum. Sesamkrediet opent deuren, zogezegd.

Maar het systeem heeft ook een keerzijde. Te veel games bestellen, is slecht voor je score. En heb je een boete niet betaald, dan kan het zomaar zijn dat je puntenaantal omlaag gaat. Gebleken is dat Ant Financial een zwarte lijst van de overheid heeft gebruikt, met daarop miljoenen mensen die hun gerechtelijke boetes niet hadden betaald. Sesamkrediet ziet er dus ook geen been in data van andere bronnen te gebruiken.

Het Chinese voorbeeld laat zien dat big data intimiderend zijn. En algoritmes –reeksen opeenvolgende instructies in computertaal– zijn soms zo ingewikkeld dat zelfs de bedenkers er geen wijs meer uit kunnen worden. Econometrist Sanne Blauw, journalist bij het online platform De Correspondent, heeft over big data, algoritmes en cijfers een boeiend boek geschreven, dat in november uitkwam: “Het best verkochte boek ooit (met deze titel)”. Ze laat daarin zien „hoe cijfers ons leiden, verleiden en misleiden”. Het voorbeeld van het sociaal kredietsysteem Sesamkrediet gebruikt ze niet in de eerste plaats om een instrument van Peking te ontmaskeren. Ze stelt simpelweg de vraag: wat wil je met cijfers bereiken?

Wat de Chinese overheid wil, is helder: het bouwen van een „harmonieuze socialistische samenleving”. Maar wat wil YouTube? Dat je zo lang mogelijk blijft kijken. Dat levert immers geld op. Waarheidsgetrouwheid is daarbij minder van belang. En China mag een eng land zijn als het gaat om overheidscontrole, ook in Nederland wordt volop gerekend met data uit ons privé-domein. Een kredietbeoordelaar probeert zo te berekenen of we met geld kunnen omgaan en de Belastingdienst of we de fiscus willen ontlopen. Is dat erg? Dat hoeft niet. Als we ons maar realiseren dat algoritmes nooit objectief zijn. Daaraan liggen altijd morele keuzes ten grondslag. In de woorden van Sanne Blauw: Gaan we voor veiligheid of vrijheid? Voor winst of waarheidsvinding? Haar conclusie is overtuigend: Morele beslissingen moeten we niet overlaten aan mensen die toevallig een talent hebben voor computers.

De auteur is adjunct-hoofdredacteur van het Reformatorisch Dagblad.