”Kippensoep” is geen sterke aanwijzing voor een griepepidemie
Het gebruik van kunstmatige intelligentie kan een goede sollicitatieprocedure in de weg kan staan. Dat concludeerde het College voor de Rechten van de Mens, berichtte het Nederlands Dagblad (9-9). Kunstmatige intelligentie (KI, in het Engels AI) wordt steeds meer gebruikt ter ondersteuning van complexe beslissingen. KI wordt namelijk ingezet om uit heel veel gegevens, ”big data”, het goede antwoord op een moeilijke vraag te geven. Een voorbeeld is het gebruik van KI bij diagnostiek op basis van radiologische scans, zoals CT- en MRI-scans. Analyse van bestaande scans met bijbehorende medische gegevens, uitgevoerd door een computer met de juiste instructies (algoritmen), kan helpen de goede diagnose te stellen bij een nieuwe scan. De kwaliteit van medische beslissingen neemt zo toe. En met haar algoritmen weet Google meer van u dan u zich realiseert, als u dat regelmatig gebruikt. In mijn column van 11 juni ging ik daarop al in.
Een uitermate belangrijke vraag bij dit alles is: hoe betrouwbaar zijn die conclusies op basis van KI-analyses van big data? Een bekend voorbeeld is dat in 2008 ”Google grieptrends” een griepepidemie voorspelde voordat het Amerikaanse ‘RIVM’ dat constateerde. Dat was op basis van het gebruik van zoektermen gerelateerd aan griep. Maar in 2009 misten ze de Mexicaanse griep, en de griepepidemie van 2012/2013 werd overschat. Een van de redenen was dat het algoritme het woord ”kippensoep” gebruikte als aanwijzing dat van griep sprake kon zijn. Maar daar ligt natuurlijk hooguit een vaag statistisch verband.
Dit voorbeeld geeft aan waar risico’s liggen in het gebruik van KI. Zonder kennis van de context kunnen conclusies misleiden. Dat is ook het geval bij de KI voor sollicitaties. Als bijvoorbeeld geselecteerd wordt op ”onafgebroken dienstjaren” hebben vrouwen een lagere kans, omdat die vaker dan mannen een tijdje niet of minder werken om voor kinderen te zorgen. Je kunt zo de geschiktste kandidaat missen. Het opstellen van de algoritmen vereist dus kennis van de echte werkelijkheid!
De ontwikkeling van KI gaat gepaard met grote verwachtingen. Maar ook insiders waarschuwen voor ten minste twee risico’s. Allereerst dat de ontwikkeling zou kunnen leiden tot een situatie waarin we zo afhankelijk zijn geworden van de KI-systemen dat die feitelijk alle grote beslissingen van mensen overnemen. De mens durft ook niet meer in te grijpen, uit vrees alles te verstoren. Alsof we in een zelfrijdende auto (een staaltje van KI-toepassing) ook bij een naderend ongeluk niet meer durven ingrijpen. De beroemde Britse natuurkundige Stephen Hawking schreef: „De ontwikkeling van omvattende KI zou het einde van de mensheid kunnen betekenen.” Een tweede groot risico is het gebruik van KI voor volledige controle van burgers door de overheid. Daarover ging deels mijn column in juni.
Cruciaal in het gebruik van KI voor de analyse van big data is het besef dat kennis van context vereist is om tot goede conclusies te komen. Het signaal van de deurbel zegt mij dat er iemand voor de deur staat die iets wil: mijn vrouw of mij spreken, iets afgeven. De deurbel zelf is een simpel apparaatje, erop drukken geeft alleen een geluidssignaal dat mij buiten de context van mijn woning en deurbel niets zegt, hooguit alarmeert. Dus het signaal behoeft de context om specifieke informatie te geven.
In de informatietheorie zijn data de eerste stap op weg naar wijsheid. Om tot wijsheid te geraken, is een reeks tussenstappen nodig: data – informatie – kennis – wijsheid. Elke stap in deze reeks kan slechts gemaakt worden als er kennis is van context – in een brede zin van het woord. Anders wordt de werkelijkheid versimpeld tot losse feitjes. En vooral als het dan om getallen gaat, hebben die een suggestie van duidelijkheid, maar kunnen ze de volle werkelijkheid verdonkeremanen. Reeds in 1934 schreef de Engelse dichter T. S. Eliot: „Waar is de wijsheid die we verloren in kennis? Waar is de kennis die we verloren in informatie?” Wijsheid is nodig om data te interpreteren. Wijsheid, uiteindelijk wordt ze gevonden in de vreze des Heeren.
De auteur is onderzoekshoogleraar op de Lindeboomleerstoel aan de TU Kampen.
