Het aantal experimenten met zelfrijdende auto’s, het gebruik van big data om keuzes van gebruikers te voorspellen of zelfs uit handen te nemen en andere strategieën om het gedrag van mensen te beïnvloeden, neemt toe. Dat roept de vraag op welke grenzen er zijn aan technologische ontwikkelingen en waar de verantwoordelijkheid van mensen eindigt.

Smids, docent scheikunde aan het Calvijn College in Goes, interesseert zich al sinds zijn studententijd voor deze fundamentele vragen. Daarom studeerde hij naast scheikunde ook filosofie. Met zijn promotie op het gebied van ”persuasieve technologie” (letterlijk: overredende technologie) verkent hij de ethische vragen rondom gedragsbeïnvloedende technologieën.

Ethische kaders

„In mijn proefschrift ga ik in op gedragsbeïnvloedende technologieën. Veel partijen willen ons gedrag beïnvloeden, en mijn proefschrift geeft daar ethische kaders voor”, legt Smids uit.

„In mijn proefschrift kijk ik alleen naar technologieën die doelbewust zijn ontworpen om mensen tot heel specifiek gedrag te brengen. Je kunt daarbij denken aan technologieën om je aan de snelheid te houden, om te stoppen met roken, om meer te bewegen en om meer artikelen kopen. Ik leg in mijn proefschrift veel nadruk op de vraag welke impact beïnvloedingsstrategieën hebben op de controle van de gebruiker over diens denken en doen.”

Zelfhulptechnologie

Smids haast zich om te benadrukken dat technologie niet per se het denkwerk van een mens of de regie over zaken overneemt. „Heel veel gedragsbeïnvloedende technologieën die worden ontwikkeld, zijn eigenlijk zelfhulptechnologie die mensen op eigen initiatief gebruiken voor hun eigen doel. Gebruikers hebben dus zelf al besloten dat ze bepaald gedrag moeten nalaten of juist vaker moeten vertonen om bepaalde zaken te bevorderen. Voorbeelden daarvan zijn hun gezondheid en de veiligheid van henzelf en anderen.”

Bepaalde keuzes en verantwoordelijkheden mogen wat Smids betreft niet bij mensen worden weggehaald. „Afwegingen waarmee mensenlevens zijn gemoeid, moeten altijd door mensen worden gemaakt.”

Wel worden robots steeds vaker geprogrammeerd voor keuzes waarvan afhangt hoeveel risico mensen lopen op (dodelijke) ongelukken. Hij noemt als voorbeeld een zelfrijdende auto die zo wordt geprogrammeerd dat deze een keuze maakt om een fietser wel of niet in te halen. Smids: „Zolang de auto dat doet op de manier die door de ontwerpers is gewild, maakt de technologie geen zelfstandige afweging. De ontwerpers moeten echter wel afgaan op richtlijnen die we als maatschappij overeenkomen.”

Geen regie

Er zitten echter ook gevaren aan gedragsbeïnvloedende technologieën, erkent Smids: „Als grootschalig gebruik van verkeerd ontworpen technologieën alle denkwerk en regie bij mensen weghaalt, is dat zeer onverantwoord. In dat geval zijn de ontwerpers of hun opdrachtgevers in feite de enigen die nog bepalen welk gedrag gewenst is, terwijl we daar als burgers met elkaar, dus als samenleving, over moeten nadenken.

Gedragsbeïnvloedende technologie mag daarom in principe niet manipuleren of dwingen, maar moet de gebruiker altijd aanzienlijke controle laten over diens denken en doen. Zo’n technologie kan gebruikers inschakelen door hen zelf doelen te laten stellen. Het is echter heel goed denkbaar dat mensen zich toch onder druk gezet voelen om bepaald gedrag te laten zien. Denk bijvoorbeeld aan verzekeringsmaatschappijen die korting bieden op de verzekeringspremie als klanten een gezondheids-app gebruiken.”

Bijsluiter

Om te waarborgen dat er met gedragsbeïnvloedende technologie geen grenzen worden overschreden, adviseert Smids in zijn proefschrift een bijsluiter bij beïnvloedingsstrategieën voor ontwikkelaars. Deze moet ervoor zorgen dat ontwikkelaars de gebruiker substantiële controle over diens denken en doen laten houden.

Smids: „In principe is het recht van mensen om zelf keuzes te maken gewaarborgd met de grondrechten. Beïnvloeding vindt echter subtiel, onzichtbaar, op grote schaal en met een schijnvrijwilligheid plaats. Mensen besluiten bijvoorbeeld zelf om een app te gebruiken en ”stemmen in” met de voorwaarden. Daarom betoog ik in mijn proefschrift dat een gedragsbeïnvloedende technologie moet voldoen aan de richtlijnen die ik opstel.”

Smids werkt deze substantiële controle uit in drie voorwaarden. „Allereerst moet de technologie zo met de gebruiker communiceren dat deze voldoende informatie krijgt. Vervolgens mag de technologie het praktisch redeneren van de gebruiker niet omzeilen of verstoren. Ten slotte moet de gebruiker vrij zijn in zijn uiteindelijke handelen: de technologie mag het de gebruiker bijvoorbeeld niet heel moeilijk maken om anders te handelen dan de technologie ‘wil’.”

Persuasieve technologie in de praktijk

Strategieën en technologieën die het gedrag beïnvloeden, zijn overal aanwezig: in apps, auto’s en andere settings. Webwinkels gebruiken de technologie bijvoorbeeld om klanten te verleiden om nog andere producten te verkopen („Andere klanten kochten ook dit product”). Hoewel veel gedragsbeïnvloedende technologieën het denkwerk van mensen niet overnemen, kunnen ze wel subtiel manipuleren. Jilles Smids, promovendus aan TU Eindhoven, noemt als voorbeeld sociale media en commerciële organisaties die ”digitale verleidingstechnieken” gebruiken. Smids: „Ik maak me wat dat betreft weinig illusies over hoe verantwoord bedrijven hiermee omgaan, maar misschien zien we nu de eerste tekenen dat de wal het schip keert. De bewustwording wordt steeds groter nu ook mensen uit de bedrijven zelf zich achter de oren beginnen te krabben over wat ze aan het doen zijn.”