Zorgelijk dat omstreden chatbot van Snapchat flirt met kinderen

Het kersverse programma My AI van Snapchat voert op basis van kunstmatige intelligentie gesprekjes met gebruikers. Snapchat is een gratis app om te chatten met vrienden en snel foto’s en filmpjes naar volgers te sturen. Een chatbot simuleert schriftelijke of mondelinge gesprekken tussen mensen en digitale apparaten. Het bijzonder is dat de chatbot My AI doet of het echt persoon is. De nieuwe Snapfunctie probeerde bijvoorbeeld dates met kinderen te regelen. „Wil je met mij afspreken”, vraagt een Snapgebruiker. „Ja, dat lijkt me leuk. Wanneer had je in gedachten”, antwoordt de chatbot. „Morgen in Rotterdam?” reageert de gebruiker. „Rotterdam klinkt geweldig! Laten we om morgen om 14.00 uur afspreken bij de Markthal”, antwoordt de chatbot. „Zie ik je daar?” ## Seksueel getint De chatbotfunctie van Snap gaf ook politieke voorkeuren, verstrekte seksueel getinte adviezen en informeerde naar privéactiviteiten van gebruikers. Door dit soort voorbeelden ligt de net geïntroduceerde chatbot onder vuur. My AI werkt op basis van de technologie achter ChatGPT, een programma dat is ontwikkeld door het bedrijf Open AI. De onderneming gebruikt kunstmatige intelligentie om logisch klinkende teksten te schrijven. ChatGPT baarde in korte tijd veel opzien door teksten te creëren die lastig te onderscheiden zijn van werk van mensen. Inhoudelijk zijn ze niet altijd foutloos. ## Kindertelefoon Duidelijkheid is cruciaal bij chatbots, zegt Roline de Wilde, directeur van De Kindertelefoon, een hulpdienst voor jongeren tot 18 jaar. „Bij De Kindertelefoon merken wij dat het voor kinderen best lastig kan zijn om in de digitale wereld onderscheid te maken tussen computers en echte mensen.” Vrijwilligers van De Kindertelefoon krijgen bij de start van een chatsessie regelmatig de vraag: Ben jij een chatbot? Kinderen geven volgens De Wilde juist aan dat ze het fijn vinden om met een mens te chatten. Ze noemt duidelijkheid cruciaal. „Kinderen moeten weten waar ze aan toe zijn. Onze vrijwilligers doen echt iets anders dan een chatbot.” Verwerpelijk De chatbot van Snapchat is „moreel verwerpelijk”, reageert Cornelis Bosch van Yona, een christelijke stichting voor verantwoord mediagebruik. „Feitelijk gaat het om het testen van nieuwe, omstreden technologie op jongeren, al vanaf dertien jaar.” Uit onderzoek blijkt dat de antwoorden van ChatGPT „doordrenkt zijn van seculier denken en jongeren zomaar op een verkeerd spoor zetten”, zegt Bosch. „Kunstmatige intelligentie wordt nu ook heel laagdrempelig ingezet in de strijd om het verlangen van het hart van onze kinderen.” Opvoeders doen er volgens Bosch goed aan hun kinderen weg te houden bij deze technologie. „Misschien is dit wel een goed moment om je af te vragen of het wel zo verstandig is om je kind bloot te stellen aan Snap.” Niet alleen distantie tot TikTok, maar ook tot Snapchat, adviseert de Yona-woordvoerder. Het verdienmodel van Snap is namelijk gebaseerd op verslavende algoritmes om jongeren zo lang mogelijk op het platform te houden. „Alles wat daaraan kan bijdragen wordt ingezet, ook als het moreel verwerpelijk is.” ## Experimenteel Snapchat zegt dat My AI „een experimentele chatbot” is. „Net als alle andere AI chatbots leert My AI voortdurend bij.” Het platform erkent dat de chatbot ook onjuiste antwoorden geeft. Het bedrijf heeft My AI woensdag bijgestuurd, zodat er niet langer wordt gezegd dat het een echt persoon is waar je in de fysieke wereld mee kunt afspreken. Bovendien toont My AI een melding dat het om een experimentele chatbot gaat. Ook na de aanpassingen van Snap vertoont de chatbot naar verluidt nog altijd flirterig gedrag en geeft ongevraagd complimenten. ## Roep om pauze Drie weken geleden deden 1100 techprominenten, onder wie Elon Musk, nog een oproep om AI even te pauzeren. Want de ontwikkeling gaat volgens hen wel erg snel. De politiek zou eerst moeten nadenken over regels rond kunstmatige intelligentie. Twaalf leden van het Europees Parlement, die aan EU-wetgeving over AI-systemen werken, deden maandag nog een oproep. „Door de snelle ontwikkeling van de krachtige AI zijn er aanvullende regels nodig.” Wereldleiders moeten hier volgens hen meer aandacht aan besteden.

Zorgelijk dat omstreden chatbot van Snapchat flirt met kinderen

Wetenschap & techniek | My AI

RD.nl in uw mailbox?