Het socialemediaconcern neemt die beslissingen na aanbevelingen van de raad die toezicht houdt op het moderatiebeleid op Facebook en Instagram. Die vond dat Meta zich bij het bestrijden van misleidende posts te veel blindstaarde op ‘deepfakes’, oftewel video’s die met hulp van AI mensen dingen lieten doen die ze in werkelijkheid nooit hadden gedaan. Audiofragmenten of foto’s waarmee geknoeid is, bleven daardoor ongemoeid.

Nu heeft Meta besloten om vanaf mei alle met AI gemaakte of bewerkte posts een speciaal label te geven. Daarvoor maakt het internetbedrijf gebruik van de watermerken die enkele grote aanbieders van AI-tools toevoegen aan de creaties van hun gebruikers. Er komt een aparte waarschuwing voor digitaal aangepaste plaatjes, video’s of geluidsfragmenten waarbij het risico op misleiding extra groot is.

De toezichtsraad adviseerde ook om minder snel gemanipuleerde beelden van Facebook of Instagram te verwijderen. Daarmee zou Meta namelijk de vrijheid van meningsuiting kunnen beperken. Het socialemediabedrijf gaat daar in mee en laat AI-beelden vanaf juli staan zolang ze geen andere regels overtreden. Maar kunstmatige berichten die bijvoorbeeld intimiderend zijn of oproepen tot geweld blijven verboden.

Met belangrijke verkiezingen in de Verenigde Staten en de Europese Unie in aantocht zijn er veel zorgen over de verspreiding van nepnieuws via sociale media. Met hulp van geavanceerde AI-programma’s is het veel gemakkelijker geworden om bijvoorbeeld nepvideo’s realistisch te laten lijken. In de Europese Unie kunnen grote techbedrijven ook boetes krijgen als ze te weinig doen tegen de verspreiding van nepnieuws.