De EU bereikte vrijdagavond een akkoord over de AI Act, een wet die de risiso’s van kunstmatige intelligentie moet beteugelen. Zo mag een drama als de Toeslagenaffaire nooit meer voorkomen.
Het kostte de EU 24 uur debatteren en 15 uur onderhandelen om zover te komen. De belangen van overheden, softwarebedrijven en lobbygroepen liepen ver uiteen.
Waarom moest de wet er komen?
Aan kunstmatige intelligentie wordt al gewerkt sinds de jaren 60 van de vorige eeuw. Met de komst van de AI-tekstgenerator ChatGPT vorig jaar kwam de ontwikkeling van AI in een stroomversnelling. Producenten van kunstmatige intelligentie publiceerden in maart een brief waarin ze opriepen om de ontwikkeling van AI een halfjaar te pauzeren vanwege de gevaren van de techniek. Deze signalen benadrukten de urgentie voor regulerende wetgeving.
Wat houdt de AI Act in?
Kort gezegd: hoe meer risico’s aan een AI-techniek kleven, hoe strenger de wet is. Zo is het verboden dat overheden burgers met AI-volgsystemen belonen of bestraffen op basis van persoonskenmerken of gedrag, zoals in China gebeurt. De voorspellende AI die in Nederland heeft geleid tot de Toeslagenaffaire valt hier ook onder.
Producenten van AI-systemen moeten transparant zijn over wat hun programma al dan niet kan. Ook zijn ze gehouden aan het Europese auteursrecht. Daarnaast moeten ze misbruik melden. Werkgevers mogen AI niet gebruiken om hun personeel te screenen, te volgen of te manipuleren.
Opsporingsdiensten mogen op aandringen van overheden echter wel gebruik maken van kunstmatig intelligente systemen. Er komt voor hen geen verbod op gezichtsherkenning.
Is iedereen gelukkig met de wet?
Nee, dat niet. Amnesty International is teleurgesteld in de AI Act. De mensenrechtenorganisatie vindt een „absoluut verbod” op gezichtsherkenning „echt noodzakelijk”. Rene Haas, topman van het chipconcern Arm Holdings maakt zich zorgen over AI. Er moet volgens hem ook een ‘knop’ komen om AI uit te kunnen zetten.
Wat vinden de EU-leiders ervan?
Die zijn optimistisch. Eurocommissaris Thierry Breton sprak vrijdagavond van een „historisch” moment. De EU is de eerste overheid ter wereld met AI-wetgeving. Ursula von der Leyen, voorzitter van de Europese Commissie meent dat de wet zal bijdragen aan „de ontwikkeling van wereldwijde vangrails voor betrouwbare AI”.
Hoe gaat het verder met de wet?
EU-landen en het Europees Parlement werken de wet de komende dagen tot in de details uit. Naar verwachting zullen de lidstaten en het EU-parlement de AI Act begin 2024 aannemen, waarna de wet in 2026 in werking kan treden. Overtreders kunnen hoge boetes tegemoet zien.
