EU bereikt voorlopig akkoord over ontwikkeling en gebruik AI: ‘Historische dag’

De Europese Unie heeft vrijdag een voorlopig akkoord bereikt waarin de ontwikkeling en het gebruik van kunstmatige intelligentie (AI) aan banden worden gelegd. Bedrijven die AI ontwikkelen, zoals ChatGPT-maker OpenAI en het moederbedrijf van Google, moeten transparant zijn over hoe hun technologieën tot stand komen en zich gaan houden aan strenge regels, zo staat in het akkoord. Consumenten en overheden mogen AI in beperkte mate inzetten.

De wet, als de lidstaten en het Europees parlement definitief hun fiat geven, is de eerste van zijn soort wereldwijd, en kwam tot stand na een marathononderhandeling van bijna vijftien uur, voorafgegaan door een debat van een etmaal. Eén van de knelpunten was het gebruik van AI-gezichtsherkenning door overheden.

De lidstaten wilden de technologie kunnen gebruiken om criminaliteit en terrorisme te kunnen bestrijden, het parlement wilde het gebruik geheel verbieden. Onder de voorlopige afspraken mogen overheden gezichtsherkenning gebruiken, maar niet door ongericht beelden van het internet of veiligheidscamera’s plukken en door een AI-systeem laten analyseren.

Voordat bedrijven AI-modellen (zoals tekst- of beeldgeneratoren) op de markt aanbieden, moeten ze eerst informatie aanleveren zoals hoe de AI getraind is. Bedrijven die met AI beelden genereren, moeten duidelijk maken dat de beelden niet echt zijn. Momenteel wordt AI gebruikt om bijvoorbeeld nepporno te maken die lastig van echt te onderscheiden is. WNL-presentator Welmoed Sijtsma werd daar bijvoorbeeld het slachtoffer van.

Lees ook

Tv-recensie | Welmoed Sijtsma vindt zichzelf in deepfake-porno: ‘super-respectloos’

De verantwoordelijke Eurocommissaris, Thierry Breton, zei tijdens een persconferentie dat het een „historische dag” is en dat „Europa zichzelf heeft gepositioneerd als pionier, en zijn rol als mondiale voorloper heeft begrepen”.

Beperkingen én investeringen

Voorzitter van de Europese Commissie Ursula von der Leyen schrijft in een verklaring dat AI, mits „wijselijk en breed ingezet, enorme voordelen kan hebben voor onze economie en maatschappij”. Daarom verwelkomt ze de gemaakte afspraken, die volgens de voorzitter „Europese waarden naar een nieuw tijdperk brengen”. Von der Leyen benadrukt dat de Unie niet alleen beperkingen oplegt, maar ook meer dan een miljard euro per jaar investeert in onderzoek naar en innovatie van kunstmatige intelligentie.

GroenLinks-Europarlementariër Kim van Sparrentak heeft namens de Groenen meegedaan aan de onderhandelingen, die volgens haar moeizaam verliepen, en reageerde: „De ongekende big-techlobby tegen bindende regels voor grote systemen als ChatGPT zorgde voor veel vertraging. Er stond veel op het spel, maar we hebben de strijd gewonnen.” Volgens Sparrentak zijn AI-systemen door de „strenge” regelgeving die is afgesproken „in Europa voortaan altijd betrouwbaar, ethisch en veilig”. Ze vervolgt: „In een vrije en democratische samenleving moet je over straat kunnen, zonder dat de overheid je zomaar constant volgt op straat, op festivals of in voetbalstadions.”

Lees ook

Experts vrezen in potentie ernstige, zelfs catastrofale schade door kunstmatige intelligentie. Hoe houdt de mens controle?

Demissionair staatssecretaris Alexandra van Huffelen (Digitalisering, D66) schrijft in een reactie „ontzettend blij” te zijn met het akkoord. „Maar dit ontslaat ons niet van de verplichting om te blijven kijken naar de kansen en risico’s van inzet van AI-technologie en de handhaving van de regels.” Volgens Van Huffelen zijn er „een heleboel sectoren waar Nederland sterk in is en waarin AI een grote rol gaat spelen”, zoals „landbouw, onderwijs, gezondheidszorg, vrede en veiligheid”.

‘Lauwtjes’ op z’n best

Niet alle belanghebbers steunden de wet in zijn huidige vorm. De directeur van techlobbygroep DigitalEurope Cecilia Bonefeld-Dahl zei: „We hebben een deal, maar tegen welke prijs?” De groep „steunde het aanpakken van het gebruik van AI op basis van risico’s”, maar staat niet achter de „poging” om de modellen die AI-ontwikkelaars zelf gebruiken te reguleren.

Ook aan de andere kant van het spectrum klinkt kritiek. Ella Jakubowska, werkzaam bij de privacyrechtenorganisatie European Digital Rights, zei: „Het is moeilijk om enthousiast te zijn over een wet waarin de eerste stappen worden gezet richting live gezichtsherkenning in de hele EU.” Het Europarlement heeft volgens Jakubowska „hard gevochten om de schade binnen de perken te houden”, maar het eindproduct is op z’n best “lauwtjes”.

Als het voorstel begin volgend jaar wordt aangenomen, is de verwachting dat de wet pas eind 2025 of in de loop van 2026 in werking treedt. Tot die tijd gaat de EU bedrijven ondersteunen om zich aan te passen aan de aanstaande beperkingen, zo schrijft Von der Leyen: „Ongeveer honderd bedrijven hebben al laten weten dat ze op vrijwillige basis kernverantwoordelijkheden uit de wetgeving willen implementeren.”

Lees ook

Wat zijn de risico’s van AI? En wat kun je ermee? NRC praat je bij over kunstmatige intelligentie