UvA onderzoekt EU-regelgeving rond AI en mondiale afhankelijkheid

Ontwikkelingen rond AI gaan hard, maar dat geeft ook zorgen over privacy en mogelijke uitsluiting van burgers. De EU is daarom hard bezig regels rond AI op te stellen en te bepalen welke systemen wel en niet welkom zijn. Maar hoe doet de EU dit als de grootste spelers, de VS en China, vaak andere ethische opvattingen hebben? Politiek econoom Daniel Mügge gaat met zijn team van de UvA onderzoeken hoe de EU haar AI-diplomatie uitvoert en wat mogelijke toekomstscenario's zijn.

"In de kern gaat ons onderzoek over regelgeving omtrent AI", vertelt politiek econoom Daniel Mügge. "Over hoe de EU hierbij omgaat met de grote spelers wereldwijd en welke toekomstscenario’s er zijn." Mügge kreeg voor zijn nieuwe projecteen NWO Vici grant. "Regelgeving rond AI is nodig bijvoorbeeld vanwege zorgen over privacy en autonomie, mogelijke discriminatie van mensen, of onwenselijke militaire toepassingen. Maar hoe regels kunnen worden opgesteld, en hoe effectief die zullen zijn, is afhankelijk van ontwikkelingen in de rest van de wereld. AI is immers een technologie met een sterk grensoverschrijdend karakter. Het zit in sociale media, in digitale dienstverlening, en niet afgebakend tussen muren en grenzen. China en de VS, de grootste spelers op AI-gebied, hebben een grote invloed op de systemen die op de Europese markt komen. In ons onderzoek analyseren we hoe de EU met deze grote spelers omgaat bij het opstellen van regels."

Afspraken met China moeizaam
Er worden volgens Mügge nu al veel gesprekken gevoerd met de VS om ethische kaders rond AI vast te leggen. Met die kaders moet bijvoorbeeld discriminatie worden voorkomen en de macht van grote bedrijven als Google en Facebook worden beperkt. “In hoeverre dat lukt, is op dit moment echter een open vraag. Met China is het nog lastiger afspraken te maken. Het land wordt hier vaak gezien als voorbeeld van hoe het niet moet: een overheid die door AI te veel macht over haar burgers heeft gekregen en mensen ermee onderdrukt. Tegelijkertijd heb je die afspraken met China wel nodig. Niet alleen heeft China een grote AI-sector en veel geld, China heeft ook toegang tot heel veel data. En die data zijn essentieel voor lerende computersystemen. Stel je krijgt vanuit China een veelbelovend AI-systeem aangeboden dat kanker in een vroeg stadium herkent. Voordat je dit systeem in een ziekenhuis inzet, wil je wel weten of de data die het herkenningsalgoritme voeden ethisch zijn verzameld.
Ook tussen EU-landen zie je trouwens verschillende opstellingen ten aanzien van AI regelgeving. Traditiegetrouw zijn Duitsers heel terughoudend over privacykwesties en het delen van persoonlijke data en dus voor strengere regels. Maar een land als bijvoorbeeld Estland ziet juist kansen zich te ontwikkelen als digitaal vooruitstrevend lab en heeft meer baat bij wat lossere regelgeving."

Vaart maken met een Europese AI sector
"Naast die regelgeving voor systemen van buiten, probeert Brussel een sterke Europese AI sector van de grond te krijgen. Niet alleen zijn Europese bedrijven makkelijker te reguleren, ook is deze Europese samenwerking voorwaarde om de enorme hoeveelheden data te integreren die nodig zijn om concurrerende AI-systemen te ontwikkelen. Brussel probeert hier vaart mee te maken want de technologische ontwikkelingen gaan razendsnel. Dat blijkt lastig, want beleidsvorming op het Europese niveau blijft een stroperig proces,” meent Mügge.
"Het is voor Brussel een uitdaging juridisch goed af te bakenen wat wel en niet onder AI-regelgeving valt. De grote techbedrijven gaan hier een enorme rol in spelen. Zij voeren natuurlijk lobby om onder beperkende regelgeving uit te komen. Maar hun technische kennis heeft Brussel tegelijkertijd hard nodig om de regels goed uit te werken. Anders zit je al snel met regels die niet aansluiten op de technische werkelijkheid en daarmee weinig grip geven op wat er daadwerkelijk speelt op AI-gebied. Zo bepalen die bedrijven straks ook mee welke systemen wel en niet welkom zijn op de Europese markt – een dynamiek waar je duidelijk vraagtekens bij kunt zetten."

Toekomstscenario’s schetsen
"In ons onderzoek gaan we eerst in kaart brengen wat er nu speelt: in welke mate is de EU voor effectieve regelgeving afhankelijk van wat anderen doen? Op basis daarvan gaan we toekomstscenario’s schetsen met de voor- en nadelen van bepaalde keuzes. Onze insteek is dat je niet één aanpak moet formuleren voor alle AI-systemen, of één set regels die je als EU altijd inzet. Afhankelijk van de specifieke AI-toepassing, kan het bijvoorbeeld raadzaam soms zijn de Amerikaanse aanpak te volgen, op een ander terrein mondiale afspraken te maken, en bij nog weer andere problemen juist een eigen EU visie en aanpak te ontwikkelen," aldus Mügge.

Het onderzoek start in september 2022 en loopt vijf jaar.