Ontwikkelingen rond AI gaan hard, maar dat geeft ook zorgen over privacy en mogelijke uitsluiting van burgers. De EU is daarom hard bezig regels rond AI op te stellen en te bepalen welke systemen wel en niet welkom zijn. Maar hoe doet de EU dit als de grootste spelers, de VS en China, vaak andere ethische opvattingen hebben? Politiek econoom Daniel Mügge gaat met zijn team van de UvA onderzoeken hoe de EU haar AI-diplomatie uitvoert en wat mogelijke toekomstscenario's zijn.
"In de kern gaat ons onderzoek over regelgeving omtrent AI", vertelt politiek econoom Daniel Mügge. "Over hoe de EU hierbij omgaat met de grote spelers wereldwijd en welke toekomstscenario’s er zijn." Mügge kreeg voor zijn nieuwe projecteen NWO Vici grant. "Regelgeving rond AI is nodig bijvoorbeeld vanwege zorgen over privacy en autonomie, mogelijke discriminatie van mensen, of onwenselijke militaire toepassingen. Maar hoe regels kunnen worden opgesteld, en hoe effectief die zullen zijn, is afhankelijk van ontwikkelingen in de rest van de wereld. AI is immers een technologie met een sterk grensoverschrijdend karakter. Het zit in sociale media, in digitale dienstverlening, en niet afgebakend tussen muren en grenzen. China en de VS, de grootste spelers op AI-gebied, hebben een grote invloed op de systemen die op de Europese markt komen. In ons onderzoek analyseren we hoe de EU met deze grote spelers omgaat bij het opstellen van regels."
Afspraken met China moeizaam
Er worden volgens Mügge nu al veel gesprekken gevoerd met de VS om ethische kaders rond AI vast te leggen. Met die kaders moet bijvoorbeeld discriminatie worden voorkomen en de macht van grote bedrijven als Google en Facebook worden beperkt. “In hoeverre dat lukt, is op dit moment echter een open vraag. Met China is het nog lastiger afspraken te maken. Het land wordt hier vaak gezien als voorbeeld van hoe het niet moet: een overheid die door AI te veel macht over haar burgers heeft gekregen en mensen ermee onderdrukt. Tegelijkertijd heb je die afspraken met China wel nodig. Niet alleen heeft China een grote AI-sector en veel geld, China heeft ook toegang tot heel veel data. En die data zijn essentieel voor lerende computersystemen. Stel je krijgt vanuit China een veelbelovend AI-systeem aangeboden dat kanker in een vroeg stadium herkent. Voordat je dit systeem in een ziekenhuis inzet, wil je wel weten of de data die het herkenningsalgoritme voeden ethisch zijn verzameld.
Ook tussen EU-landen zie je trouwens verschillende opstellingen ten aanzien van AI regelgeving. Traditiegetrouw zijn Duitsers heel terughoudend over privacykwesties en het delen van persoonlijke data en dus voor strengere regels. Maar een land als bijvoorbeeld Estland ziet juist kansen zich te ontwikkelen als digitaal vooruitstrevend lab en heeft meer baat bij wat lossere regelgeving."
Vaart maken met een Europese AI sector
"Naast die regelgeving voor systemen van buiten, probeert Brussel een sterke Europese AI sector van de grond te krijgen. Niet alleen zijn Europese bedrijven makkelijker te reguleren, ook is deze Europese samenwerking voorwaarde om de enorme hoeveelheden data te integreren die nodig zijn om concurrerende AI-systemen te ontwikkelen. Brussel probeert hier vaart mee te maken want de technologische ontwikkelingen gaan razendsnel. Dat blijkt lastig, want beleidsvorming op het Europese niveau blijft een stroperig proces,” meent Mügge.
"Het is voor Brussel een uitdaging juridisch goed af te bakenen wat wel en niet onder AI-regelgeving valt. De grote techbedrijven gaan hier een enorme rol in spelen. Zij voeren natuurlijk lobby om onder beperkende regelgeving uit te komen. Maar hun technische kennis heeft Brussel tegelijkertijd hard nodig om de regels goed uit te werken. Anders zit je al snel met regels die niet aansluiten op de technische werkelijkheid en daarmee weinig grip geven op wat er daadwerkelijk speelt op AI-gebied. Zo bepalen die bedrijven straks ook mee welke systemen wel en niet welkom zijn op de Europese markt – een dynamiek waar je duidelijk vraagtekens bij kunt zetten."
Toekomstscenario’s schetsen
"In ons onderzoek gaan we eerst in kaart brengen wat er nu speelt: in welke mate is de EU voor effectieve regelgeving afhankelijk van wat anderen doen? Op basis daarvan gaan we toekomstscenario’s schetsen met de voor- en nadelen van bepaalde keuzes. Onze insteek is dat je niet één aanpak moet formuleren voor alle AI-systemen, of één set regels die je als EU altijd inzet. Afhankelijk van de specifieke AI-toepassing, kan het bijvoorbeeld raadzaam soms zijn de Amerikaanse aanpak te volgen, op een ander terrein mondiale afspraken te maken, en bij nog weer andere problemen juist een eigen EU visie en aanpak te ontwikkelen," aldus Mügge.
Het onderzoek start in september 2022 en loopt vijf jaar.
27 maart 2024 (Face-to-face én Live Video Stream) Schrijf in voor al weer de elfde editie van ons jaarlijkse congres met wederom een ijzersterke sprekers line-up. Op deze editie behandelen wij belangrijke thema’s als Data Architectuur, D...
28 maart 2024 (halve dag)Praktische workshop met Alec Sharp [Halve dag] Deze workshop door Alec Sharp introduceert conceptmodellering vanuit een non-technisch perspectief. Alec geeft tips en richtlijnen voor de analist, en verkent datamodellering op ...
28 maart 2023 Dit seminar met Mike Ferguson gaat dieper in op de ontwikkeling van dataproducten en ook hoe je een datamarktplaats kunt gebruiken om het delen van dataproducten in de hele organisatie te regelen en te delen om de time-to-value te ver...
28 maart 2023 Dit seminar behandelt de strategische implementatie van Knowledge Graph-initiatieven binnen organisaties en biedt een uitgebreid raamwerk waarin geavanceerde technieken worden gecombineerd met praktijkcases. Het voorziet deelneme...
9 april 2024 Workshop met BPM-specialist Christian Gijsels over AI-Gedreven Business Analyse met ChatGPT. Kunstmatige Intelligentie, ongetwijfeld een van de meest baanbrekende technologieën tot nu toe, opent nieuwe deuren voor analisten met inno...
11 april 2024 Praktische workshop Datavisualisatie - Dashboards en Data Storytelling. Hoe gaat u van data naar inzicht? En hoe gaat u om met grote hoeveelheden data, de noodzaak van storytelling en data science? Lex Pierik behandelt de stromingen in ...
16 april 2024 Praktisch en interactief seminar met Nigel Turner Data-gedreven worden lukt niet door alleen nieuwe technologie en tools aan te schaffen. Het vereist een transformatie van bestaande business modellen, met cultuurverandering, een herontw...
24 en 25 april 2024 Organisaties hebben behoefte aan data science, selfservice BI, embedded BI, edge analytics en klantgedreven BI. Vaak is het dan ook tijd voor een nieuwe, toekomstbestendige data-architectuur. Dit tweedaagse seminar geeft antwoord ...
Deel dit bericht