Stanford: Risico’s rond trainingsdata in AI
Foundation models, de grote AI-modellen die worden getraind op omvangrijke datasets, brengen volgens Stanford HAI substantiële privacyrisico’s met zich mee. Stanford HAI is het onderzoekscentrum voor Human Centered AI van de bekende universiteit. Volgens het instituut ligt het risico vooral in het gebruik van trainingsdata waarin mogelijk persoonsgegevens zijn opgenomen.
Het gebruik van zulke data kan volgens het rapport leiden tot blootstelling van identificeerbare informatie, maar ook tot het afleiden van informatie over individuen via de uitvoer van modellen. Dit speelt risico vooral bij grootschalige transformer-modellen, waarin het systeem delen van de trainingsdata kan onthouden en reproduceren.
Klassieke maatregelen werken onvoldoende
Het rapport benadrukt dat klassieke privacymaatregelen zoals anonymisatie en pseudonimisering niet altijd voldoende bescherming bieden en zeker niet tegen het reproduceren van trainingsdata.
Volgens Stanford HAI is het zicht op de herkomst en samenstelling van trainingsdata vaak beperkt. Dataset provenance en lineage worden namelijk vaak niet volledig, over de hele dataketen vastgelegd. Het rapport wijst op het belang van data governance, waaronder het vastleggen van datastromen, toegangsrechten en classificatie van datasets.
Technische oplossingen vergen aanpassingen
Als technische oplossingen noemt HAI onder meer differential privacy, waarbij statistische ‘ruis’ aan data wordt toegevoegd. Daarnaast beschrijft het rapport federated learning, waarbij modellen lokaal worden getraind zonder centrale opslag van data.
Deze technieken vragen wel om de nodige aanpassingen, vooral voor toegangsbeheer en het coördineren van verspreide trainingsprocessen.
