IBM bepleit nauwkeurige regulering van AI en ondersteunt gericht beleid dat het verantwoordelijkheidsgevoel bij organisaties moet vergroten. Het IBM Policy Lab is een nieuw forum dat beleidsmakers een visie en bruikbare aanbevelingen biedt om de voordelen van innovatie te benutten en tegelijkertijd te zorgen voor vertrouwen in een wereld die wordt hervormd door data. Terwijl bedrijven en overheden nieuwe wegen inslaan en technologieën inzetten die de wereld positief transformeren, werkt IBM samen met overheden om de uitdagingen van morgen aan te gaan.
IBM is al lang van mening dat AI-systemen transparant en verklaarbaar moeten zijn. Dat is een van de redenen waarom het bedrijf de OESO-beginselen voor AI heeft gesteund, en met name de noodzaak om te streven naar transparantie en verantwoorde openbaarmaking bij gebruik van AI-systemen.
Principes zijn bewonderenswaardig en kunnen helpen bij het communiceren van de verplichtingen van een bedrijf aan burgers en consumenten. Maar het is volgens IBM tijd om van principes naar beleid over te gaan. Vereiste openbaarmaking - in voorkomend geval op basis van use-case en eindgebruiker - zou de standaard moeten zijn voor veel bedrijven die AI-systemen maken, distribueren of benutten. Eerder heeft IBM een openbaarmakingsvereiste geformuleerd voor gebruik door opsporingsinstanties van gezichtsherkenningtechnologie. Iets dergelijks zou meer algemeen van AI moeten worden verlangd om het publiek passende garanties te bieden dat zij eerlijk en billijk worden behandeld door op AI gebaseerde bepalingen in gevoelige gevallen.
AI-governance policy framework
Daarom bepleit IBM nauwkeurige regulering van AI. Het bedrijf ondersteunt gericht beleid dat de verantwoordelijkheden voor bedrijven zou vergroten om betrouwbare AI te ontwikkelen en te gebruiken. Gezien de alomtegenwoordigheid van AI zullen er geen one-size-fits-all regels zijn die toepasbaar zijn de vele unieke kenmerken van elke branche die van deze technologie gebruikmaakt en de impact op individuen. IBM stelt voor een geschikt en op risico gebaseerd AI-governance policy framework te definiëren op basis van drie pijlers:
• Verantwoording evenredig aan het risicoprofiel van de applicatie en de rol van de entiteit die een AI-systeem levert, ontwikkelt of beheert om onbedoelde of schadelijke resultaten voor consumenten te beheersen en te verminderen.
• Transparantie over waar de technologie wordt toegepast, hoe deze wordt gebruikt en waarom deze bepaalde bepalingen biedt.
• Eerlijkheid en veiligheid gevalideerd door te testen op bias voordat AI wordt ingezet en opnieuw getest als passend gedurende het gebruik ervan, vooral in geautomatiseerde bepalingen en toepassingen met een hoog risico.
Vijf beleidsvereisten
IBM stelt een precision regulation framework voor dat vijf beleidsvereisten voor bedrijven omvat, gebaseerd op of zij een aanbieder of eigenaar (of beide) van een AI-systeem zijn. Dit beleid kan variëren in robuustheid volgens het risiconiveau van een bepaald AI-systeem, dat zou worden bepaald door een risicobeoordeling uit te voeren op basis van mogelijke schade in verband met het beoogde gebruik, het automatiseringsniveau (en menselijke betrokkenheid), en of een eindgebruiker substantieel afhankelijk is van het AI-systeem.
- Wijs een leidende functionaris aan die over AI-ethiek gaat
Om ervoor te zorgen dat aan deze verwachtingen wordt voldaan, moeten providers en eigenaren een persoon aanwijzen die verantwoordelijk is voor betrouwbare AI.
- Verschillende regels voor verschillende risico's
Alle entiteiten die een AI-systeem aanbieden of bezitten, moeten een eerste beoordeling op hoog niveau uitvoeren van het potentieel aan schade dat de technologie kan aanrichten.
- Verberg de gebruikte AI niet
Transparantie leidt tot vertrouwen en de beste manier om transparantie te bevorderen is door openbaarmaking.
- Leg de gebruikte AI-systemen uit
Elk AI-systeem op de markt dat bepalingen of aanbevelingen doet met mogelijk belangrijke implicaties voor individuen, moet kunnen uitleggen en contextualiseren hoe en waarom het tot een bepaalde conclusie is gekomen.
- Test de gebruikte AI op bias
Alle organisaties in de AI-ontwikkelingslevenscyclus hebben een zekere mate van gedeelde verantwoordelijkheid om ervoor te zorgen dat de AI-systemen die ze ontwerpen en implementeren eerlijk en veilig zijn.
Meer informatie: IBM
15 oktober 2024 Workshop met BPM-specialist Christian Gijsels over AI-Gedreven Business Analyse met ChatGPT. Kunstmatige Intelligentie, ongetwijfeld een van de meest baanbrekende technologieën tot nu toe, opent nieuwe deuren voor analisten met i...
7 november (online seminar op 1 middag)Praktische tutorial met Alec Sharp Alec Sharp illustreert de vele manieren waarop conceptmodellen (conceptuele datamodellen) procesverandering en business analyse ondersteunen. En hij behandelt wat elke data-pr...
11 t/m 13 november 2024Praktische driedaagse workshop met internationaal gerenommeerde trainer Lawrence Corr over het modelleren Datawarehouse / BI systemen op basis van dimensioneel modelleren. De workshop wordt ondersteund met vele oefeningen en pr...
18 t/m 20 november 2024Praktische workshop met internationaal gerenommeerde spreker Alec Sharp over het modelleren met Entity-Relationship vanuit business perspectief. De workshop wordt ondersteund met praktijkvoorbeelden en duidelijke, herbruikbare ...
21 november 2024 Praktische en interactieve workshop met Nigel Turner Data-gedreven worden lukt niet door alleen nieuwe technologie en tools aan te schaffen. Het vereist een transformatie van bestaande business modellen, met cultuurverandering, een h...
26 en 27 november 2024 Organisaties hebben behoefte aan data science, selfservice BI, embedded BI, edge analytics en klantgedreven BI. Vaak is het dan ook tijd voor een nieuwe, toekomstbestendige data-architectuur. Dit tweedaagse seminar geeft antwoo...
28 november 2024Workshop met BPM-specialist Christian Gijsels over business analyse, modelleren en simuleren met de nieuwste release van Sparx Systems' Enterprise Architect, versie 16.Intensieve cursus waarin de belangrijkste basisfunctionaliteiten v...
De DAMA DMBoK2 beschrijft 11 disciplines van Data Management, waarbij Data Governance centraal staat. De Certified Data Management Professional (CDMP) certificatie biedt een traject voor het inleidende niveau (Associate) tot en met hogere niveaus van...
Deel dit bericht