Elk vraagstuk waarbij een AI-oplossing een rol speelt is geïnitieerd en geïmplementeerd door mensen. Als een ML-model of AI-toepassing discrimineert, dan is dat niet de fout van het model. Het zijn mensen (helaas te vaak zoals jij en ik 😌) die de gebruikte dataset samenstelden. Het zijn mensen die de belangrijkste features (leeftijd, postcode, hoogst genoten opleiding) aangaven en het zijn mensen die de labels bepaalden en de doelen opstelden.
Ben je van plan zelf ML-modellen te gaan bouwen en toepassen, denk dan aan deze woorden:
“With great power comes great responsibility.”
- Damocles, Churchill, Spiderman e.v.a.
Schuif negatieve impact van AI niet af
Je kunt de verantwoordelijkheid voor onbedoelde, ongewenste uitkomsten van AI-systemen niet afschuiven. Niet op je data, je model of je collega’s. Niet op andere bedrijven, op de maatschappij of onze geschiedenis.
Ben jij het die de mogelijkheden van AI wil benutten, dan formuleer jij de optimalisatiedoelen, zoals ‘tijd gespendeerd’, ‘iets geleerd’, ‘meer video’s bekeken’ of ‘aantal nieuwe abonnees per week’.
Je bent als individu beperkt
Be honest: je hebt als enkel persoon een heel beperkte blik op de wereld. Maar je kunt en moet evengoed wel nadenken over onbedoelde uitkomsten van het systeem, slechte intenties van gebruikers en de consequenties van de consequenties.
Als het aan de nieuwe Europese AI-wet ligt (die overigens nog lang niet af is, zie link onderaan deze nieuwsbrief), moet je straks in staat zijn om uit te leggen hoe je AI-systeem werkt en wat het doet. Jij moet aantonen welke mogelijke fouten je hebt geïdentificeerd, wat je hebt gedaan om die te voorkomen en hoe je model te verbeteren valt.
Wees ervan bewust dat een technische uitleg niet meer voldoende is. Verschillende betrokkenen hebben hun eigen niveau en behoeften als het gaat om deze explainability (uitlegbaarheid). Je bent straks sowieso verplicht om je gebruiker uit te leggen hoe je model tot een keuze of voorspelling komt en welke gevolgen dat kan hebben voor de burger, gebruiker, kijker, lezer of luisteraar.
Informeer jezelf dus goed voordat je start met AI en wees je bewust van je eigen beperkingen en tekortkomingen. Geef toe dat jouw perspectief en overtuiging geen goede graadmeter zijn voor een eerlijke (faire) werking van je ML-model.
Om je op weg te helpen heb ik vier praktische resources voor je.
Tweet
Deel