Super Vision #6: Bias in AI

Hi🖐🏿. Dit is de eerste Super Vision waarin ik een van de grote drie ‘gevaren’ van AI behandel. Deze keer is dat bias, oftewel: vooroordelen of vooringenomenheid. En laat ik direct een statement maken:

Als dit in gaat tegen alles wat je tot nu toe denkt of gelezen hebt, dan zitten we meteen goed😉! Want in deze editie maak ik duidelijk wat dan wel het probleem met bias en AI is, hoe anderen dit oplossen (waaronder een beautymerk) en geef ik vijf tips om zelf bias aan te pakken. Ik heb ook weer een AI-Uitagenda. Veel debias-plezier!

Volgende week: 🎥Video & AI.

Stel: jij en ik ontwikkelen samen een AI-model dat foto’s van ruiterstandbeelden genereert op commando, vergelijkbaar met wat DALL-E kan. Hiervoor voeden we ons systeem met duizenden afbeeldingen van dergelijke standbeelden van over de hele wereld. Wanneer het model is getraind, geven we het de volgende opdracht:

Retorische vraag: hoeveel van die beelden zullen een vrouw op een paard tonen, denk je?!

Maarten de Rijke, AI professor aan de Universiteit van Amsterdam en zijn (destijds) promovendus David Graus schreven in 2016 al een opiniestuk in NRC, getiteld Wij zijn racisten, daarom Google ook, over de echte bias in AI; het is volgens hen een reflectie van onszelf:

Van de meeste vooroordelen ben je je niet bewust, de zogeheten unconscious bias. Ieder mens bezit ze. Je hebt ze al van jongs af aan, en ze helpen je te overleven. Handig in een groep met mensen waar je van afhankelijk bent of met wie je vaak te maken hebt. Maar onhandig, vervelend, oneerlijk, pijnlijk of zelfs levensbedreigend voor alle andere mensen die minder op jou lijken. Wake up call: al die andere mensen zijn in de meerderheid 😜. En zo zijn jouw unconscious bias uiteindelijk ook gevaarlijk voor jezelf en de uitwerking van je AI-toepassing. Er worden in dit artikel maar liefst 19 soorten bias onderscheiden. Ben benieuwd welke je allemaal herkent bij jezelf.

Als je weleens onderzoek doet, ken je het begrip ook in die context. De bekendste vormen van bias hierbij zijn:

In data:

In design:

Kort gezegd: bias die niet adequaat wordt geadresseerd resulteert in gemankeerd of onbruikbaar onderzoek. En nu je weet dat er verschillende soorten bias bestaan, kun je niet anders dan er rekening mee houden. Bedenk bij je volgende project eens: welke niet-gebruikelijke bedrijven zal ik dit keer bellen? Hoe kom ik dit keer bij andere voorbeelden uit? Welke personen kan ik ook interviewen? Welke ‘vervelende’ designers zal ik om feedback vragen?

Je hebt er waarschijnlijk al tig keer over gelezen. Hier de bekendste voorbeelden:

Wie leest over bias & AI komt ook de volgende begrippen tegen: Fairness, accuracy & trust (FAT), Responsible AI, Explainable AI en Ethical AI. Bekende AI'ers die zich hiervoor hard voor maken zijn o.a. Joy Buolamwini van de Algorithmic Justice League, Lorena Jaume-Palasí van Algorithm Watch en Timnit Gebru, ex-Google Ethical AI. Deze personen, hun initiatieven en ander onderzoek hieromtrent richten zich allemaal op dezelfde vraag:

En wanneer dat wel het geval is: hoe gaat wie dan waar mee om?

Verschillende stakeholders nemen ondertussen al hun verantwoordelijkheid…

Onderzoek in academische kringen, zoals in Nederland bij de TUe levert methodes op zoals Fair Match, van promovendus Masoud Mansoury:

De Duitse non-profit Algorithm Watch onderzoekt en bericht over misstanden rondom het gebruik van AI bij bedrijven en overheden. En in zowel Vlaanderen als Nederland trekken verschillende universiteiten en onderzoeksinstituten met elkaar op.

Twitter schreef een wedstrijd uit -de Algorithmic Bias Bounty Challenge - om bias in hun algoritmes aan te laten tonen door buitenstaanders:

Google heeft een Model Card set die je gebruikt met je team bij het ontwikkelen van machine learning toepassingen:

Een bedrijf als Hugging Face, dat datasets aanlevert, doet dat op een bijzondere manier a la een Tony Chocolonely for AI. Hun datasets proberen ze zo divers, inclusief en unbiased mogelijk te maken. Hoofd data governance Margaret Mitchell (ex-Google Ethical AI) vertelt in een interview met Morning Brew over haar missie:

Beautymerk Olay (voorheen Oil of Olaz) heeft in de VS een campagne lopen met de hashtag #decodethebias. In bovenstaande commercial roept eerdergenoemde Joy Buolamwini op om de bestaande (beauty) bias in algoritmes aan te pakken terwijl ze en passant gezichtscreme gebruikt. #faceanything

Een interessant element dat Margaret Mitchell in het voornoemde interview oppert is de ‘right to contestation’: mensen moeten de manier waarop ze gerepresenteerd worden in datasets en modellen kunnen aanvechten:

Totdat bedrijven deze nieuwe best FAT AI practices toepassen, teams actief naar vooroordelen in hun ontwerp en data omzien en een fairness-waakhond is ingesteld, kun je alvast het volgende doen:

Net zoals je dat bij journalisten, opiniemakers en consultants doet (of zou moeten doen), betogen De Rijke en Graus in hun opiniestuk dat je AI-aanbevelingssystemen als gepersonaliseerde tussenpersonen moet zien:

Verplaats je eens in een werkgever of manager en ervaar op welke basis je mensen wel of niet inhuurt, aanneemt of in je team wil:

Journalist of mediamaker? Doe dan deze quiz eens:

👉🏽 Het AIJOproject heeft tools en uitleg beschikbaar om gender bias in inhoud te analyseren. Te gebruiken voor zowel tekst (Natural Language Processing) als beeld (Computer Vision).

Je kunt ook een zogeheten disparate impact analyse doen. Met deze analysemethode kijk je bijvoorbeeld naar leeftijd: levert het model even nauwkeurige resultaten op voor 18-35 jarigen als 65+‘ers? Uiteraard geldt hier ook: context bepaalt welke impact wenselijk is.

👉🏽 Hier meer informatie over implementatie van zo'n analyse

👉🏽 AI Fairness 360 (IBM) heeft video’s, artikelen, tutorials, code en andere handige manieren om bias in AI tegen te gaan. Probeer de demo en check zelf of en hoe biased de data is voor het model ‘to predict a criminal defendant’s likelihood of reoffending:

Een interessante ontwikkeling vind ik de opkomst van algorithmic auditing: gespecialiseerde bedrijven zoals Parity.ai helpen andere organisaties om hun AI-toepassingen op fairness, accuracy en responsibility te toetsen. Al komen ze nu nog uit Silicon Valley, je kunt je voorstellen dat straks, wanneer ieder zichzelf respecterende organisatie met zo'n audit als keurmerk wil pronken (#algowashing), er meer partijen nodig die deze toetsing voor hun rekening nemen. #nieuwebanendankzijAI

Lees deze twee artikelen van MIT Technology Review en The Markup als je meer wilt weten over algorithmic auditing.

✅ Dit was ‘m weer. Volgende week: video & AI.