Universiteiten, onderzoeksinstituten & non-profits
Onderzoek in academische kringen, zoals in Nederland bij
de TUe levert methodes op zoals
Fair Match, van promovendus
Masoud Mansoury:
āHet idee is om de zichtbaarheid te verbeteren van items van hoge kwaliteit, die een lage zichtbaarheid hebben in de oorspronkelijke set van aanbevelingenā.
De Duitse non-profit
Algorithm Watch onderzoekt en bericht over misstanden rondom het gebruik van AI bij bedrijven en overheden. En in zowel
Vlaanderen als
Nederland trekken verschillende universiteiten en onderzoeksinstituten met elkaar op.
Big Tech
Twitter schreef een wedstrijd uit -de
Algorithmic Bias Bounty Challenge - om bias in hun algoritmes aan te laten tonen door buitenstaanders:
Finding bias in machine learning (ML) models is difficult, and sometimes, companies find out about unintended ethical harms once theyāve already reached the public. We want to change that.
Google heeft een
Model Card set die je gebruikt met je team bij het ontwikkelen van machine learning toepassingen:
Model cards [ā¦] help investigate issues like unfair bias. For instance, does a model perform consistently across a diverse range of people, or does it vary in unintended ways as characteristics like skin color or region change? Model cards can bring clarity to these kinds of disparities, encouraging developers to consider their impact on a diverse range of people from the start of their appās development processāand keep them in mind throughout.
Start-ups
Een bedrijf als
Hugging Face, dat datasets aanlevert, doet dat op een bijzondere manier
a la een Tony Chocolonely for AI. Hun datasets proberen ze zo divers, inclusief en
unbiased mogelijk te maken. Hoofd
data governance Margaret Mitchell
(ex-Google Ethical AI) vertelt in een interview met
Morning Brew over haar missie:
MB: What do you personally want to have accomplished in the responsible-AI space?
MM: One year from now, I want it to be a norm that people provide documentation for datasets and for models. [ā¦] We see companies across the board starting to use things like model cardsāso Facebook, Salesforce, Nvidia, OpenAI, Allen AI, various papersāweāre really seeing a rise in responsible, value-aligned documentation [ā¦]
Merken & adverteerders: