View profile

Curated Culture #35: Technology is the answer, but what was the question?

Revue
 
Voor deze editie heb ik met name stukken geselecteerd die tonen dat échte sociale innovatie niet (all
 

CTRL ALT DELETE

July 9 · Issue #36 · View online
CTRL, ALT, DELETE is een tweewekelijks openbaar notitieboekje waarin je mee kunt lezen met de aantekeningen die Sanne van der Beek maakt tijdens het schrijven van haar boek over het verbeteren van onze relatie met onze smartphone. Herontwerp van onze tech én van onszelf: hoe doe je dat? Meer vind je op www.sannevanderbeek.nl

Voor deze editie heb ik met name stukken geselecteerd die tonen dat échte sociale innovatie niet (alleen) door technologie wordt bereikt, sterker nog: dat tech kan zorgen voor discriminatie. Oh, en voor de regenachtige momenten: de eerste korte film geschreven door Artifical Intelligence. 

We denken te simpel over de rol van tech in sociale innovatie
Ik sloeg er even van achterover toen ik ontdekte dat bovenstaande welbekende quote uit een lezing komt van de Engelse architect Cedric Price over User Centered Design uit…1966…Over vooruitziende blikken gesproken… 
Zijn scherpzinnige vraag is nu in elk geval weer hyperactueel en bon ton bij vooraanstaande tech-critici die ons waarschuwen dat we te simpel denken over de innovatieve kracht van technologie. 
Hoofd van MIT Media Lab - Ethan Zuckerman ( Ik fangirlde al eerder over hem in de post ‘We praten alleen over onszelf op social media’) heeft een nogal lang, maar zeer lezenswaardig essay geschreven ’The Perils of Using Technology to Solve Other People’s Problems’. 
Het essay begint als reactie op het voorstel van een andere tech-criticus die o.a. virtual reality voorstelt om het geweld in gevangenissen te verminderen. Het idee? Elke gevangene krijgt een virtual reality bril, waardoor het mogelijk is om mensen in eenzame opsluiting te houden, terwijl ze zo wel in contact kunnen blijven met andere mensen. 
Hoewel Zuckerman ook genoeg inhoudelijk op te merken heeft op het voorstel is z'n voornaamste bezwaar dat dit idee van een naïviteit getuigt die hij vaker opmerkt bij het denken rondom technologie en sociale innovatie: dat een technologie de kracht in zich heeft om een oplossing te zijn voor een sociaal probleem als geweld, verslaving of discriminatie om maar eens iets te noemen. Zuckerman quote hierin een andere bekende tech-criticus Evgeny Morozov die dit 'solutionism’ noemt. 
Wil een technologische innovatie echt ook een sociale omwenteling bereiken, dan moet deze voldoen aan drie voorwaarden volgens Zuckerman: 
* Vraag jezelf af of je wel het juiste probleem aan het oplossen bent. Moet je een betere gevangenis ontwerpen of wil je een verandering in onze cultuur rondom geweld teweeg brengen? 
* […] it’s rare that technology provides a robust solution to a social problem by itself. Successful technological approaches to solving social problems usually require changes in laws and norms, as well as market incentives to make change at scale. 
* Ben je ervan bewust hoe verschillend jouw belevingswereld is van die van anderen met andere achtergronden en behoeftes. Kun je wel een betere gevangeniswereld ontwerpen als je zelf nooit in de gevangenis hebt gezeten? In technologie zitten denkbeelden en voorkeuren die niet automatisch doorvertalen naar andere situaties. 
Welke discriminerende denkbeelden zitten ingebakken in onze tech?
Terwijl we ons concentreren op de Grote Machtsproblemen die technologie mogelijk in de toekomst zal veroorzaken - bijvoorbeeld hoe onze data steeds meer in handen van bedrijven komt te liggen of hoe Artificial Intelligence ons zou kunnen overnemen - vindt er voor onze neus iets plaats dat misschien nog wel grotere gevolgen kan hebben voor de machtsverhoudingen in de toekomst. 
Terwijl we namelijk onze technologie aan het ontwikkelen zijn, programmeren we ongemerkt allerlei denkbeelden mee. Kate Crawford schrijft dan ook in de NYTimes:
“Sexism, racism and other forms of discrimination are being built into the machine-learning algorithms that underlie the technology behind many “intelligent” systems that shape how we are categorized and advertised to.”
Ik schreef al eerder hierover in een hypothetisch voorbeeld - Als tech zorgt dat we langer blijven leven, wie krijgt dan dat voorrecht? - Crawford geeft in haar stuk talloze concrete en zeer pijnlijke voorbeelden. Zo werd vorig jaar ontdekt dat Google fotoapp die automatisch labels toekent aan digitale fotoalbums, foto’s van donker gekleurde mensen als gorilla’s classificeerde. Nikons camera software classificeerde de ogen van Aziatische mensen als knipogen en wetenschappers van Carnegie Mellon ontdekten dat vrouwen minder vaak via Google een advertentie te zien kregen voor een goedbetaalde baan dan mannen.
“Predictive programs are only as good as the data they are trained on, and that data has a complex history. […] Algorithms learn by being fed certain images, often chosen by engineers, and the system builds a model of the world based on those images. If a system is trained on photos of people who are overwhelmingly white, it will have a harder time recognizing nonwhite faces.”
En het enge is: hoe ga je ontdekken waar het fout gaat? Ik, als vrouw, kan niets zeggen over de online advertenties die ik niet te zien krijg. Ingebakken tech-discriminatie mag nu wel langzaam ontdekt worden, maar hoe zorg je er op systematische wijze voor dat dit niet meer fout gaat in plaats van ‘toevallige’ ontdekkingen achteraf?
Waarom zelfrijdende auto's geen oplossing zijn voor Saudi vrouwen
Voor wie het niet wist: het is in Saudi-Arabië verboden voor vrouwen om te achter het stuur van een auto te kruipen. En dat heeft grote gevolgen. Niet alleen de symbolische kracht - de vrouw heeft minder rechten dan de man - maar ook sociaal-economisch: vrouwen zijn 5 keer vaker werkeloos dan mannen en als ze wel een baan hebben dan gaat een groot gedeelte van hun inkomen naar het inhuren van een chauffeur.
Nu zou je kunnen denken dat de zelfrijdende auto - waar je technisch gezien immers niet meer aan het stuur zit - hierin een omkeer kan betekenen.
Maar Sarah Aziza toont aan dat dit weer een te simplistische redenering is waarin te veel wordt gekeken naar de technologie in plaats van de sociale systemen die diep in de samenleving verankerd liggen. De Saudische regels over vrouwen achter het stuur zijn namelijk ontstaan door een zeer strikte interpretatie van het Islamitische principe van ‘voogdij’ (ofwel in de betere engelse vertaling 'guardianship’), waarin vrouwen beschermd moeten worden door de mannen in hun leven en zo onder continue supervisie staan. Zolang dit geloofssysteem bestaat zal tech nooit de positie van vrouwen in de Saudi-Arabische samenleving verbeteren.
“While it’s easy to conflate technological advances with modernity, Saudi Arabia has shown an incredible knack for mitigating progress to maintain existing social structures. A case in point: In 2012, as cellular coverage exploded in the kingdom, the Saudi government rolled out a text-messaging system that alerted Saudi men whenever females under their care left the country. It is likewise easy to imagine how Saudi authorities could adapt driverless technology to suit their commitment to “protect” and surveil women, from video chaperone systems to GPS tracking.
Hoewel Azizi dus de echte oplossing niet in een directe invloed van tech ziet, gelooft ze wel in een indirecte invloed: social media kunnen wel de golf aan activisme versterken en zo de onderlegger zijn van een sociale omwenteling.
Dit is de eerste korte film geschreven door A.I...
…En het resulteert in tamelijk bizarre 9 minuten… 
Hoe het tot stand is gekomen? Benjamin (een Artifical Intelligence computer) heeft een hele reeks aan science fiction films en series zoals Star Wars, Ghostbusters, X Files en Scary Movie 2 gevoerd gekregen, plus een paar voorwaarden waaraan het script moest voldoen. Daar kwam een script uitrollen dat vervolgens met een echte filmploeg is verfilmd. Fun facts: Benjamin schreef zelfs een titelsong (gebaseerd op de invoer van 30.000 popsongs) en het script bevatte allerlei onmogelijke aanwijzingen zoals “He is standing in the stars and sitting on the floor.”
Fijn weekend!
Did you enjoy this issue?
If you don't want these updates anymore, please unsubscribe here
If you were forwarded this newsletter and you like it, you can subscribe here
Powered by Revue