View profile

CTRL ALT DELETE #72 - Vergeet de waarheid, het gaat om waarden

Revue
 
Goedemorgen beste lezer, Vandaag niet één denker, maar wel vier. Ik raakte namelijk gefascineerd door
 

CTRL ALT DELETE

May 13 · Issue #72 · View online
CTRL, ALT, DELETE is een tweewekelijks openbaar notitieboekje waarin je mee kunt lezen met de aantekeningen die Sanne van der Beek maakt tijdens het schrijven van haar boek over het verbeteren van onze relatie met onze smartphone. Herontwerp van onze tech én van onszelf: hoe doe je dat? Meer vind je op www.sannevanderbeek.nl

Goedemorgen beste lezer,
Vandaag niet één denker, maar wel vier. Ik raakte namelijk gefascineerd door Cathy O'Neils analyse van het United Airlines incident dat een interessant gemis blootlegt in ons omgang met technologie, namelijk: waar zijn onze normen en waarden in dit geheel? Met stukken van Shannon Vallor, Martijn de Waal en Rob Wijnberg heb ik dat gat - voor mezelf en voor jullie - wat helderder proberen te krijgen. Hoe kunnen we weer op het juiste padje raken?

Wat het echte probleem bij United Airlines was
san
Enkele maanden geleden schreef ik al een nieuwsbrief over het boek ‘De platformsamenleving’
Weet je nog dat begin april de media volstonden van het ‘wegsleepincident’ bij United Airlines waarbij passagier dr. David Dao op hardhandige wijze uit een vliegtuig van United verwijderd werd? De luchtvaartmaatschappij had het toestel overboekt waardoor er passagiers uit moesten stappen. Hoe bepaald werd welke passagier moest uitstappen? Op basis van een algoritme dat berekende welke passagier de 'lowest value customer" was, analyseert de wiskundige Cathy O'Neil
The algorithm that decided to bump Dr. David Dao from an overbooked flight was trained to find the “lowest value customer” to inconvenience – a coach passenger, naturally, not a business traveler, but also a passenger who had paid less than others and wasn’t a rewards member. In addition, the algorithm considered the immediate cost to the airline of bumping someone, which meant avoiding families, or requiring an overnight stay, to save reimbursement fees.
Dit lijkt op het eerste gezicht te kloppen. Je koopt een vliegticket immers bij een commercieel bedrijf, en die hebben het recht om hun eigen zakelijke belangen te beschermen. 
Waar de échte angel in zat, was dan ook niet de behandeling van de vliegmaatschappij, maar de reactie van het publiek. De publieke verontwaardiging richtte zich op het feit dat Dao had BETAALD voor zijn plekje en dus een goede behandeling zou moeten kunnen verwachten. 
Maar, zo stelt O'Neil, dit toont eigenlijk aan hoezeer onze waarden zijn vercommercialiseerd, hoezeer we ongemerkt functioneren volgens waarden die ingebakken zijn in het technologische en economische systeem. Want vinden we eigenlijk niet dat iedereen - of ie nu betaald heeft of niet, of een duur of goedkoop ticket heeft - een waardige behandeling verdient?
Until we demand good treatment of everyone – not just middle class ticket holders – we will be contributing to a system that commodifies our dignity.
We nemen waarden voor lief bij tech ontwikkeling
Het probleem bij onze huidige benadering van technologie is dan ook volgens tech-filosoof Shannon Vallor dat we aan het verkeerde uiteinde beginnen - bij de technologische ontwikkeling zelf - en daar blijven zitten. Het heeft weinig zin om technologie te bediscussiëren als je niet erkent dat technologie altijd menselijke waarden in zich draagt, zoals ze schrijft in ’Lessons from Isaac Asimov’s Multivac’:
Technology’s threat to democracy is not, at its root, that of poorly designed systems (though certainly design improvements can be made). The real threat is when technical progress is relied upon as a substitute for moral progress in cultivating the civic virtues, norms, and values that sustain functional democracies.
Met elke technologische ontwikkeling moeten we dus net zozeer zorg dragen voor de ontwikkeling van de waarden die ermee gepaard gaan en daar valt nu een gat tussen. Die waarden, die nemen we gewoon voor lief, die komen wel vanzelf meegehobbeld. Maar nee, zo werkt het dus niet. In de cultivering van waarden die een technologie waardevol voor ons maakt, dáárin zit nu de urgentie en een grote bulk werk voor ons:
More to the point, the designs of such platforms have assumed civic virtues as inputs, rather than helping to cultivate them—virtues like integrity, courage, empathy, perspective, benevolence, and respect for truth necessary to fuel any democratic technology, analog or digital.
Welke publieke waarden zitten in Uber?
En het is heel belangrijk om dit gesprek over waarden niet slechts op individueel niveau te voeren, maar het ook hebben over hoe technologie fundamenteel verandert wat wij als publieke waarden zien en hoe door deze commerciële technologische platforms bepaald wordt wat onze samenleving inhoudt.
Ik schreef al eerder over het boek ‘De platformsamenleving’ (2016) - José van Dijck, Thomas Poell en Martijn de Waal, dat verduidelijkt hoe in technologie eigenlijk ook allerlei publieke waarden ingebakken (zouden moeten) zitten. Een voorbeeld van Uber:
Het vraagstuk rondom Uber gaat niet alleen over of de bestaande taxibranche en haar passagiers bescherming verdienen, maar over een bredere vraag: hoe kunnen wij bij de organisatie van het personenvervoer in de platformsamenleving de publieke belangen het best behartigen? Zoals kwaliteit en betaalbaarheid van het vervoer, alsook de toegankelijkheid en de duurzaamheid daarvan. Hoe kan de veiligheid van de passagiers het beste worden gegarandeerd? Welke organisatievorm zorgt ervoor dat ook burgers die in wat meer afgelegen of commercieel minder aantrekkelijke gebieden wonen, toegang houden? Op welke manier draagt de organisatie van het personenvervoer het meest bij aan de vergroening van de economie?
Waarden is het ontkennen van DE waarheid
In die zin doet zich in het programmeren van waarden in technologie eenzelfde discussie voor als we nu aan het voeren zijn over Fake news. Rob Wijnberg, oprichter en hoofdredacteur van De Correspondent, schreef op 3 mei een stuk over waarom feiten niet het antwoord zijn op nepnieuws. Media, zowel de traditionele variant als Google en Facebook, investeren momenteel veel in factchecking tools. Maar deze oplossing is geworteld in de opvatting dat er één waarheid is, die gevonden kan worden. In de post-truth samenleving is waarheid echter een sociale constructie, waar mensen zich omheen groeperen. Wat de ene groep als waarheid beschouwt, hoeft geen waarheid te zijn voor de andere groep. En dit soort waarheden hebben de neiging om zichzelf te versterken tot een zogenaamde ’narrative bias’. 
Denk maar aan het debat over dat we allemaal in onze eigen bubbel leven. In essentie gaat dat over het ontbreken van waarheid als een verbindende factor tussen groepen mensen met ieder een eigen werkelijkheidsbeleving. […] Als waarheid niet ‘overeenstemming met de realiteit’ is, maar een sociale constructie waarmee mensen aan groepsvorming doen, hebben meer feiten geen zeggingskracht. Dat is immers precies waarmee de groepen zich van elkaar onderscheiden: in een andere opvatting van wat feiten zijn.
We moeten volgens Wijnberg dus op zoek naar een andere soort waarheid, één waarin je vertrekstandpunt open en helder is. Je schrijft altijd vanuit een bepaald perspectief, vanuit bepaalde normen en waarden, dus maak deze openbaar en dus bediscussieerbaar. 
Na analyse macht achter tech, tijd voor volgende fase
Onze technologie draagt waarden in zich. Soms heel duidelijk, soms wat meer onder de oppervlakte. Zoals ik al eerder schreef: Is de waarde van bijvoorbeeld Inbox Zero wel een waarde van jou die je in het leven na wilt streven? Of is het een waarde gebaseerd op hoe de technologie van email is ontworpen? Een waarde die gedreven wordt door ons verlangen naar groei en de prestatiemaatschappij? Of een waarde die raakt aan het commerciële zelfbehoud van bedrijven achter de emailsystemen?
Het is niet alleen nodig om het machtssyteem achter onze technologie helder te krijgen - zowel qua de machtsclusteringen van bedrijven die achter onze dagelijkse technologie zitten als de mechanieken die ze inzetten om bijvoorbeeld onze aandacht vast te houden. De volgende en zeer urgente stap is het helder krijgen van de waardensystemen achter onze technologie, zodat mensen kunnen kiezen voor de technologische diensten die het beste aansluiten bij hun normen en waarden. Enne, ook nog dit kleine dingetje:
Fijn weekend, make it a good one!
Did you enjoy this issue?
If you don't want these updates anymore, please unsubscribe here
If you were forwarded this newsletter and you like it, you can subscribe here
Powered by Revue