View profile

Curated Culture #34: De Kaboem-editie - Fetish robots en massavernietingswapens

Revue
 
Deze week bericht ik over hoe data-algoritmes net zo destructief kunnen zijn als een atoombom, hoe te
 

CTRL ALT DELETE

June 25 · Issue #35 · View online
CTRL, ALT, DELETE is een tweewekelijks openbaar notitieboekje waarin je mee kunt lezen met de aantekeningen die Sanne van der Beek maakt tijdens het schrijven van haar boek over het verbeteren van onze relatie met onze smartphone. Herontwerp van onze tech én van onszelf: hoe doe je dat? Meer vind je op www.sannevanderbeek.nl

Deze week bericht ik over hoe data-algoritmes net zo destructief kunnen zijn als een atoombom, hoe tekst op het randje van uitsterven staat, wat er misgaat als we onze robots tot een fetish maken en hoe een stad vol drones eruit ziet. 

Data zijn de nieuwe 'weapons of math destruction'
“We live in the age of the algorithm. Increasingly, the decisions that affect our lives—where we go to school, whether we get a car loan, how much we pay for health insurance—are being made not by humans, but by mathematical models. In theory, this should lead to greater fairness: Everyone is judged according to the same rules, and bias is eliminated. But the opposite is true.”
De Amerikaanse wiskundige Cathy O'Neil is nogal stellig in haar TED-talk (later dit jaar komt het boek uit waarin ze dit verder uitwerkt): onze omgang met data is net zo gevaarlijk als een atoombom. Waarom?
Omdat een data algoritme een schijn van neutraliteit, logica en eerlijkheid ophoudt, terwijl het niet transparant genoeg is hoe dat algoritme werkt. En aangezien algoritmes worden gebruikt om steeds meer vergaande beslissingen te nemen over de levens van veel mensen gebruikt O'Neil de steengoede metafoor ‘weapon of math destruction’. O'Neil geeft het voorbeeld van predictive policing, waarin de politie een algoritme gebruikt om te voorspellen welke persoon een grotere kans heeft om een misdaad te begaan (en houdt deze persoon vervolgens extra in de gaten). Stel nu dat deze persoon daarom geen kans heeft om een lening of verzekering af te sluiten, omdat een ander algoritme hem als te groot risico beschouwt door de uitkomst van predictive policing? En daar heb je ’t: Kaboem.
Bereid je voor, binnen 5 jaar is tekst uitgestorven: we worden camera's
Dat is in elk geval de voorspelling van Nicola Mendelsohn, hoofd Facebook Europa, Midden-Oosten en Afrika. Nu we Facebook steeds meer op onze smartphones gebruiken, doet tekst het minder goed. Beelden, liefst bewegend, dat is de toekomst. 
“The best way to tell stories in this world, where so much information is coming at us, actually is video. It conveys so much more information in a much quicker period. So actually the trend helps us to digest much more information.”
Ik weet niet hoe het met jou zit, maar ik moest wel even slikken toen ik het las. Onze toekomst van communicatie is dus beeld? 
Inderdaad, stelt Matt Hackett, samen met de Amerikaanse vlogger Casey Neistat, oprichter van het nieuwe social mediaplatform Beme: wij worden camera’s.
In deze blog voorziet Hackett dat we op de drempel staan van een tijd, waarin beelden net zo geïntegreerd zullen zijn in ons dagelijks bestaan als de rol die tijd nu heeft. Kortom als fundament waarop de samenleving draait, en dat een continue, maar onbewuste aanwezigheid heeft. En, mind you, het duurde ook een tijdje (sorry :) voordat tijd deze vanzelfsprekende plek had: 
“In the 19th century, this ubiquity of time was far beyond the realm of fiction. Time seems to us a true fact of the world only because we have been steeped in so much of it for so long. The exponential expansion of time snuck up on us.”
Waar we ons nu nog bewust zijn van de aanwezigheid van beelden en camera’s, zullen deze in de toekomst volledig geïntegreerd zijn, een onderdeel van onszelf:
“As they become ubiquitous, I doubt we will think of these things as cameras much longer. We hardly think of the tiny quartz wafers inside every integrated circuit as “clocks,” if we think of them at all. Cameras will become equally invisible facilitators of remote vision.”
Om het wat concreter te maken: hoe we nu al camera’s zijn geworden toont dit stuk van Boris Veldhuizen van Zanten, waarin hij zich ergert aan het feit dat Apple het gebruik van de camera op z'n telefoon niet snapt. Je camera gebruiken om foto’s te maken? Dat is maar 1 procent van wat je met je camera doet. Waarom heb je een nieuwe selfie-filter nodig als je je camera vooral gebruikt om de bonnetjes voor je administratie te fotograferen, om informatie te kunnen onthouden, of als spiegel om te zien of je haar nog wel goed zit? 
We maken een fetish van onze bots...en daar gaat het mis
Ok, hold your horses, dit gaat niet een stukje worden over S&M-bots. Maar desondanks is het wel handig om dit toch te lezen. Voor de volgende keer als je tegen Siri op je telefoon praat, of bij een chatbot op het internet je gram haalt over een service die niet verleend is. 
Je zult in de toekomst namelijk steeds vaker te doen hebben met bots - oftewel: een automatische assistent die autonoom een taak kan uitvoeren. En doordat deze steeds geavanceerder worden, zul je dat steeds minder door hebben. Zo hebben studenten op Georgia Tech een jaar lang nietsvermoedend tegen een chatbot gepraat die als de assistent van hun professor functioneerde.
Maar ook al is de techniek achter de bot niet verborgen - je weet dat Siri een bot is, je weet dat de automatische kassa in je supermarkt een bot is - dan nóg zul je er ongemerkt door worden beïnvloed. 
Doordat bots namelijk steeds meer persoonlijke woorden gebruiken - zoals ‘Wat kan IK voor je doen?’ 'Plaats je spullen in MIJN mand’, krijgen ze een soort persoonlijkheid. En daar begint het probleem. Hierdoor gaan wij ze namelijk fetischiseren, oftewel: gaan we een sociale relatie met ze aan die verder gaat dan een onmiddellijk functioneel gebruik. Dat is niet iets nieuws, dat doen we al jaren met onze spullen. Kleding is daar het beste voorbeeld van. De manier waarop je je kleedt vertegenwoordigt ook wie je bent, bij welke sociale groep je hoort, hoe je gezien wilt worden door anderen. 
Het probleem is dat als we een dergelijke fetish-relatie ook met (ro)bots ontwikkelen, zo stelt Brett Scott in dit stuk, dat we daardoor niet meer zien welke functionele relatie ZIJ met ONS hebben. Bots zijn namelijk altijd door hun makers - veelal bedrijven - gebouwd voor een specifiek doel. Scott pleit daarom voor meer eerlijke bots, of in elk geval meer bewustzijn van ons in onze omgang met bots. Hoe vriendelijk bots ook lijken, denk eraan: If you’re talking to bots, you’re talking to their invisible bosses.
Een stad vol drones, hoe ziet dat eruit?
Het gebeurde een paar weken geleden toen ik in het park zat te barbecuen. Plotseling zag ik links naast me een drone over de picknickende gezinnetjes vliegen. Een vreemde ervaring. Ik had al eens eerder drones gezien, maar nog niet op deze manier: onvermoed in mijn sociale omgeving. Stel je nu voor dat er niet één drone in de lucht had gehangen, maar meerdere. Got the image? Nu een stap verder. Stel je voor dat de hele stad volhangt met drones, op een manier waarop nu vogels door de lucht vliegen. 
Dat is de toekomst die design studio Superflux voor zich ziet in de korte film Drone Aviary. In de film, die overigens helemaal gefilmd is met een drone, zie je vijf soorten:  Madison: een reclamedrone met neonschermen, Nightwatchman: een surveillancedrone met infrarood camera, RouteHawk: een verkeerscontroledrone, Newsbreaker: een mediadrone en FlyCam Instadrone: een schattige, kleine drone voor persoonlijk gebruik. Wat zo ongemakkelijk is aan de film is niet zozeer hoe je de omgeving vol ziet hangen met de drones, maar met name dat je ziet hoe drones de mensen bezien. Namelijk als data-mijntjes op pootjes, die door middel van bijvoorbeeld gezichtsherkenningssoftware continue geanalyseerd kunnen worden…
Fijn weekend, geniet van de zon!
Did you enjoy this issue?
If you don't want these updates anymore, please unsubscribe here
If you were forwarded this newsletter and you like it, you can subscribe here
Powered by Revue