View profile

Curated Culture #43 - Bring our own boundaries

Revue
 
Goedemorgen waarde lezer, Waarschuwing: Ik heb een nieuw stokpaardje (want ach: hoeveel aandacht ze o
 

CTRL ALT DELETE

September 4 · Issue #44 · View online
CTRL, ALT, DELETE is een tweewekelijks openbaar notitieboekje waarin je mee kunt lezen met de aantekeningen die Sanne van der Beek maakt tijdens het schrijven van haar boek over het verbeteren van onze relatie met onze smartphone. Herontwerp van onze tech én van onszelf: hoe doe je dat? Meer vind je op www.sannevanderbeek.nl

Goedemorgen waarde lezer,
Waarschuwing: Ik heb een nieuw stokpaardje (want ach: hoeveel aandacht ze ook vragen, het zijn toch ook wel heel gezellige huisdieren, mits je er niet een hele stal vol van hebt..). Ik ben - zoals ik vorige week ook al schreef - geïntrigeerd door de enorme disciplineringsoorlog die we momenteel voeren met onze technologie. Waarom kan dat niet anders? Hoe kan tech ons dienen en helpen onze levens in te richten? Wat betekent het om ‘goed’ samen te leven met technologie? Hoe moeten wij als mens daarvoor veranderen?
M'n onderzoek naar deze vragen zal ik met je delen in deze nieuwsbrief, al blijf ik tussendoor ook andere lezenswaardige artikelen tippen. Mochten jullie nog lees- of kijktips hebben, of gedachtes hierover: ik voer ze graag aan m'n stokpaardje, die is altijd hongerig!

Menselijke waarden inprogrammeren in A.I.: is dat mogelijk?
Veel apps leren van jouw gedrag. Simpel voorbeeld: in je email kun je een email als spam aanmerken, waardoor het algoritme leert wat jouw voorkeuren zijn en jou in het vervolg beter kan dienen. 
Is een dergelijke leercurve ook mogelijk op het niveau van onze maatschappij met bijvoorbeeld een algoritme dat bepaalt hoe de zelfrijdende auto’s in de stad rijden? 
“We need to know what types of behaviors people expect from AI, and to enable policy-makers and the public to articulate these expectations (goals, ethics, norms, social contract) to machines. To close the loop, we also need new metrics and methods to evaluate AI behavior against quantifiable human values. In other words: We need to build new tools to enable society to program, debug, and monitor the algorithmic social contract between humans and governance algorithms. […] The Age of Enlightenment marked humanity’s transition towards the modern social contract. Narrowing the SITL gap may bring humanity closer to realizing a new, algorithmic social contract.
Maar, hoewel dit allemaal heel nobel klinkt, is het waard om even kritisch na te denken of dit wel mogelijk is. Wat is een samenleving? Wie maakt daar deel van uit? En wiens waarden worden dus meegenomen in de leercurve van de A.I.? 
Adam Elkus schrijft dat de leercurve van computers altijd samenvalt met de specifieke sociale en politieke context. 
"A Japanese elder care personal robot, for example, is only able to act in a way acceptable to Japanese senior citizens because its programmers understand Japanese society. So talk of machines and human knowledge, values, and goals is frustratingly circular.
If only the problem were indeed just how to engineer a system to respect human values; that would make it very easy. The harder problem is the thorny question of which humans ought to have the social, political, and economic power to make A.I. obey their values, and no amount of data-driven algorithms is going to solve it.”
Pokémon Go: Bring your own boundaries
Hoewel Pokémon Go inmiddels op z'n retour is, is het spel wel nog interessant om te bekijken vanuit de tech-ethiekhoek als voorbeeld van uiterst ‘persuasive technology’. 
James Williams analyseert deze werking door Pokémon met traditionele spellen te vergelijken. Volgens hem verschilt Pokémon in één belangrijk opzicht: het heeft geen grenzen. Je kunt Pokémonnen waar je ook bent en wanneer je wilt. Sterker nog, je wordt zelfs beloond om buiten je routines en gebruikelijke routes te treden.
Dat betekent dat het aan ons is om te bepalen wanneer je stopt met spelen: 'You have to Bring Your Own Boundaries’. En dat is lastig om twee redenen:
Ten eerste hebben spellen zoals Pokémon geen ander doel dan gewoon verschrikkelijk leuk te zijn om te spelen. Daarom, schrijft Williams, is het makkelijk voor ons om minder expliciet te zijn over de waarde die we verwachten dat dit spel toevoegt aan ons leven. 
Ten tweede gebruiken digitale spellen zoals Pokémon allerlei trucjes om onze aandacht vast te houden: 'random reward scheduling (als speler weet je niet precies welke handige drankjes of eitjes je krijgt als je aan een Poké-stop draait), the endowment effect (you value a Pokémon more when you think you ‘own’ it), the nostalgia effect (thinking about the past makes you more willing to pay money—so if you played Pokémon growing up, watch yourself when buying PokéCoins!), territoriality, social reinforcement, the fear of missing out’. 
En, als je het zo bekijkt…zijn emails dan ook niet 'gotta read them all!, of Facebookposts 'gotta like them all!? 
Hoe nu om te gaan met een BYOB spel zoals Pokémon Go? Een minimumvereiste is volgens Williams dat de doelen van het spel transparant moeten zijn:
“We should expect to have answers to questions like: What are the game’s goals for me? How do I know this for sure? Do those goals align with my own? For instance: let’s say Pokémon GO helps you take more steps each day, and that’s why you play it. Great—but is that what the game’s actually designed to maximize? If not, then how do we take that from being a design effect to being a design reason?”
De andere optie is dat er nieuwe grenzen worden aangebracht in het spel, of dat het de individuele spelers toestaat om begrenzingen aan te maken waarin je specificeert waar, wanneer en hoe je het spel wil spelen. 
Door onze tech werken we een 19de eeuwse fabriekswerkweek
Een mooie observatie in de Volkskrant van 31 augustus:
“Voor veel kenniswerkers is overwerken normaal. Er heeft een soort ‘binnenstebuiten-kering’ van de geschiedenis plaatsgevonden, schreef Jonathan Witteman eerder in de Volkskrant: goedbetaalde, hoogopgeleide bankiers en advocaten van de Zuidas maken vaak 80-urige werkweken - hoeveelheden die overeenkomen met de fabriekstijden van de 19de-eeuwse arbeiders. Enigszins vergelijkbare tijden gelden in sommige creatieve en academische sectoren (maar dan doorgaans met andere salarissen). 
Wie kenniswerk doet, houdt zijn scherm makkelijk ’s avonds open, lassen of stofferen in de avond is minder vanzelfsprekend.” 
Fijne zondag!
Did you enjoy this issue?
If you don't want these updates anymore, please unsubscribe here
If you were forwarded this newsletter and you like it, you can subscribe here
Powered by Revue