Veel apps leren van jouw gedrag. Simpel voorbeeld: in je email kun je een email als spam aanmerken, waardoor het algoritme leert wat jouw voorkeuren zijn en jou in het vervolg beter kan dienen. 

Is een dergelijke leercurve ook mogelijk op het niveau van onze maatschappij met bijvoorbeeld een algoritme dat bepaalt hoe de zelfrijdende auto’s in de stad rijden? 

Iyad Rahwan pleit voor een nieuw sociaal contract met algoritmes en A.I.. We moeten ‘society in the loop’ krijgen, zie bovenstaande afbeelding voor een visualisatie:

“We need to know what types of behaviors people expect from AI, and to enable policy-makers and the public to articulate these expectations (goals, ethics, norms, social contract) to machines. To close the loop, we also need new metrics and methods to evaluate AI behavior against quantifiable human values. In other words: We need to build new tools to enable society to program, debug, and monitor the algorithmic social contract between humans and governance algorithms. […] The Age of Enlightenment marked humanity’s transition towards the modern social contract. Narrowing the SITL gap may bring humanity closer to realizing a new, algorithmic social contract.

Maar, hoewel dit allemaal heel nobel klinkt, is het waard om even kritisch na te denken of dit wel mogelijk is. Wat is een samenleving? Wie maakt daar deel van uit? En wiens waarden worden dus meegenomen in de leercurve van de A.I.? 

Adam Elkus schrijft dat de leercurve van computers altijd samenvalt met de specifieke sociale en politieke context. 

"A Japanese elder care personal robot, for example, is only able to act in a way acceptable to Japanese senior citizens because its programmers understand Japanese society. So talk of machines and human knowledge, values, and goals is frustratingly circular.

If only the problem were indeed just how to engineer a system to respect human values; that would make it very easy. The harder problem is the thorny question of which humans ought to have the social, political, and economic power to make A.I. obey their values, and no amount of data-driven algorithms is going to solve it.”

Hoewel Pokémon Go inmiddels op z'n retour is, is het spel wel nog interessant om te bekijken vanuit de tech-ethiekhoek als voorbeeld van uiterst ‘persuasive technology’. 

James Williams analyseert deze werking door Pokémon met traditionele spellen te vergelijken. Volgens hem verschilt Pokémon in één belangrijk opzicht: het heeft geen grenzen. Je kunt Pokémonnen waar je ook bent en wanneer je wilt. Sterker nog, je wordt zelfs beloond om buiten je routines en gebruikelijke routes te treden.

Dat betekent dat het aan ons is om te bepalen wanneer je stopt met spelen: ‘You have to Bring Your Own Boundaries’. En dat is lastig om twee redenen:

Ten eerste hebben spellen zoals Pokémon geen ander doel dan gewoon verschrikkelijk leuk te zijn om te spelen. Daarom, schrijft Williams, is het makkelijk voor ons om minder expliciet te zijn over de waarde die we verwachten dat dit spel toevoegt aan ons leven. 

Ten tweede gebruiken digitale spellen zoals Pokémon allerlei trucjes om onze aandacht vast te houden: ‘random reward scheduling (als speler weet je niet precies welke handige drankjes of eitjes je krijgt als je aan een Poké-stop draait), the endowment effect (you value a Pokémon more when you think you ‘own’ it), the nostalgia effect (thinking about the past makes you more willing to pay money—so if you played Pokémon growing up, watch yourself when buying PokéCoins!), territoriality, social reinforcement, the fear of missing out’. 

En, als je het zo bekijkt…zijn emails dan ook niet ‘gotta read them all!, of Facebookposts 'gotta like them all!? 

Hoe nu om te gaan met een BYOB spel zoals Pokémon Go? Een minimumvereiste is volgens Williams dat de doelen van het spel transparant moeten zijn:

“We should expect to have answers to questions like: What are the game’s goals for me? How do I know this for sure? Do those goals align with my own? For instance: let’s say Pokémon GO helps you take more steps each day, and that’s why you play it. Great—but is that what the game’s actually designed to maximize? If not, then how do we take that from being a design effect to being a design reason?”

De andere optie is dat er nieuwe grenzen worden aangebracht in het spel, of dat het de individuele spelers toestaat om begrenzingen aan te maken waarin je specificeert waar, wanneer en hoe je het spel wil spelen. 

Een mooie observatie in de Volkskrant van 31 augustus:

“Voor veel kenniswerkers is overwerken normaal. Er heeft een soort ‘binnenstebuiten-kering’ van de geschiedenis plaatsgevonden, schreef Jonathan Witteman eerder in de Volkskrant: goedbetaalde, hoogopgeleide bankiers en advocaten van de Zuidas maken vaak 80-urige werkweken - hoeveelheden die overeenkomen met de fabriekstijden van de 19de-eeuwse arbeiders. Enigszins vergelijkbare tijden gelden in sommige creatieve en academische sectoren (maar dan doorgaans met andere salarissen). 

Wie kenniswerk doet, houdt zijn scherm makkelijk ‘s avonds open, lassen of stofferen in de avond is minder vanzelfsprekend.”