View profile

CTRL ALT DELETE #70 - Geef het maar op met de mens

Revue
 
Eindelijk ben ik toegekomen aan een boek dat al lang op m'n lijstje stond: Homo Deus. Een kleine gesc
 

CTRL ALT DELETE

April 22 · Issue #70 · View online
CTRL, ALT, DELETE is een tweewekelijks openbaar notitieboekje waarin je mee kunt lezen met de aantekeningen die Sanne van der Beek maakt tijdens het schrijven van haar boek over het verbeteren van onze relatie met onze smartphone. Herontwerp van onze tech én van onszelf: hoe doe je dat? Meer vind je op www.sannevanderbeek.nl

Eindelijk ben ik toegekomen aan een boek dat al lang op m'n lijstje stond: Homo Deus. Een kleine geschiedenis van de toekomst (2016) van de Israëlische geschiedkundige Yuval Noah Harari. Hoera voor de lange treinreizen zullen we maar denken.
Harari is sinds het verschijnen van het boek De Denker van het moment. En eerlijk is eerlijk, het boek is werkelijk magistraal. Harari onderzoekt in feite wat het nu nog betekent om mens te zijn. Dat doet hij enerzijds door te kijken naar het verleden, welke ideeën ons menszijn hebben gevormd, maar ook door te beschrijven hoe dat menszijn behoorlijk op losse schroeven is komen te staan door onze huidige technologie. 

Hoe de wereld eerst in elkaar stak...
Harari beschrijft hoe onze moderne maatschappij gestoeld is op één principe: het humanisme. Het Humanisme - het geloof in de mens in plaats van in een god en een allesomvattend kosmisch plan - heeft een belangrijke rol gespeeld in de zingeving van ons bestaan:
Van oudsher gaf het grote kosmische plan het leven zin, maar het humanisme draait de rollen om en verwacht van de mens dat hij de kosmos betekenis geeft. Volgens het humanisme moeten mensen niet alleen de zin van hun eigen leven, maar ook die van het hele universum afleiden uit hun eigen, innerlijke ervaringen […] Onze gevoelens geven niet alleen ons privéleven zin, maar ook allerlei sociale en politieke processen. 
Als we willen weten wie het land moet regeren, dan luisteren we naar de kiezer in plaats van naar de paus of naar een raad van Nobelprijswinnaars, want de kiezer weet per slot van rekening prima wat goed voor hem/haar is. En ook in de economie zijn bijvoorbeeld de gilden die kwaliteitscriteria bepaalden waaraan een product moest voldoen, en de prinsen en stadsraden die de salarissen en prijzen reguleerden, vervangen door de vrije markt met één onbetwiste koning: de klant. 
Harari bespreekt dat er gaandeweg drie varianten van het humanisme zijn ontstaan: het liberalisme (waarop de meeste Westerse samenlevingen zijn gestoeld), het socialisme en het evolutionair humanisme (het recht van de sterkste geldt…Nazi-Duitsland is hier een voorbeeld van). Je kunt wel stellen dat het liberalisme in de loop der tijd als onbetwiste winnaar van de Westerse samenleving is uitgekomen stelt Harari. 
In 2016 wordt de wereld gedomineerd door het liberale pakket van individualisme, mensenrechten, democratie en de vrije markt […] Liberalen hebben zoveel waardering voor de individuele vrijheid omdat ze geloven dat mensen een vrije wil hebben. Volgens het liberalisme zijn de beslissingen van kiezers en klanten niet deterministisch of willekeurig. Uiteraard worden mensen beïnvloed door externe krachten en toevallige gebeurtenissen, maar als puntje bij paaltje komt, kunnen we allemaal met het toverstokje van de vrijheid zwaaien en onze eigen beslissingen nemen. 
Nog een belangrijk punt om te benoemen bij het liberalisme: hoe het steunt op het zogenaamde verhalende zelf. Wij mensen bestaan uit twee entiteiten: ons verhalende en ervarende zelf. Je weet precies wat ik daarmee bedoel als ik het voorbeeld geef dat je Nieuwjaar hebt besloten om af te vallen, maar dat als puntje bij paaltje komt dat je naar de sportschool moet, je moe bent en meer zin hebt om op de bank te hangen met pizza. De meeste mensen identificeren ondanks de vele (succesvolle) sabotagepogingen van het ervarende zelf, zich sterk met hun verhalende zelf. 
Als we ‘ik’ zeggen, bedoelen we het verhaal in ons hoofd, niet de stortvloed van ervaringen die we continu ondergaan. Het maakt niet uit dat de plot vol leugens en gaten zit en dat die constant herschreven wordt, zodat het verhaal van vandaag totaal in tegenspraak kan zijn met dat van gisteren. Dat veroorzaakt het twijfelachtige liberale geloof dat ik een individu bent en dat ik een duidelijke, consistente innerlijke stem heb die het hele universum zijn betekenis geeft.
De grote ontmanteling van ons mensbeeld
Ok, zo stak de wereld dus eerst in elkaar. Maar recente en naderende technologische veranderingen knabbelen flink aan dat mensbeeld. Ze veroorzaken in feite twee problemen die het liberalisme onderuit schoppen: 
1. Bewustzijn telt niet meer, alleen intelligentie
2. We zijn geen individu meer, alleen nog maar onderdeel 
Goed, dat zijn wat boude stellingen. Laat me het even uitleggen. 
Het liberalisme werd in feite een succes omdat het op politiek, economisch en militair vlak logisch was om ieder mens waardevol te noemen. 
Op de massale slagvelden van moderne industriële oorlogen en aan de massale lopende banden van de moderne industriële economieën telde ieder mens. 
Maar nu we steeds intelligentere systemen krijgen, heb je voor veel dingen geen mens meer nodig…alleen een systeem dat slim genoeg is om de taak uit te voeren. Hoewel een taxichauffeur van vlees en bloed een prachtig rijk bewustzijn heeft, is dat niet echt nodig om een passagier veilig en goedkoop van A naar B te brengen. Een zelfrijdende auto kan dat zelfs veel beter. Harari vergelijkt deze situatie met de rol van paarden tijdens de industriële revolutie:
Een gewoon boerderijpaard kan ruiken, liefhebben, gezichten herkennen, over hekken springen en nog duizend andere dingen, en dat allemaal veel beter dan een T-Ford of een Lamborghini van een miljoen euro. Toch zijn de paarden vervangen door auto’s, omdat die superieur waren in de paar takken die het systeem echt nodig had. 
Je kunt je het sombere toekomstbeeld voorstellen dat ontstaat als groepen mensen gewoon niet meer nodig zijn, maar laten we ons even blijven concentreren op hoe ons mensbeeld ontmanteld wordt.
Geen bewustzijn meer nodig dus. Hoe zit dat met het geloof dat we individuen zijn?
Het liberale geloof in individualisme is gebaseerd op het geloof dat ik een individu ben met een heldere, eenduidige innerlijke stem, die mijn authentieke zelf is. Alleen ik kan deze stem van mijn authentieke zelf horen en daardoor kan niemand anders keuzes voor me maken. Ik heb dus een vrije wil.
Maar de laatste eeuw zijn biowetenschappers tot de conclusie gekomen dat dit geloof eigenlijk evenveel feitelijkheden bevat als ons geloof in de Paashaas. Er is geen ondeelbaar zelf dat beslissingen neemt. Het is eerder zo dat beslissingen voortvloeien uit een potje touwtrekken tussen verschillende, vaak tegenstrijdige innerlijke entiteiten:
Elke seconde creëren de biochemische mechanismen in de hersenen een korte ervaring, die direct weer verdwijnt. Daarop volgen in rap tempo nog meer van die flitsen, die weer verdwijnen, waarna er weer een komt, en weer verdwijnt. Die kortstondige ervaringen vormen samen geen duurzame essentie. Het verhalende zelf probeert orde in deze chaos aan te brengen door er een oneindig verhaal van te maken, waarin al die ervaringen een plekje krijgen, waardoor elke ervaring blijvende betekenis krijgt. Maar dit verhaal is en blijft fictie, hoe overtuigend en verleidelijk het ook mag zijn. 
Kortom het beeld dat biowetenschappers hier schetsen is heel anders: Mensen zijn dividuen, een assemblage van allerlei verschillende algoritmen, zonder een eenduidige innerlijke stem of ondeelbaar zelf. En de algoritmen waaruit een mens bestaat zijn helemaal niet vrij. Ze worden gevormd door genen en invloeden van buitenaf.
OK, tot dusver treft de wetenschap de meeste blaam in plaats van de technologie van de ontmanteling van ons o zo dierbare mensbeeld. Maar er zit nog een behoorlijk groot gat tussen dit zo lezen en er écht in geloven en naar handelen. En dat is precies de rol die technologie kan gaan spelen: het overbruggen van deze cognitieve dissonantie waardoor we ons nieuwe mensbeeld worden.
Technologie geeft ons het laatste zetje
Goed, we zijn dus nu op het punt aanbeland dat ik gewoon een hoopje algoritmes ben, niets meer. 
Maar als ik een hoopje algoritmes ben, zonder al dat mystieke gedoe van een ziel of zelfs bewustzijn, wie zegt dan dat ik mezelf het beste ken? In theorie zou een slim extern algoritme, dat alle systemen waaruit mijn lichaam en hersenen bestaan kan volgen, precies kunnen weten wie ik ben, wat ik voel en wat ik wil.
De eenentwintigste-eeuwse technologie zou echter externe algoritmen kunnen creëren die de mens kunnen ‘hacken’ en mij veel beter leren kennen dan ik mezelf ken. Zodra dat gebeurt, zal het geloof in het individualisme instorten en zal de soevereiniteit van individuele wensen overgaan op een netwerk van algoritmen. Mensen zullen zichzelf niet meer beschouwen als autonome wezens die hun leven leiden zoals zij dat willen, maar zullen vertrouwd raken met het idee dat ze een verzameling biochemische mechanismen zijn die constant worden gevolgd en geleid door een netwerk van elektronische algoritmen. 
Hiervoor is niet eens een perfect algoritme nodig dat zich nooit vergist…het hoeft me alleen maar ietsje beter te kennen dan ik mezelf ken om m'n vertrouwen over te hevelen van m'n idee van een Ik naar het externe algoritme om beslissingen en levenskeuzes aan toe te vertrouwen. In een vorige nieuwsbrief heb ik al eens Harari’s lievelingsvoorbeeld beschreven hoe dit superalgoritme - hij noemt het Google in zijn boek - me bijvoorbeeld kan helpen met de keuze met wie ik moet trouwen, gebaseerd op feedback van mijn ervarende zelf.
Ik weet hoe extreem dit klinkt. Maar bedenk het volgende, wat we nu doen is met onze hand in het donker tasten als we beslissingen nemen op basis van pure fictie:
Het liberalisme verklaart het verhalende zelf heilig en laat het zelf kiezen in het stemhokje, in de winkel en op de huwelijksmarkt. Dat was eeuwenlang heel logisch. Het verhalende zelf geloofde weliswaar in allerlei ficties en fantasieën, maar er waren geen systemen die ons beter kenden. Zodra we echter een systeem hebben dat ons wél beter kent, wordt het belachelijk om alles nog steeds over te laten aan het verhalende zelf.
Denk je dat dit ver weg is? 
Uit onderzoek blijkt dat het Facebookalgoritme nu al beter is in het beoordelen van iemands persoonlijkheid en karakter dan de vrienden, ouders en huwelijkspartner van die persoon. Het Facebookalgoritme voorspelde de antwoorden van de vrijwilligers op basis van een analyse van hun 'likes’ op Facebook; dus bij welke webpagina’s, plaatjes en filmpjes ze op 'vind ik leuk’ klikten. Hoe meer opgestoken duimpjes, des te beter de voorspellingen klopten. 
Verbijsterend genoeg had het algoritme maar tien likes nodig om de antwoorden beter te voorspellen dan collega’s. Het had zeventig likes nodig om dat beter te doen dan vrienden, honderdvijftig likes bij familieleden en driehonderd likes om echtgenoten te overtreffen. Met andere woorden: als je toevallig driehonderd keer op 'vind ik leuk’ hebt geklikt op Facebook, dan kan het Facebookalgoritme je meningen en wensen beter inschatten dan je eigen man of vrouw!
Op sommige gebieden deed het Facebookalgoritme het zelfs beter dan de persoon zelf. Deelnemers kregen het verzoek om bepaalde dingen te evalueren, zoals hun drugsgebruik of de omvang van hun sociale netwerken. Hun oordelen waren minder nauwkeurig dan die van het algoritme. 
Microsoft (net als Apple en Google trouwens) is momenteel een digitale assistent aan het ontwikkelen - genaamd Cortana - waarbij het de bedoeling is dat het systeem zoveel mogelijk toegang heeft tot alle bestanden, emails en programma’s zodat Cortana optimaal je van dienst kan zijn. 
Cortana zou je eraan kunnen herinneren dat je een verjaardagscadeau voor je vrouw moet kopen, het kan het cadeau uitkiezen, een reservering maken bij een restaurant en je er een uur voor het avondeten aan herinneren dat je je medicijnen moet innemen. […] Vlak voor een zakelijke afspraak kan Cortana je waarschuwen dat je bloeddruk te hoog is en je dopamineniveau te laag, en dat je, zoals blijkt uit statistieken over je verleden, de neiging hebt onder zulke omstandigheden ernstige zakelijke vergissingen te begaan.
En waarom zou Cortana jou eigenlijk continu moeten lastig vallen? Waarom zou het niet zaken zelfstandig voor je kunnen regelen? Waarom zou mijn Cortana niet zelfstandig kunnen worden benaderd door de Cortana van een potentiële minnaar, waarna ze met z'n tweeën gaan bekijken of we wel bij elkaar passen?
En daarom is dit belangrijk
Ik weet het, je zou nu vast het liefst je technologie meteen uit het raam flikkeren. Mij beangstigt het ook. 
Een paar dagen geleden nog zat ik vrolijk aan studenten uit Eindhoven te vertellen dat een mogelijke oplossing voor het aandachtslurpen van mijn telefoon zou zijn, om juist mijn telefoon veel meer voor me te laten doen. Me -  als mijn verhalende zelf wil gaan sporten om 9 uur - alleen opties aan te reiken die me versterken in m'n doel. M'n werkmails, afleidende apps van vrienden blokkeren en me in plaats daarvan een TEDtalk sturen over hoe sport jaren aan je leven kan toevoegen.
Maar nu denk ik: wie ben IK dan nog in dit scenario? 
En juist daarom is het zo ontzettend belangrijk om ons niet af te wenden van onze technologie - ook niet bij dit soort creepy zaken - maar het diepe in te duiken. Te denken voorbij simpele functionele doelen totdat we bij het level komen waar het werkelijk om gaat: hoe we meer mens kunnen worden met onze technologie, wat dat menszijn in de toekomst ook gaat inhouden.
Fijn weekend!
Did you enjoy this issue?
If you don't want these updates anymore, please unsubscribe here
If you were forwarded this newsletter and you like it, you can subscribe here
Powered by Revue