Homo Deus: in de greep van algoritmen

Recensie

Organische algoritmen en

Machines

Yuval Noah Harari, Homo Deus. Een kleine geschiedenis van de toekomst. Vertaling: Inge Pieters. Thomasrap.nl. 2017. 444 pp. 24,99 €

Yuval Noah Harari schreef een nieuwe versie van “Die Untergang des Abendlandes”, waarbij hij inderdaad de risico’s die we lopen als we niet meer aandacht besteden aan en zorg dragen voor wat de nieuwe technologieën, voor wat die kunnen betekenen voor het humanisme als de levensbeschouwing van de Westerse intelligentsia. Nu men doende blijkt via grootscheeps onderzoek en op grond van big data, dataïsme, mensen te screenen, studenten om preventief met behandelingen aankomende depressies te bestrijden, zelfdoding te voorkomen, zal men de vragen die in Homo Deus aan bod komen vooral ernstig nemen, want de auteur brengt ons een prikkelend toekomstbeeld.

Het is geen disclaimer wanneer de auteur stelt dat hij de evoluties die gaande zijn en die hij zoals anderen observeert probeert te extrapolleren. Hij wil ook geen dystopie aanbieden maar lezers ertoe bewegen de vele parameters die hij aandraagt te onderzoeken en na te denken over wat men er mee kan aanvangen. Daarbij legt hij veel nadruk op het mensbeeld dat we nu nog wel hanteren en vroeger hanteerden en dat nu op de helling komt te staan. Zo is een persoon geen individu, want dat zou betekenen dat we een inherent consistent systeem zouden vormen dat niet verder in deelsystemen kan opgedeeld worden. Nu denk ik wel dat we al een paar honderd jaar weten dat de mens inderdaad niet zomaar coherent is en al helemaal niet geneigd is vrij van contradicties in het leven te staan. Niettemin is het wel opvallend dat in actuele debatten die gedachte dat ons bewustzijn niet enkel complex is, maar ook nog eens niet uitzonderlijk, want alle zoogdieren hebben wellicht een impliciet bewustzijn, al betekent nog niet dat ze tot (onze) taalvaardigheden in staat zijn, waarbij dan weer opgemerkt moet worden dat sommige mensen meer taalvaardig zijn dan andere. Yuval Harari verwijst in een later hoofdstuk over bewustzijnstoestanden van onder andere walvissen, die een eigen taal hanteren. Maar het gaat erom dat onze taal niet het enige domein is, waarvan Yuval Harari meent dat de wetenschap het uitzonderlijke of eigene – aan de mens – niet kan blijven onderschrijven.

Zijn onderzoek gaat dan ook over de vraag hoe de wetenschappelijke traditie die ontstaan is in het spoor van de Verlichting de verworvenheden van de Verlichting zelf, het humanisme op de helling zetten. Geneeskunde, neurologie in het bijzonder, maar ook evolutionaire biologie en psychologie blijken de kwalificaties van het specimen homo sapiens onderuit te halen: vrije wil? Niet te bespeuren. Autonomie? Waar zou die vandaan moeten komen? De individualiteit bespraken we al even, maar ook de betekenis van het zijn, in de wereld geworpen zijn van een persoon komt op losse schroeven te staan. Waar de Aufklärung en de Verklaring van de Rechten van de Mens elke mens een eigen waardigheid toekennen, zou het best wel eens kunnen dat de verdere ontwikkeling van inzichten over het systeem dat we zijn, organische algoritmen dus, ons verder zullen afhelpen van de illusie dat we uniek en waardevol zijn. De Lumières, zoals Diderot en Voltaire vonden dat we niet teveel op God moeten rekenen, Diderot meende dat die God weinig betekenen kan, niet bestaan kan. Voltaire had er ook weinig mee, maar vond dat lui die er niet zonder kunnen ook niet dat comfort mag ontzeggen.

Het kan niet genegeerd worden dat de wetenschappelijke ontwikkelingen in de filosofie hun weerslag vinden zoals het feit dat een filosoof als Jan Verplaetse van die gedachte zijn onderzoek gemaakt heeft en inderdaad ontkent dat er zoiets als vrije wil of verantwoordelijkheid zou bestaan. Is dat dan een inbreuk op het humanisme? De filosoof lijkt er zelf geen hard hoofd in te hebben, want hij zegt zich te baseren op wetenschappelijk onderzoek. Nu stelt Yuval Harari vast dat dit wetenschappelijke bevindingen zijn die opgeld doen, maar hij laat ons in het ongewisse of die inzichten ook echt gestaafd worden dan wel of de tegenwerpingen van andere wetenschappers valabel zouden zijn. Want stellen dat we ons brein zijn, zoals onder meer Dick Swaab betoogt wordt door andere neurologen in vraag gesteld want het brein staat niet los van het lichaam – dat dualisme herhalen blijft bizar - en wie het betoog volgt dat we in Homo Deus aangeboden krijgen, merkt ook dat als we het brein als een algoritme beschouwen, er ook nog eens deelalgoritmen aan te bouwen zijn, die bijvoorbeeld de ervaring enerzijds weergeven en een andere het verhalende ik, waardoor het brein zelf een veelheid van systemen en algoritmen blijkt te zijn.

Wat we te lezen krijgen is hallucinant, want we zouden zomaar in de greep kunnen komen van de eigenaren van krachtige algoritmen en van terradatabanken. Big data is een gevaar, heet het al enige tijd, maar het zou pas problematisch worden als een bedrijf, een ontwikkelaar van algoritmen ons beter zouden kennen dan wijzelf onszelf ook maar bij benadering kunnen kennen. De stelling klinkt boud, maar heeft ook verstrekkende gevolgen. Nu zien we ook wel in, velen toch, dat het handig kan zijn als onze levensgeschiedenis mooi nageplozen kan worden, waarbij er nog weinig kans bestaat het op te leuken. Het kan ons toelaten onze kennis uit te breiden, maar het bestaan van een computerschaakspel dat beter zou presteren dan wijzelf, zou door oefening ons eigen eindspel kunnen optimaliseren. In het boek Homo Deus wordt datzelfde individu, dat dus afgeserveerd wordt, ook nog eens voorgesteld als machteloos tegenover de grote spelers, zoals GAfA oftewel “the four”, zouden, wat op zich een moeilijk te beargumenteren positie is, want mensen koesteren dan misschien wel illusies over hun autonomie, maar als ze weigeren nog mee te doen, zal men dat wel merken.

Het blijft intussen wel zo dat het voorkomen van (psychisch) leed en het schuldig verklaren wie er niet genoeg aan doet, ook een deductie is van een der waarden van de Verlichting: Lijden, onnodig lijden voorkomen. Ongevallen? Voorkomen. Veiligheid boven alles. De bestuurskundige Paul Frissen meent dat de staat op die manier ver over de eigen bevoegdheden heen dreigt te stappen en dat het voor de staat zelf en in het bijzonder het vertrouwen tussen burgers en overheid nefast kan uitpakken. Ook transparantie komt dan in beeld, want er bestaat zoiets als arcana imperii, aldus Paul Frissen, maar ook burgers hebben recht op hun persoonlijke levenssfeer en eigen geheimen.

Men kan het essay, betoog van Yuval Harari niet naast zich neerleggen, ook als enkele proposities ons vreemd of zelfs onaanvaardbaar voorkomen, want hij laat uitgebreid een benadering zien, waarin het humanisme aan zichzelf ten onder gaat. Zullen we ons volledig laten inpakken door bedrijven en/of overheden die over al te veel middelen, algoritmen beschikken, die ons kunnen helpen, maar vooral mensen tot nutteloosheid en waardeloosheid veroordelen. De omgang met niet-organische algoritmen, die het haast even goed of zelfs beter doen dan mensen, ook als berekenaars van risico’s bij verzekeringen of als juristen die als referendaris over een geval alle precedenten moeten samenrapen.

De macht van de algoritmen kunnen we beter niet ridiculiseren, maar het zal dan de vraag zijn hoe we er als mensheid mee omgaan, want hier zal het hanteren van grenzen of van een Chinese fire wall wellicht niet tegen bestand zijn, waarbij bedacht kan worden dat China met Alibaba een “Amazon” heeft gerealiseerd dat nog veel meer macht kan verwerven dan het Amerikaanse bedrijf. Kan men echter met al die data echt tot meer inzicht in het handelen van willekeurige consumenten komen? Waarschijnlijk zal dat lukken. Wie bij Delhaize een klantenkaart heeft en die wordt nu ook via lezing geactiveerd, kan dus bedenken dat Delhaize weet wat we lusten, maar als ik stelselmatig mijn goesting in patisserie voldoe bij de warme bakkers, dan heb ik dus een uitweg voor die ene goeste gevonden, waar de big data-eigenaren niet bij kunnen, tenzij ik natuurlijk ook betaal met de bankkaart. Dan komen de gegevens tot bij dezelfde partijen, langs een andere weg. Daarom ook is de gedachte dat men betalingen met cash geld moet afschaffen een gevaarlijke stap in de richting van massale controle. Het doel zou zijn dat men illegale praktijken, criminele handelingen zo in de kiem kan smoren, maar via andere systemen slagen die  er wel in aan het oog van de wet te ontkomen.

Huval Harari stelt ons voor een belangwekkende vraag, namelijk hoe we het liberale gedachtengoed, dat mij nog altijd comfortabel voorkomt, wel opgewassen zal zijn tegen de macht van algoritmen, die ons ook wel eens toelaten beslissingen aan anderen over te laten. Marli Huijer schreef in “discipline in tijden van overvloed” over hoe belangrijk en nuttig het kan zijn dat we ons via hulpmiddelen kunnen houden aan bepaalde goede vuistregels. Ook de voorstanders van e-health vinden dat een goed en bruikbaar devies, maar mensen zijn er niet om zich aan een systeem te onderwerpen, dachten filosofen als Michel Foucault en Albert Camus, maar dat blijken we nu glansrijk vergeten. Overigens blijkt het altijd weer paradoxale gegeven op te duiken dat we van de overheid geen nudging of heftiger vorm van inmenging verdragen, terwijl we minder kritisch naar bedrijven kijken, zodat we gegevens graag delen via facebook die de overheid niet mag weten. Wellicht geloven we (nog) dat die bedrijven er geen misbruik van zullen maken. Het basisvertrouwen in de samenleving wordt dan ook danig op de proef gesteld, ondanks het bestaan van bijvoorbeeld de privacy-commissie, die er is gekomen op grond van internationale verdragen.

De beelden van mensen die nergens meer voor dienen, onderwijs dat overbodig wordt omdat de machines zelflerend worden en zodat het denkbaar is dat over dertig, veertig jaar geen ingenieurs meer nodig zijn om de boel aan de praat te houden, kunnen dan dystopisch zijn, in het hele doordenken van de gedachte dat mensen de grote idealen van de Verlichting, zelfbeschikking, gelukkig zijn en gespeend van miserie, c.q. honger door oorlog,  misoogsten en lijden door ziekte of voortijdig sterven gerealiseerd werden, draagt er wel toe bij dat we andere gunstige uitkomsten niet meer volgen. De afgelopen dertig jaar werden die fragiele kanten van ons bestaan aangepakt en lijden hoeft niet meer. Overigens, een oorlog zou dezer dagen ofwel even wreed en slepend kunnen zijn, zoals in Syrië en Irak bewezen wordt, wellicht met een enkele lichtflits afgelopen kunnen zijn. Honger wordt al bij al steeds beter bestreden, behalve waar staten falen. Maar voor de Europese mens en voor mensen in delen van Azië, Amerika en Australië blijkt een gouden eeuw aan de gang te zijn, waar we maar niet genoeg van krijgen, maar waar we ook nauwelijks om geven. De factoren van het welslagen van het menselijke avontuur voor steeds meer mensen, blijken ons nauwelijks te beroeren en Vooruitgang wordt dan wel vaak bestreden, anderen menen dat we niet snel genoeg van onze munten en bankbiljetten afstand kunnen doen.

Politiek gaat terug ergens over en het is daar waar Yuval Harari laat zien dat er nog een nieuw strijdtoneel voor ons ligt, een nieuwe arena, waar de waarde van de persoon, van elk individu opnieuw onder druk komt te staan en vormen van dienstbaarheid afgedwongen lijken te worden. Altijd in naam van grotere veiligheid, snellere en goedkopere bevrediging van onze genoegens, jawel, ook de seksuele, - tot 70 % van mannelijke ondervraagden zouden met een goed gemaakte robot seks willen hebben -  zodat lastige omgang met vervelende exen van de baan zijn. Maar goed, die onderzoeken worden wel al te vaak gevoerd in een zeer beperkte staalname, studenten psychologie in Amerikaanse universiteiten. Andere realiteiten worden dus niet onderzocht – en vrede zouden we onszelf dus inschakelen in een systeem, in systemen waar we zelf geen vat meer op hebben. Zouden we ons echt zo lijdzaam laten insluiten en knevelen door big data en algoritmen? De auteur zegt niet dat zijn voorstelling van zaken boven elke twijfel verheven is, want hij blijkt bepaalde wetenschappelijke aannames ook niet geheel ernstig te nemen of te onderschrijven. Die robot is natuurlijk een niet-organische logaritme maar zou het even moeten doen als natuurlijke algoritmen, mensen dus – enfin voor wie zich niet aan geslachtsgemeenschap met dieren committeren wil – maar hoe zal men de soepele heupen van de geliefde kunnen nabouwen, als die vaak werken als delen van het autonoom zenuwstelsel, dat dus niet via feedback met het brein zelf op de impulsen ingaat. Ons lichaam is inderdaad een complex geheel, met deelsystemen en tot nog toe zag ik geen robots die echt met organische algoritmen kunnen wedijveren. Kunnen programma’s romans schrijven? Wellicht zal dat lukken en er wordt al langer muziek geprogrammeerd, zonder veel creatieve inbreng van componisten en tekstschrijvers. Maar hoe groot is het publiek dat er plat voor gaat?

Wat hij wel niet laten kan is ons aan het twijfelen brengen over onze aannames dat vooruitgang altijd ten goede zal keren voor ons en dat we ons best goed zullen voelen als anderen zich met zeer aanklampend met onze gezondheid zullen inlaten. De vraag die meer dan suggestief aan de orde komt is hoe we met technologie en wetenschappelijke vooruitgang zullen omgaan. Hierbij hoort ook een debat over macht van bedrijven, van voedingsgiganten tot databeheerders over de grenzen van hun activiteiten. Mensenrechten zullen ook meer en meer afgedwongen moeten worden van gigantische spelers met veel macht. Het gaat er niet om, zoals een einzelgänger als Unabomber meende te doen, met zijn kennis van hogere wiskunde, het systeem de rug toe te keren en onderzoekers en beheerders van het systeem in aanbouw aan te pakken. Toch kunnen we niet vertrouwen op de welwillendheid van ondernemers die over systemen beschikken, zoals Google en andere. Individuele actie kan romantisch lijken, maar het zou goed zijn, als economen de moed opbrengen hun eigen aannames over de homo economicus en andere onder ogen nemen, zoals Tomas Sedlacek deed.

Het is historici gegeven door te denken op evoluties die ze over langere termijn telkens weer zien opduiken. Hoe gemakkelijk de toekomst er voor onze voorvaderen er ook uitzag, rond 1517, ze konden toch niet voorspellen dat er zich omwentelingen aan het voltrekken waren, die de Europese samenleving grondig door elkaar zou schudden. Karel V bevroedde dat Luther aanpakken wellicht nodig zou zijn, al weet ik niet of raadgevers hem het verhaal van Johannes Hus hadden gedaan. Toch zou Filips II met de ketterijen hebben willen afrekenen en tegelijk grote brokken van de nieuwe wereld bij zijn rijk voegend. De welvaart in Spanje raakte niet echt goed verdeeld, maar het Holland van de Gouden eeuw kwam wel verder. Maar intussen stonden ook de Turken voor de poorten van Wenen en diende men zich af te vragen hoe men de Balkan al dan niet aan de Turken zou overlaten, die er overigens telkenjare jongens en meisjes lieten ontvoeren naar Istanboel om er hun leger, administratie en harems mee te bevolken. Hier moeten we dus vaststellen dat voorspelbaarheid niet altijd gemakkelijk was, al hoopten mensen dat ze zonder veel ellende konden opgroeien, kinderen verwekken, goed leven en in vrede sterven. Dat bleek evenwel altijd weer buiten allerlei waarden gerekend. De vraag is of en hoe we dezer dagen met de ongekende rekenkracht van databanken en algoritmen zullen omgaan. Toch zien we ook dat bijvoorbeeld politici heel graag zien dat alles gesmeerd verloopt, dat er geen problemen zijn, al hebben ze die wel eens nodig om hun eigen uitmuntendheid aan te tonen.

Wat Yuval Noah Harari voorstelt lijkt wel degelijk op een “Ondergang van het Avondland” want hij laat zien hoe we de grondslagen van dat Avondland, het humanisme op de helling zetten, door te gemakkelijk ruim baan te geven aan bedrijven, die met hogere wiskunde ons bestaan inderdaad van nieuw comfort voorzien. Zijn verhaal vertoont evenwel niet de dreigende toon die Oskar Spengler wel in de aanbieding had, al denk ik dat we meer op onze hoede moeten zijn voor wat gaande is, dan we geredelijk aannemen. Het zal dus moeten gaan over de grondslagen van het humanisme, de verdeling van macht, prestige en onze bejegening van succes. Daarom beveel ik u graag “Homo Deus” aan, al was het maar om de tijd te nemen om onze actuele omgang met de condition humaine te bekijken.

Bart Haers