Voor Follow The Money schreef ik naar aanleiding van het verschijnen van Autonomie, een zelfhulpgids een essay – geen herhaling van zetten, maar een poging om op een andere manier iets over het onderwerp te zeggen, bijvoorbeeld aan de hand van The Every van Dave Eggers.
‘Autonome technieken werken minder goed dan ze beloven, maar toch hebben we er hoge verwachtingen van. Ze zouden ons leven makkelijker maken en onze beslissingen beter. Maar hoe autonoom zijn we zelf nog, wanneer we een deel van ons leven ‘uitbesteden’ aan technologie? En klopt het dat wie autonoom is, zich ontworstelt aan de invloed van anderen? Miriam Rasch pleit voor een andere invalshoek.’
Lees en reageer bij Follow the Money, of hieronder.
‘Install “autopilot” they said,’ staat erboven. En eronder: ‘It’s working fine they said.’ Op de foto, die met deze bijschriften als meme de wereld rondging, is een Tesla te zien die een betonnen trap is afgereden, en nu op z’n neus tegen de stoep staat.
Het grapje is al zo oud als dat over TomTom, om precies te zijn even oud als de prijswinnende reclame uit 2005 waarin iemand pardoes een heg inrijdt omdat het navigatiesysteem zei dat ze rechtsaf moest slaan, maar het werkt. Haha, kijk die domme techniek doen alsof-ie slim is, LOL, dom mens die zijn gezond verstand niet gebruikt. En het is nog grappiger omdat het hier om een Tesla gaat natuurlijk, het paradepaardje van de autonomous vehicles. Hoe vind je zelf dat het gaat, Elon?
Je denkt wellicht te weten wat je wilt, maar het algoritme weet het beter
Dat autonome technieken niet zo goed werken als hun naam lijkt te beloven – als ze echt autonoom zouden zijn, zouden ze de mens immers niet nodig hebben – is minder grappig wanneer het gaat om wapens, onbemande drones die ‘targets’ kunnen uitschakelen (oftewel: mensen doden) of om algoritmes die besluiten nemen over je kredietwaardigheid of over de straf die je na een klein vergrijp verdient. En dat is waarschijnlijk nog maar het begin.
In Emy Koopmans dystopische roman over de nabije toekomst, Het boek van alle angsten, bepalen algoritmes je studiekeuze , en dus de invulling van je leven. Fana wil sterrenkunde studeren maar krijgt het advies om psychologie te gaan doen. ‘Maar, ik ben helemaal niet zo… sociaal,’ zegt ze. De decaan stapelt argument op argument: mensen zijn toch boeiend, dat je dat niet inziet betekent juist dat je dat moet leren, het zou je bovendien goed doen met jouw somberheid, trouwens: de arbeidsmarkt, dus voeg je nou maar, eigenwijze mensen worden ongelukkig. Het komt uiteindelijk allemaal op hetzelfde neer. Je denkt wellicht te weten wat je wilt, maar het algoritme weet het beter.
De mens als voorspelbaar algoritme
De betekenis van ‘autonomie’ verschuift langzamerhand van een bij uitstek menselijk vermogen naar een kenmerk van de nieuwste technologie. Dat is fascinerend en ook wel wat beangstigend.
Nu liggen die zogenaamde autonome vermogens van de mens al langer onder vuur. Sterker nog, is het hele begrip niet allang ontmaskerd als een illusie, waarna de werkelijke aandrijving van de mens zichtbaar is geworden, of dat nu ‘het brein’ is, de genen, hormonen, atomen, opvoeding, opleiding, het maatschappelijk bestel of de cultuur? Nee, als je denkt autonoom te zijn, of als je dat wenst te zijn, ben je vooral naïef. De mens is een voorspelbaar algoritme.
Hoe moeten we ons verhouden tot datgene wat er met de autonomie vandoor gaat – de techniek?
Dat, of je hoort bij de andere kant, de ferme believers die schreeuwen dat autonomie ons wordt afgepakt, dat we zouden leven in een dictatuur waarin je niet meer mag zeggen, doen of zelfs denken wat je wilt. De enige manier om autonoom te zijn is in dat geval om de maatschappij de rug toe te keren en je eigen journaals en scholen te beginnen, of zelfs een gemeenschap in internationale wateren te stichten.
Wie autonomie (de menselijke) een belangrijk begrip acht – ik heb het hier over mezelf – ziet zich daarmee voor de keuze gesteld tussen naïviteit en a-socialiteit. Maar hoe moeten we ons dan verhouden tot datgene wat er met de autonomie vandoor gaat – de techniek?
Ik geloof dat de strijd om dit woord belangrijk is, al kan ze niet zomaar beslecht worden. En misschien is dat juist het punt, is het de zoektocht zelf naar de betekenis van autonomie, naar hoe ze werkt in de praktijk, hoe ze zich verhoudt tot anderen, zowel menselijk als niet-menselijk, die het hart van autonomie uitmaakt. Gaat het niet om het vinden van een sluitende definitie, maar om de verhouding tot de buitenwereld, waarin autonomie tot stand komt.
Schoothondjes
Het zal zijn omdat ik er zelf mee bezig ben, die zoektocht naar autonomie in tijden van autonome techniek, dat ik haar ook steeds vaker bij anderen tegenkom. Het lijkt alsof er weer wat meer aandacht is voor het individu als speler in het grotere systeem.
Zo schreef Maxim Februari in een recente column dat het ‘geen kwaad [kan] af en toe te bedenken dat de geschiedenis de geschiedenis van de collectieve mensheid is. En dat de wereld draait door het machteloze handelen van ons allemaal.’ Collega Hans Schnitzler stelde de vraag waarom ‘wij nihilisten’ het (hebben) laten gebeuren dat de techbedrijven onze levens overnemen. ‘We zullen, net als bij de klimaatcrisis, ons eigen aandeel onder ogen moeten zien,’ stelt hij in Datamens, kijk eens wat kritischer in de spiegel en doe wat!
De laatste roman van Dave Eggers, The Every, is daar de meest uitgebreide (en grappige) uitwerking van. Ook hij vraagt hoe het zover kon komen dat we leven als schoothondjes van de techbedrijven in plaats van andersom. In de nabije toekomst van zijn romanwereld is duidelijk dat de technologie heeft gezorgd voor een populatie van bange, laffe, gemakzuchtige, steriele, saaie, seksloze, zelfgenoegzame, verschrikkelijke mensen, wreed in hun consequente apathie. Ze hebben zonder noemenswaardige weerstand de ene na de andere mensonterende ‘innovatie’ geaccepteerd en nu kunnen ze niet meer zonder, al zijn ze stuk voor stuk doodongelukkig. Maar ja, het algoritme weet het nu eenmaal beter.
De ontkenning van je eigen handelingsmogelijkheid is altijd in het voordeel van de status quo
Je zou het een vorm van ‘aangeleerde hulpeloosheid’ kunnen noemen, zoals Paul Nederveen die in de corona-tijd zag ontstaan: ‘het is ons afgeleerd om hoop te hebben en aangeleerd om hulpeloos af te wachten.’ Die apathie is gevaarlijk. In On Freedom, haar oefening-in-essayvorm in vrij en autonoom denken, schrijft Maggie Nelson: ‘A deepening conviction of our powerlessness can at times make us insensitive to the power we do have.’
De ontkenning van je eigen handelingsmogelijkheid is altijd in het voordeel van de status quo, van degenen die nu de macht bezitten. Daarom is het ook in het voordeel van big tech als we denken dat het niet anders kan. Geef je eenmaal het geloof in autonomie op, dan vervliegt zij weldra zelf.
Vrij van beperkingen en context
Dat is duidelijk het geval in de wereld van The Every. Er zijn uit de roman drie belangrijke lessen te trekken over de ondermijning van de menselijke autonomie door technologie.
De eerste is dat we die aan onszelf te danken hebben: wij zijn het zelf die steeds meer uitbesteden aan de techniek, dus we moeten niet verbaasd zijn als er voor onszelf steeds minder te kiezen overblijft.
De tweede les is dat het einde oefening is als de techniek eenmaal onze relaties gaat reguleren. Het lijkt handig, een gadget die je kan vertellen of je vriend oprecht is als hij vraagt hoe het gaat, of een spraakassistent die je helpt om een vriendelijke collega te zijn. Maar door te reguleren, eroderen zulke apps de menselijke omgang juist.
We denken van oudsher dat autonomie nu juist betekent dat je moet losbreken uit relaties
Waarom einde oefening? Dat is de derde les: relaties zijn essentieel voor menselijke autonomie. Volkomen teruggeworpen op jezelf ben je willoos en kwetsbaar. Dat is contra-intuïtief. We denken van oudsher dat autonomie nu juist betekent dat je moet losbreken uit relaties, uit afhankelijkheden, dat je je moet ontworstelen aan de invloed van de ander. Het is het kantiaanse autonomiebegrip, dat allengs onder vuur is komen te liggen als egocentrisch en onwerkbaar. Maar het is ook een beperkt begrip van wat autonomie kan zijn. Wat moet je met zo’n autonomie vrij van beperkingen en context? Wil je niet juist autonoom zijn om – naar eigen inzicht en oordeel – relaties met de wereld en met anderen vorm te geven? Ik wel.
Je zou de dom-slimme Tesla uit de meme kunnen zien als het toppunt van een autonome machine, juist in de zin dat ze geen oog heeft voor de buitenwereld en alleen op zichzelf vertrouwt. Maar dat is een onwenselijk en onbruikbaar begrip van autonomie.
Wil autonoom handelen waardevol zijn, zo kun je ook redeneren, dan moet het juist ingebed zijn in de omgeving, daar voeling mee hebben, oprechte aandacht die ervan uitgaat dat de wereld onbekend en eigen is. In plaats van alleen vrijheid op te eisen, of je juist over te geven aan de macht van de bepaaldheid, vraagt autonomie om inhoudelijk gewicht. In de woorden van Dichter des Vaderlands Lieke Marsman: ‘Als je vrij bent om te kiezen, wat kies je dan? Wat komt er ná vrijheid?’
Weten wat je mist
Wie wil begrijpen waarom autonomie belangrijk is – en dat is de eerste vereiste om haar terug te winnen – raad ik aan te beginnen bij de ervaring van de inperking ervan. Als je je autonomie kwijt bent, weet je opeens wat je mist. Ik denk dat vrijwel iedereen deze ervaring kent, die iets aansteekt in je binnenste. Bijvoorbeeld als je door ziekte gedwongen wordt bewegingsvrijheid in te leveren, als je geen zeggenschap meer hebt over je eigen agenda, tegengehouden wordt in het najagen van je dromen omdat die niet zijn zoals het hoort, of als je ten prooi valt aan andermens’ vooroordelen. Waarnaar verlang je in dat geval, wat is die vlam in het binnenste?
Pas als je weet waar die grens loopt, kun je er iets aan veranderen
Een volgende stap heeft met beperkingen te maken. Onderzoek wat de invloeden zijn die inwerken op wat je denkt en doet, waar je overtuigingen vandaan komen, welke rol de technologie en platformen daarbij spelen, hoe je opvoeding, opleiding, maatschappelijke en culturele context, je genen, je brein, je kleur en je hormonen je beïnvloeden. Al die dingen die worden aangehaald om de autonomie te betwijfelen. Dát deze invloeden bestaan, ontkent de autonomiezoeker niet, wel dat ze doorslaggevend zouden zijn. Pas als je weet waar die grens loopt, kun je er iets aan veranderen.
Dat vraagt om ouderwetse zaken als zelfonderzoek, innerlijkheid en dialoog.
En laten die nou net onder vuur liggen door zogenaamd autonome technieken zoals beslis-algoritmes. Het maakt die ouderwetse zaken onmiddellijk actueel. Zolang we nog niet in de real life matrix van The Every leven, zolang er een buiten is, los van de wereld van de platformen, zolang we collectief de weelde kennen van vrede, welvaart en gezondheid, hebben we tijd om uit te vinden hoe we steviger in onze schoenen kunnen staan, voor het moment dat al die vanzelfsprekendheden er opeens niet meer zijn. Zodat we niet net als die domme gans uit de reclame zonder nadenken rechts afslaan, de heg in, zodra een systeem dat van ons vraagt.
Nieuw boek: ‘Autonomie – een zelfhulpgids’
Deze week verschijnt bij uitgeverij Prometheus het nieuwste boek van Miriam Rasch: Autonomie – een zelfhulpgids. Met haar vorige boek, Frictie: ethiek in tijden van dataïsme, won ze in 2021 de Socratesbeker.
Ruim tweehonderd jaar geleden riep de Duitse filosoof Immanuel Kant de mens op zich te bevrijden van dogma’s en slaafse volgzaamheid, van de macht van de kerk en van de macht der gewoonte. De ware Verlichting is volgens hem ‘het uittreden van de mens uit de onmondigheid waaraan hij zelf schuldig is’.
Rasch vraagt zich af hoe je dat doet, autonoom zijn in een tijd waarin Facebook beweert je beter te kennen dan je eigen moeder. Ze zoekt een antwoord op de vraag of wij onszelf nog wel autonoom kunnen maken, en of we dit zouden moeten willen. Want wat is er eigenlijk zo erg aan algoritmes die beter weten dan wijzelf wat goed voor ons is? En is autonomie niet een verkapte vorm van egoïsme?
Rasch zoekt scherp, open en geestig naar antwoorden op vragen die je niet durft te stellen omdat een ander dat vast beter kan.