De automatisering de-automatiseren

[Available in English on the website of the INC]

Bijdrage aan de Spui25-bijeenkomst De roman en het geschreven woord in tijden van technologisering, ter gelegenheid van de verschijning van Maxim Februari’s laatste boek De onbetrouwbare verteller. (Meer van dit in mijn nieuwe boek Frictie: Ethiek in tijden van dataïsme, dat in mei 2020 verschijnt bij De Bezige Bij.)

‘See, in spite of all this omnipresent law enforcement, because we want to hear and taste and smell and feel, we can’t go very long without trying to talk about some art.’ Fred Moten

Ik wil beginnen met een vraag, om de stemming er een beetje in te krijgen. Antwoord er gewoon in gedachte op, het is misschien niet iets om meteen te delen. Wie is er zeker van dat zijn beroep in de komende jaren blijft bestaan en niet wordt weg-geautomatiseerd? Wie ziet zichzelf als bestand tegen robotisering en algoritmisering? Schrijvers? Docenten? Sorry, ik moet u teleurstellen. Ook rechters, artsen en chauffeurs zullen het zwaar hebben, en muzikanten en kunstenaars. Allen zullen uit de markt geconcurreerd worden door robots. Hebben we eindelijk tijd over om te lezen! Als we dat dan nog kunnen.

Dit is het ene verhaal dat steeds te horen is: de automatisering komt eraan en neemt alles over, of dat nu the best of times of the worst of times oplevert. Parallel daaraan klinkt echter ook een ander verhaal steeds luider. Automatisering, heet het dan, is grotendeels bedrog. Het gevaar ervan is zwaar overdreven, want robots kunnen welbeschouwd niet eens een vork vasthouden, algoritmes zijn dommekrachten die sturing nodig hebben en kunstmatige intelligentie kan misschien goed schaken, maar een simpel gesprekje voeren, ho maar. Kortom, hoe vergevorderd de automatisering al is wordt overschat en de meeste beweringen over wat ze al kan zijn ronduit nep. In plaats van AI – artificial intelligence – is er eerder sprake van Fake I of fauxtomation (naar Astra Taylor).

Een inmiddels bekend voorbeeld is de kwestie van contentmoderatie: het schoonhouden van het internet door geweld, porno en vrouwentepels daarvan te verwijderen. Uit talloze artikelen, getuigenissen en een documentaire als The Cleaners, blijkt dat dat niet wordt gedaan door slimme algoritmes, zoals bedrijven als Facebook en Google graag doen geloven, maar door (veelal jonge) mensen. In ware contentmoderatie-fabrieken checken zij meldingen van berichten op Facebook, foto’s op Instagram of filmpjes op YouTube die als ongepast zijn gerapporteerd, zoals dat heet. In een lange stroom trekken de berichten aan het oog van de moderator voorbij, die binnen een vloek en zucht moet beslissen of hier de regels worden overtreden. Naast de gewone scheldpartijen en bedreigingen behoren politieke satire, kinderporno, onthoofdingen door terroristen en oorlogsmisdaden opgenomen door burgerjournalisten min of meer tot de orde van de dag. Duizenden berichten per dag verwerken zij, blij zijn dat ze werk hebben, click delete, click accept, click delete delete delete. Niks automatisering.

Hoewel, deze twee verhalen – van automatisering en de ontmaskering ervan als mensenwerk – liggen misschien toch minder ver van elkaar af dan het lijkt. Automatisering vindt wel degelijk plaats – niet omdat robots de wereld overnemen, maar omdat de mens onder invloed van technologie automatiseert. De verpleegster die moet werken op het ritme van de minuut, zal die zich niet al een soort robot voelen? De Uber-chauffeur wiens bestaan gedicteerd wordt door een app, is dat niet de werkelijke ‘zelfrijdende auto’?

Ik hoorde onlangs iemand vertellen hoe dit in de sociologie de diagnose ‘beleidsvervreemding’ krijgt. Bij beleidsvervreemding ontkoppelt de psyche van de professional zich van wat hij aan het doen is en – belangrijk – ook van het waarom. Hij voert een taak uit, als een soort algoritme.

Mensen die op de automatische piloot moeten werken, raken vervreemd, dat wist Marx al. Maar vervreemding heeft ook een positieve kant. Zo schrijft Sara Ahmed over vervreemding dat ze leergierig is: ‘je leert nu eenmaal meer over je wensen als die niet zijn wat je wenst. We kunnen vervreemding begrijpen als verwondering; we verwonderen ons over dingen; we verbazen ons over hun samenstelling.’

Vervreemding is in deze zin de eerste stap naar verandering. Ze doet je eerst halt houden, en zet je vervolgens in beweging. Een nieuwe beweging, de andere kant op. Deze vervreemding, en nu kom ik eindelijk bij de literatuur, is de-automatisering te noemen. Dat heb ik natuurlijk niet zelf bedacht. De-automatiseren, vervreemden, is hoe Viktor Sjklovski, de Russische formalist, de werking van literatuur omschrijft. Zo’n honderd jaar geleden, in de jaren tien van de twintigste eeuw, observeerde hij hoe we door automatisering niet meer echt waarnemen, en bij uitbreiding niet meer echt denken, liefhebben, leven. En om uit die waas te breken, moet de kunst dus waarneming, en ja, ook het leven, de-automatiseren.

Uiteraard had Sjklovski het niet over de automatisering door algoritmes en robots, maar over die van het moderne leven. Hij schrijft bijvoorbeeld: ‘Zo gaat het leven verloren, verdwijnend in het niets. De automatisering slokt de dingen op, je kleren, je meubels, je vrouw en je angst voor oorlog.’

Tegenwoordig wordt automatisering vooral ingezet om de angst voor oorlog juist aan te wakkeren, vrees ik. Maar wat zij nu ook nog steeds doet is ons meesleuren in een stroom die geen tijd laat om daadwerkelijk waar te nemen, te denken, liefhebben, leven. Een net van zogeheten frictionless design doet je van app naar slimme meter naar beveiligingscamera bewegen, zodat je geen moment aan je eigen automatisering ontsnapt. Steeds alomtegenwoordiger, is deze technologie tegelijk steeds onzichtbaarder. Ook daarom beneemt automatisering je de waarneming: het is de bedoeling dat je haar niet ziet, er niet te veel aandacht aan besteedt, dat de techniek naar de achtergrond verdwijnt en het vanzelfsprekende decor gaat vormen van het hele leven.

Over het hele leven gesproken. Met een verwijzing naar Tolstoj schrijft Sjklovski: ‘Als het hele ingewikkelde leven van velen zich onbewust afspeelt, dan is het alsof dit leven er nooit geweest is.’ Dan is niet alleen het werk, maar ook de rest van de mens weg-geautomatiseerd.

Wat een drama! Maar gelukkig is daar het woord. De automatisering de-automatiseren, zoals de literatuur doet, werkt als vervreemding die verwondert – met het woord van Sjklovski: ostranenie. Daarmee is ze een soort ethische hefboom, die ons uit de woekerende beleidsvervreemding wakker schudt. Ze is als frictie in een frictieloze wereld, die je halt doet houden, en dan weer in beweging brengt, mogelijkerwijs de andere kant op.

Dat kan door verhalen te ontmaskeren, zoals de hoogmoedige automatiseringsfantasieën over robots en singularity, waarachter een vuile werkelijkheid schuilgaat. Maar op zich kan de journalistiek dat ook. Specifiek literaire taal doet echter nog iets anders. Ik wil twee voorbeelden van Sjklovski noemen. Zo hecht hij veel waarde aan de stijlfiguur van het parallellisme. Het parallellisme laat zien ‘dat iets niet met iets anders samenvalt terwijl het er toch gelijk aan is.’ Met andere woorden, in het parallellisme kan iets tegelijkertijd twee verschillende dingen zijn: zichzelf en niet-zichzelf, hetzelfde en verschillend, aanwezig en afwezig. The best of times en the worst of times. Het doet dus precies dat wat in de technologie – de grote gelijkmaker – niet mag of kan.

Het tweede voorbeeld heeft te maken met de hang van de literatuur naar het particuliere en het specifieke. Technologie en automatisering drijven op kwantificatie, reductionisme en categorisering. Vooral die laatste is de bureaucratische natte droom van de Totale Dataficatie. Maar categorieën zijn per definitie een benadering, een vak voor veel verschillend spul. De categorieën van de technologie kunnen nog zo verfijnd zijn, de specificiteit van een woord of beeld van de schrijver is van een totaal andere orde. En daarom, aldus Sjklovski, gaat het erom de categorieën omver te werpen, en de stoel weer los te rukken uit het begrip meubel.

 

 

CC by Nicki Varkevisser

Geef een reactie

Het e-mailadres wordt niet gepubliceerd. Vereiste velden zijn gemarkeerd met *