Vocational awe, ideologische ongeletterdheid en mandarijntjes op je kop - week 18
Vocational awe
Als je één stuk leest deze week, lees dan de onvolprezen Cory Doctorow, je kent hem van de term enshittification. Deze keer brengt hij ons de term Vocational Awe, niet van hemzelf maar van Fobazi Ettarh, voormalig bibliothecaris en nu promovendus in Illinois. Ettarh beschrijft het zo:
"The pathology of librarians, teachers, nurses and other underpaid, easily exploited workers in "caring professions."
Als leraar is dit heel herkenbaar, je voelt je verantwoordelijk voor je leerlingen en vindt het dus niet erg nog 'nog even' iets na te kijken, op te zoeken, of in je lokaal te blijven hangen om met een leerling te kletsen. En hop, weer geen tijd om te toiletteren in de pauze, en dat voor een laag salaris en weinig maatschappelijk aanzien.
Het is dus misschien wat raar dat Doctorow dit principe toepast op een heel goedbetaalde groep medewerkers, maar het snijdt wel hout als je het mij vraagt. Want programmeurs zien hun werk op een bepaalde manier ook als een roeping, en dan niet omdat het andere mensen helpt (zoals bij een verpleegkundige of een leraar) maar omdat het zo verslavend is om te doen. Naast hun werk hebben programmeurs vaak 'side projects' waarin ze nieuwe dingen uitproberen, en dus eigenlijk zichzelf gratis opleiden, want de baas kan van die nieuwe kennis profiteren. En zo legt Doctorow uit, ze geloven vaak ook dat meer technologie een betere wereld gaat opleveren (ondanks decennia bewijs van het tegendeel). Hij schrijft dat tech werkers geloven dat
"...they are monk-warriors engaged in the holy labor of bringing forth a new, better technological age"
Maar, er komen andere tijden, want de techwerkers zijn niet meer zo in trek, er zijn op veel plaatsen ontslaggolven gaande, die nog pittiger zijn dan die van een paar jaar terug. Nu zullen programmeurs gaan zien hoeveel bedrijven echt van ze houden. Doctorow contrasteert op sarcastische wijze het verwennen van de programmeurs van Amazon met heerlijke koffie en wc's met bidet met de exploitatie van medewerkers in fulfilment centers die geen tijd hebben om te drinken of te plassen.
Die andere tijden komen er, niet zozeer door AI (dat doet niet zoveel, aldus The Register) maar door de narrative van AI. Mensen eruit, minder ouderschapsverlof, AI zal het wel oplossen, en zo niet, dan moeten de overgebleven mensen maar wat harder typen (dus ook geen feestjes en tripjes meer) Hadden de programmeurs maar wat meer solidariteit hebben getoond met hun collega's. De strategie "wie in het veen woont kijkt niet op een turfje" lijkt op z'n einde te lopen.
Boos zijn mag niet alleen, het moet!
In mijn speech bij AI & Aarde (lees hier een verslag van de avond) had ik het over noodzakelijke woede.
We mogen boos zijn dat onze natuur zienderogen verslechtert. Alleen deze week al konden we bijvoorbeeld onderzoek van KNMI lezen dat dat de kans op natuurbranden in Nederland verdubbeld is sinds 1960 vanwege droogte, en dat vogels juist gehalveeerd is sinds 1990 op boerenland, terwijl onze overheid de natuur niet beschermt, en zelfs verder treuzelt en draalt, en de stikstofdoelen maar weer eens uitschuift. Als je daar niet boos van wordt...!
Via BlueSky kwam ik dit weergaloze artikel op het spoor van feministe Amia Srinivasan. Het is geen light reading, maar het is wel schitterend werk. Srinivasan beschrijft namelijk hoe we bij het bediscussiëren van woede eigenlijk altijd de focus leggen op of het werkt.
Heeft het zin om de A12 te blokkeren? Nee, zegt dit argument want dan gaan mensen nog meer met de kont tegen de krib, zo maakt bijv de Britse overheid regels tegen demonstreren nog strenger, en kan je in Nederland een gebiedsverbod van 10 jaar aan je broek krijgen na een vreedzaam protest.
Maar misschien is woede wel terecht? Srinivasan noemt dit 'apt'. Als je woede terecht is, bijvoorbeeld omdat je denkt dat je kinderen geen toekomst meer hebben door de gestegen zeespiegel terwijl Tata en Shell wel lekker door mogen stoken, is woede dan niet gewoon heel apt? Als je door sociale conventies gedwongen wordt je woede opzij te zetten, dan doet dat iets met je, en dat noemt affective injustice wat je in het Nederlands misschien emotioneel onrecht zou kunnen noemen, jouw gevoelens mogen er niet zijn want het instrumentele argument zegt dat ze zinloos zijn. Maar gevoelens zijn vaak zo zinnig niet, wat is het nut van dat ik vrolijk zingend over straat loop? Gevoelens bestaan en je mag ze voelen, ook negatieve, lelijke, onproductieve gevoelens.
De Turing Test; what the fuck?
Over emoties gesproken...! De Turing Test, we kennen 'm allemaal wel, of toch niet? Wat staat er eigenlijk in het originele paper van Turing? Dat is heel relevant omdat het nu een soort benchmark geworden is voor het maken van AI, als een mens niet weet dat een chatbot geen mens is, dan is het AI.
Ik wist al dat er wat maffe dingen in het paper stonden over gender, dat besprak ik ook al in de podcast Welkom in de AI fabriek van Ilyaz Nazrullah. Maar hoe gek is het precies?
Omdat ik veel bezig ben met het wereldbeeld van technologie-makers, dacht ik een paar maanden terug: ik ga dat hele paper eens lezen, en het is gewoon totaal, geheel en al van de pot gerukt. Om dit kort te illustreren mag je gokken welke van deze statements in het paper voorkomt:
A. Moslims denken dat vrouwen geen ziel hebben
B. Er is veel bewijs dat telepathie werkt
C. Iedere dag een mandarijntje op je hoofd leggen helpt tegen hoofdpijn
Zie voetnoot [[1]] voor het antwoord, maar je ziet dat dus het nogal... apart is, want een van deze zit er in.
Ik wilde eerst zelf een annotated reading gaan typen, maar afgelopen oktober ontmoette ik in California de makers van de Future of Coding podcast en dat klikte goed. Eerder maakte zij al een aflevering over mijn feminisme paper (waar ik verder niet bij betrokken was trouwens).
Het format van FoC is dat ze een klassiek informatica-paper lezen, en het dan van kritiek voorzien, dus ik dacht, ik mail ze eens om te vragen of ze het Turing Test paper (Dat Computing Machinery and Intelligence heet) met mij willen doen, en dat resulteerde in deze podcast van ruim twee uur. Lachen, gieren, brullen, maar ook huilen zo zo'n slecht paper de kern van ons veld kan zijn.
Schaak niet met een duif
Schreef ik twee weken geleden nog hoe lafjes het is van de universiteiten om psychologie de nek om te draaien op hoop van zegen bij Bruins, zonder toezegging vooraf en watskeburt..?! Bruins schrapt de toets helemaal niet in ruil voor dit offer. Goh, wat een verrassing! Ik moet zeggen dat ik het met de dag lastiger vind om niet te gaan denken dat universiteiten de shit waar ze/wij in zitten toch ook een beetje zelf veroorzaakt hebben. Het is misschien niet helemaal obey in advance, maar het is ook geen nee zoals Tommy Wieringa zo treffend beschreef in de Volkskrant van vorige week, die nee stokt ze in de keel. Het offer is, als het geen echte ja is, minstens het spelen van een ander spel dan de tegenpartij, as they say: Schaak nooit met een duif, want hij gooit de stukken om, kakt op het bord, en loopt dan als een winnaar weg. Tijd voor meer actie, aldus Willem Halffman in Vox (het blad van de Radboud),
"Wie het daarvoor “te druk” heeft, moet nodig prioriteiten heroverwegen."
Amen!
AI als panopticon
Audrey Watters (als je me al langer kent dan vandaag, heb je me vast al een keer over Teaching Machines horen raven) schreef een schitterend stuk op haar blog Second Breakfast over de verwevenheid van gevangenissen en AI-technologie. Het zit vol met mooie overpeinzingen en vragen, zoals wat AI literacy eigenlijk betekent, betekent het ook dat je kritische vragen mag stellen over technologie?
Ik denk vaak aan Watters, bijvoorbeeld als ik geconfronteerd met "educatieve" software genaamd Panopto, en dan vraag ik me af of de makers soms rekenen op onze onwetendheid, of dat ze er lol in hebben om openlijk te zeggen wat ze zijn, namelijk technologie gemaakt om te controleren en te domineren.
Ik moest bij het beeld van een panopticon trouwens denken aan het heerlijke boek De buitengewoon geslaagde opvoeding van Frida Wolf, een boek waar ik afgelopen winter veel van genoten heb, al is het niet zo vrolijk.
Geo-ideologische ongeletterdheid
Een beetje gerelateerd is dit schitterende stuk (maar droevig makende) stuk in NRC van Beatrice de Graaf. Ik noem het met nadruk geen leestip, want het lezen geeft je bijna meteen de verantwoordelijkheid om je te verdiepen in wat people in power allemaal geloven, zeker in Sillicon Valley. De Graaf noemt bijvoorbeeld Peter Thiel en Curtis Yarvin.
Mocht je het stuk toch gelezen hebben (ik had je gewaarschuwd) en wil je je nu verdiepen in het gedachtengoed van de techbro-altrights? Dan raad ik je deze podcastaflevering met de filosofe Elizabeth Sandifer aan, waaruit je ook kan opsteken dat Grimes en Elon Musk elkaar hebben leren kennen door een tweet van deze podcaster. Het is nogal een ride maar wel heel informatief als je die cultuur wel snappen. Wil je nog meer? Sandifer schreeft er ook dit dikke gekke en heel grappige boek over (over Silicon Valley cultuur dus, niet over Grimes).
Ook kan ik het niet laten om op te merken dat het beschrijven van de backwards ideeën van dit soort figuren niet iets van de laatste tijd is. Soms hoor ik mensen om me heen (uit de tech industrie) die er nu pas achterkomen hoe het zit, maar in 2016 werd hun gedachtengoed echt al gecontextualiseerd. Echter, als je in die tijd dat soort kritiek (wat ik zelf ook had trouwens) krijg je meestal als repliek dat je de politiek gewoon buiten de IT moest houden. Deze week zag ik ook weer een stuk in de NY Times over hoe informatica-onderwijs politiek moet mijden (geen link want het behoeft geen verder podium).
Nou, dat is dus precies het soort ongeletterdheid waar de Graaf voor waarschuwt, hopelijk luisteren mensen nu wel.
Het extreem korte geheugen van streaming
Schreef ik een paar maanden terug al over hoe de content van Netflix steeds "sloppiger" wordt, niet het probleem is niet alleen de kwaliteit; content wordt ook steeds minder toegankelijk. Dat werd met het overlijden van de Paus opeens duidelijk, omdat Conclave (een film over het kiezen van een nieuwe Paus) nergens meer te zien was. Je ziet hier ook dat het verschuiven van het maken van media van publieke partijen naar hyper-commerciële, ook effecten heeft op de langere termijn. Waar publieke partijen zichzelf niet alleen als content-makers zagen maar ook achiveringstaken serieus namen, kan het Nexflix en co geen bal schelen of films nog ergens te zien is. Je kijkt maar een nieuwe film die zonder liefde gemaakt is.
Zelfs relatief moderne content verdwijnt van het internet, wil je het nog zien, dan heb je pech (dat merkte ik laatst ook toen ik erachter kwam dat een van mijn favoriete series The Shield nergens meer te streamen is!).
Positief nieuws
Aj, vorige week helemaal vergeten! Maar deze week is er weer wat moois te vertellen. Bijvoorbeeld: minder tech, meer kunstprojecten, dat is wat we volgens mij nodig hebben! Check dus Chat Haus, een coworking space voor robots.
In het VUfonds magazine een mooi stukkie over mijn onderzoek.
En dan als uitsmijter dit oude stuk (uit 2016!) van NY Times. Misschien niet positief maar wel een hoopvolle weigering van het narratief "meten is weten". Met de banger van een quote die ik op mijn rug zou zetten als ik het durfde:
“The secret of quality is love"
Ja! Niet alles is meetbaar of automatiseerbaar (zie ook de liefdesthermometer op het Gala van de Wetenschap).
Uit dezelfde manier van denken komt dit recente stuk voort, dat pleit voor AI illiteracy, een heerlijke term als je het mij vraagt. O' Sullivan beargumenteert dat je sommige vragen juist alleen kan stellen als je niet met de tools bezig bent:
"This distance can allow us to ask questions that those embedded in technical literacies often miss. What assumptions about language underlie these systems? Whose knowledge is encoded in their corpora? What epistemic violence is done when cultural, historical, or poetic nuance is flattened into vectorised representations? You don’t find these questions in a model’s user manual. In some cases, knowing less allows us to see more."
Ook beschrijft O'Sullivan, net als het stuk uit 2016, het risico van meten:
"The increasing encroachment of AI across the curriculum risks subsuming all forms of knowing into computational logics. One sees this, for instance, in the language of ‘optimisation’ now creeping into writing instruction, where the value of prose is assessed in terms of clarity and coherence as judged by a machine."
Meer van dit graag in de discourse, en minder snel snel met GPT meer content uitbraken.
Voetnoten
[[1]] Het antwoord is: A en B!
Member discussion