AI in week 11

Goedemorgen! Wat een week, wat een week! Ik presenteerde deze week in Noorwegen op de Boosterconferentie een kort praatje over de Turing Test, waarover ik natuurlijk vorig jaar al uitgebreid schreef en een podcast opnam. Vrijdag was ik op het Boekenbal—mijn boek is nog niet eens af maar ik mocht toch al komen, wooo—en deze mail is voor je voorgeprogrammeerd omdat ik terwijl deze mail jouw mailbox in vliegt, de Lentemarathon in Amstelveen aan het lopen ben (Sadly no English version, maybe later today when I am back home).

Over computers en oorlog

Ik kreeg enorm veel reacties op mijn post van vorige week over IBM en de Holocaust, waaronder deze van Jens Mönig, de maker van Snap!, een programmeertaal voor kinderen net als Scratch en Hedy. Nu heeft hij geen informatica gestudeerd maar rechten, dus aan zijn opleiding kunnen we het niet wijten, maar natuurlijk wel aan 20 jaar in de informatica rondlopen en het toch niet weten.

Iemand anders mailde me:

Allemachtig Felienne, enorm bedankt voor deze eyeopener over IBM! Heb ‘week 10’ doorgestuurd naar diverse vrienden

Ja, dit is een verhaal dat verteld moet worden, naast alle halleluja-verhalen over technologie en voortgang. En we kunnen zelfs nog verder terug in de geschiedenis van computers. Charles Babbage, gezien als de bedenker van de eerste computer, over wie we natuurlijk tijdens mijn studie ook van alles hoorden. Wat een vooruitziende blik had die man toch, de computer bedenken!

Nu is een vooruitziende blik vaak het gevolg van dat mensen gaan doen wat jij voorspeld hebt, zoals AI-makers nu chatbots maken die de Turing Test kunnen "winnen" zoals ik uitlegde in Noorwegen deze week. Maar zijn vooruitziende blik zag niet alleen vooruit naar computers, maar ook naar surveillance capitalism, legde Meredith Whittaker in 2023 al uit in Logic(s):

Worker surveillance and control was also a central feature of Babbage’s theories. A chapter in Babbage’s treatise advises readers on what “data” those wishing to understand and manage factory operations should gather.

Zulke dataverzameling, schrijft Whittaker, had weer zijn origine in hoe eigenaren van plantages alle activiteiten van hun slaven bijhielden en voorschreven:

For both Babbage and plantation managers and overseers, such surveillance fed into the design and redesign of labor arrangements, alongside distinct regimes of violence and discipline calibrated to increase profits and productivity.

Babbage's werk, alweer zoiets dat je echt nooit hoort in informatica-circles, leunde op dat van Adam Smith:

From inception, the engines—“the principles on which all modern computing machines are based”—were envisioned as tools for automating and disciplining labor. Their architectures directly encoded economist Adam Smith’s theories of labor division and borrowed core functionality from technologies of labor control already in use

Technologie zien we weer en weer en weer, is politiek, en computers zijn gemaakt vanaf hun allereerste begin voor controle en dominantie. Dat we in de jaren '90 even een mass delusion hadden waarin we dachten dat ze vrijheid konden brengen voor iedereen was meer een soort zijpaadje dat een kernpunt, en juist dat is tot mantra verheven en blijven we maar denken.

Een betere wereld begint juist niet bij jouzelf

Ok moving on voor ik weer aan de 5000 woorden zit! Over moven gesproken...

Wij gingen in de voorjaarsvakantie met de elektrische auto op reis, en terwijl de benzineauto's langszoefden moesten wij in de rij voor de lader, een half uur, en toen nog een half uur in de lader. Gedoe. Veel dingen zijn slecht voor de wereld: vliegen, vlees eten, olie stoken, maar ja, het is zo leuk/lekker/handig. De kosten voor het overstappen op een beter alternatief zijn niet nul. Zo sprak ik vorige week toevallig een Nederlandse professor, en ik zag na twee minuten al groen en geel van ergernis (ik zou ook beter moeten weten, maar ik neem steeds aan dat wetenschappers redelijk zijn en niet zomaar AI gebruiken voor hun denkwerk) Maar niet deze professor, oh nee, "ik gebruik het overal voor hoor, ik kan er veel verder mee gaan en dieper mee denken". Ik was even de uitspraak van Joseph Weizenbaum vergeten:

What I had not realized is that extremely short exposure to a relatively simple computer program could induce powerful delusional thinking in quite normal people

Nu vraag ik me natuurlijk al af of ze inderdaad meer en beter werk kan doen met AI, en dat doe ik niet zomaar, nee, ik heb het onderzoek aan mijn kant. In een paper dat eind vorig jaar al uitkwam, verdeelden onderzoekers 120 studenten in twee willekeurige groepen en bestudeerden ze zes maanden lang. Best een serieuze studie dus. De resultaten laten zien dat de AI groep 11% lager scoorde op een toets, iets meer dan een punt lager op een cijfer zoals we dat in Nederland toekennen tot en met 10. Dat komt, schrijven de auteurs, omdat je met AI niet zo "diep" leert.

By providing immediate, comprehensive answers, the AI tool facilitated a form of cognitive offloading that eliminated the desirable difficulties needed for deep learning. Skipping those effortful processes likely led to weaker memory encoding, as evidenced by the steeper forgetting curve in the AI-assisted group.

Zo'n beetje wat ik met Izaak Dekker in Trouw schreef dus, frictie ondersteunt leren en dat zomaar wegnemen is niet best. Een studie die vorige week officieel verscheen (maar al lang op internet stond als preprint en dus al vrij bekend was) liet ook nog zien dat als je stopt met AI gebruiken, je creativiteit dat niet meer zomaar 'geneest':

After the withdrawal of ChatGPT’s assistance, the experiment group [die dus AI mocht gebruiken] experienced a notable decline across divergent thinking tasks, failing to maintain the enhanced levels of creativity observed in previous five days.

Maar goed, dit soort dingen uitleggen is een verloren zaak aan mensen die met AI opeens zeggen veel creatiever te zijn, want eerlijk is eerlijk, dat laat de bovenstaande studie ook zien.

Maar let goed op, na 5 dagen mochten ze geen AI meer, dus de drop die je daar ziet is de afkickperiode. En de oplossingen waren dan wel creatiever, maar ook... heel vaak hetzelfde: "Results showed that the use of ChatGPT substantially increased the homogeneity of participants’ outputs, both in terms of content similarity and linguistic style similarity, during the five-day intervention period"

Met andere woorden, na een tijdje kan je niet meer zonder AI, handig voor Sam Altman, die je intelligentie wil verkopen per strekkende meter.

Dus ja wat zeg je tegen een verslaafde die van zijn drug houdt zoals die professor waarmee ik sprak? Ik mompelde wat over de klimaatimpact en de datadiefstal... Zou je dan niet minstens iets met een beetje meer ethiek gebruiken, zoals GPT-NL [[1]] overwegen? Nee, zei ze, dat is toch geen alternatief! Nee, zei ik, een linzenburger is ook niet zo sappig als een biefstuk. Ik zag de radartjes in haar hoofd draaien, nee, nee, dat is inderdaad zo, moest ze wel toegeven. Het idee dat geen AI, of ietsjes ethischere, gebruiken een optie was die persoonlijke nadelen had maar voordelen voor iedereen, dat was nieuw.

En daar zit 'm de kneep denk ik in de moeilijkheid om verzet te organiseren tegen AI. Generatieve AI gebruiken voor je werk, dat lijkt voordelen te hebben, je kan meer papers schrijven, sneller nakijken of voorbereiden. Meer nog dan dat het lekker, leuk of handig is, is het van voordeel voor je carrière (zolang je dan natuurlijk geen gênante foutjes publiceert). De discussie draait vooral om wat AI voor mensen kan doen, in goede zin zoals deze enthousiaste professor, of in negatieve zin als het gaat om bijv het verdwijnen of veranderen van je baan als programmeur. Programmeur Larry Garfield zegt in een lange post:

All of this discussion [...] is about how all of this will impact "me." Me, the developer. Me, the person writing code, who may not be writing code now. Me the person who just got laid off because some accountant thinks that Claude means they need only two engineers now instead of 10. Me the person who just had to lay off half my company. Me, me, me.

What I almost never see is the impact of AI code on our society.

Garfield wijst op het netwerk effect, het is moeilijk om te stoppen met een smartphone, want iedereen heeft er een en dus verwacht commercie het. Toen ik een paar weken geleden naar David Byrne ging (dat was vet, trouwens) moest ik per se een iPhone meenemen, ik kreeg geen PDFje om te printen. Dat is dan tegen fraude, snap ik ergens wel, maar ik word wel gedwongen om iets te hebben vanuit de gedachte dat iedereen het heeft. Zo ook worden we langzamerhand gedwongen om AI te gebruiken, omdat iedereen het doet, en als iedereen 10 papers per maand kan schrijven met AI, dan ben jij gek als je het niet doet. Ik snap heel goed dat jonge wetenschappers die onder enorme druk staan, verleid worden om dat te doen (Ik heb echt heel veel minder begrip voor mensen die het al gemaakt hebben trouwens, die lang niet zo gedwongen worden maar het gewoon willen).

Garfield belooft, en ik vind dat mooi, om negatief te blijven oordelen over wie AI gebruikt:

As I learn how to work with AI coding agents, know that I will be thinking ill of you the entire time. Not because I don't get to write for loops, but because you have made yet another part of the economy impossible to engage with ethically.

This is how societies die. I wish I were being hyperbolic. I really really do. But I have nothing left but contempt for "it is what it is."

No it isn't. It only is what it is because you're OK with what it is, and aren't putting in the work to make it otherwise. Those that don't give a fuck about fair copyright application, about poor people, about our planet, are putting in the work to make it so. And you're letting them.

Silicon Valley, daar zijn ze weer, wil onze wereld kapot maken; ze bouwen niet voor niks bunkers en raketten. Meedoen kost je niks, sterker nog, het levert je misschien wat op op de korte termijn. Verzet is moeilijk, je krijgt tegenstand, gezeur aan je kop en mensen die je in de krant en op Linkedin, dom, cynisch en negatief noemen, leuk is anders.

Maar het is nodig, want iedereen die mee doet, zelfs al is het met frisse tegenzin, helpt mee een cultuur creëren waarin, zoals Garfield al zegt en ik zelf natuurlijk ook al eerder in de Volkskrant, we diefstal, uitbuiting en klimaatschade voor lief nemen voor eigen gewin. Maar, vergeet niet, je hebt het recht om gewoon te weigeren. En dan dus niet van de ene op de andere AI overstappen, zoals nu opeens in de mode is, maar helemaal niet meedoen. Van de ene AI naar de andere, dat doet niks.

Sterker nog, zoals techondernemer turned critic Aya Jaff schrijft in een goed stuk (helaas in het Duits maar prima te volgen voor ons Nederlanders denk ik) verzet alleen framen als het kiezen van het meest ethische alternatief is precies wat big tech wil, want dan mopperen we niet om regulering en leggen we alle keus bij de klant.

De financiële impact van AI

Wat een geweldig stuk in NRC over de financiele impact van AI op de langere termijn. Heel goed onderbouwd en echt te snappen ook als je zoals ik geen econoom bent. Geld gaat namelijk al een lange tijd, door shareholder capitalism, niet naar lonen, maar naar aandeelhouders:

Begin jaren tachtig ging ruim tachtig procent van het nationale inkomen naar arbeid. Nu is dat minder dan zeventig procent. Geen peanuts: ruw berekend is dat een verschuiving van 6.500 euro per werkende per jaar die niet naar lonen gaat maar naar aandeelhouders en kapitaalbezitters.

Wat gaat AI met die trend doen? We weten het natuurlijk niet, maar Stegeman voorspelt dat "productiviteitswinsten [zullen] verschijnen vooral als kostenbesparing voor bedrijven, niet als hogere lonen". Ja dat lijkt mij ook, als de VU schrijft dat docenten met AI tijd kunnen besparen, dan bedoelen ze natuurlijk niet dat ik voor hetzelfde loon donderdagmiddag vrij mag nemen. Dan bedoelen ze dat er op termijn minder mensen nodig zijn.

Stegeman legt helder uit dat er nog meer donkere wolken op de horizon zijn; als er minder loon verdiend wordt, vult de schatkist zich niet zo snel, uit loon komt veel meer belasting dan uit aandelen. En, veel AI winst gaat niet eens naar Nederlandse aandeelhouders maar naar Amerikaanse, dus daar zien we al helemaal niets van terug. Er moet nu wat gebeuren zegt hij:

Verplichte winstafdrachten bij platforms die in publieke markten opereren. Of een universeel AI-dividend, waarbij iedere burger bij geboorte een aandeel krijgt in de publieke infrastructuur waarop AI draait. [...]
Het klinkt radicaal, maar minder radicaal dan een verzorgingsstaat blijven financieren met een grondslag die steeds verder afkalft.

Mooie plannen, maar "in this economy" met de VVD de facto aan de macht, lijkt me dit net zo'n droombeeld als AI gewoon helemaal afschaffen.

[[1]]: Die wonnen vorige week, in tegenstelling tot ikzelf helaas, wel een AI award!

En dan nog even dit

• Verademend stuk in Trouw over Prins Constantijn. Ik verbaas me al jaren over zijn politieke, activistische houding over big tech, hoe kan het eigenlijk dat hij zijn bij geboorte gratis gekregen macht zo maar in mag zetten? Als ik hem weer eens hoor over hoe Nederland meer als Silicon Valley moet zijn denk ik altijd aan een bezoek bij GitHub toen ik jaren geleden op studiereis was daar.
  
  Wij mochten gratis stickers uitzoeken, en zelfs een hoodie, en onze studentenrugtasjes volproppen met lekkers uit de gratis keuken, cool! mensen die daar werkten mochten dat iedere dag en dat was dus goede reclame voor ze als werkgever. Maar eenmaal weer op de straat lagen er overal, echt overal, daklozen. Gratis eten voor wie het niet nodig heeft, maar niet voor hen.
  
  Is dat wat wij hier ook moeten willen? (als we het AI deltaplan en het uitkleden van arbeidsvoorwaarden dat ze voorstellen daarin, zien we dat sommige mensen toevallig met veel ervaring in Silicon Valley wat wel willen ja).
• Scrollend naar de Stembus, onderzoek van het Rathenaeu-instituut waaruit blijkt dat "kwaadwillenden handig gebruik kunnen maken van de algoritmen en dat de maatregelen om inmenging aan te pakken slechts ten dele voldoen". En je hebt er niet eens een ingewikkeld algoritme voor nodig, in Amerika worden influencers gevraagd op voor een paar duizend piek content op te nemen tegen progressieve politici zoals Kat Abughazaleh. Het algoritme dat op ophef draait, doen dan de rest wel.
• Rapportage van de Miami Herald over de racistische, sekstische, en antisemitische drek die rondging in een appgroep van Republeinse studenten in Miami. Ik denk dat iedereen ergens wel weet dat dit soort dingen in die kringen rondgaat, maar om het zo op papier te zien toont maar weer eens hoe weinig we echt bereikt hebben op het gebied van gelijkheid. Sommige mensen zullen zwarte mensen (en vrouwen, en Joden, etc. etc.) nooit als volwaardig zien en zijn niet bang om dat keer op keer weer te zeggen. We zijn er misschien een tijdje in geslaagd om dit soort denken uit polite conservation te weren, weg is het nooit geweest.

AI doet het nie

Ik zei het vorige week, ik moet een kopje hebben los van goed of slecht nieuws, over AI die niet naar behoren werkt. Dus daar ga ik nu mee beginnen, en meteen met een knaller van Wiep Hamstra, over wiens werk ik vorig jaar al meerdere keren schreef:

Gemeentelijke chatbots weten 64 procent van een aantal simpele vragen niet te beantwoorden, blijkt uit nieuw onderzoek.

Een simpele vraag als wanneer het huisvuil opgehaald wordt "wist geen enkele van de 39 onderzochte chatbot zelf te beantwoorden".

Slecht nieuws

Anti-vaxxen, lang een soort hypothetisch gevaar—mijn man heeft zich wel eens afgevraagd waarom ik zo fel ben als mensen niet willen vaccineren—maar die tijd is nu voorbij. Zeker als zoals in Nederland ook hoogopgeleide mensen die echt beter zouden moeten weten, in verzet komen. En dan krijg je, o, zo voorspelbaar, een afname in vaccinatiegraad, zoals Vox schrijft over onderzoek onder 12 miljoen babies in Amerika dat een afname in vaccins tegen hepatitis B van 83.5 naar 73.2% toont. Een tikkende tijdbom, die we bij de mazelen al af hebben zien gaan.

Mooie rapportage in Volkskrant, goed voorbeeld weer van hoe digitaal rijker kan zijn dan papier: Boeren in Nederland dempen sloten, ook als dat niet mag. Dan kan je namelijk handiger met je tractor over het land rijden. Gemeentes handhaven nauwelijks, en heb je kritiek, dan drukt de boer gewoon met zijn shovel je auto in elkaar. Ecologen die de Volkskrant interviewden over de impact op de natuur willen niet bij naam genoemd, uit angst voor represailles, en een boer die meewerkte aan het stuk op het laatste moment ook niet mee.

Droevige blog van Lisa Loeb, over hoe weinig we weten over vrouwenemancipatie [[2]] een beetje net als de geschiedenis van de informatica, vooral in een "hoera wat gaat het allemaal toch lekker"-toon gepresenteerd. Zo leerde ik van haar dat in de eerste canon van Nederland maar 3 vrouwen stonden Aletta Jacobs, Anne Frank en Annie M.G. Schmidt. Alsof ze bij de A gestopt zijn met zoeken! Maar het wordt beter hoor!

Na de herijking in 2020 zijn dat er, met veel moeite, zeven geworden, onder wie Marga Klompé, Maria van Bourgondië, het prehistorische skelet Trijntje en het fictieve personage Sara Burgerhart. Zeven van de vijftig vensters, waaronder een fictieve vrouw en een skelet.

Ow mensen wat hebben we nog een lange weg te gaan. Ondertussen zakken we verder weg op de ranglijst voor gendergelijkheid en verzetten we ons tegen plannen voor een Europees ouderschapsverlof (dat al afgezakt is van de eerder door Timmermans voorgestelde vier maanden naar 6 weken voor beide ouders).

[[2]]: Helaas wel op SubStack... Kijk ik snap dat je daar meer impact hebt dan met je eigen mailinglijst, ik heb het voorrecht dat ik niet van mijn nieuwsbrief hoef te leven, maar het blijft toch jammer dat mensen tussen de neonazi's willen zitten.

Goed nieuws

Ik kwam maar weinig tegen deze week 😭 Ik hou het maar bij dit interview met mij in De Lineaal, over AI, evidence informed onderwijs. Fijn dat er plekken blijven waar kritisch geluid een plek vindt.

Geniet van je boterham!