Het AI nieuws van week 19

Deze zonnige week stond voor mij in het teken van buitenzijn, heerlijk hangen in de (speel)tuin en op het terras. Maar natuurlijk kan je buiten ook prima lezen en schrijven, bijvoorbeeld voor de krant! Want in de maand mei ben ik gastcolumnist voor Volkskrant! Vorige week kon je mijn kijk op de bezuinigingen op studentensport en -cultuur lezen, deze week: het fenomeen Haidt.

Is Jonathan Haidt een wetenschapper?

In mijn tweede gastcolumn voor de Volkskrant schrijf ik over de (on)zin van kinderen beschermen tegen de smartphone.

Dat stuk kan je gewoon zelf lezen, maar hier wil ik nog wat dieper ingaan op de modus operandi van Haidt, want op zijn boek, zo kan je lezen in Nature, is inhoudelijk heel veel aan te merken. Zinniger om te lezen is een recent APA rapport dat onderzoekt welke features van social media problematisch zijn, zoals infinite scroll en gepersonalieeerde ads zoals ik zelf ook in mijn Volkskrantstuk betoog.

Nog interessanter dan de vraag of Haidt wel een expert is, vind ik de vraag is wat Haidt's professionele identiteit is? Gedraagt hij zich als een wetenschapper? Tech journalist Rudolf Otto maakte wat dat betreft een revealing slip of the tongue, want hij schreef in een achtergrondstuk op nu.nl:

Ergens in dat grijze gebied kunnen Haidt en de wetenschap elkaar wel vinden

Otto ziet Haidt hier dus niet als een wetenschapper, en dat vind ik zeer terecht (alhoewel Otto het niet per se met opzet lijkt te doen). Hij schrijft namelijk een populair-wetenschappelijk boek over het effect van de telefoon op kinderen, en valt dus, voor de scope van dat project, onder de klasse journalist. We moeten zijn claims dus ook in dat licht lezen: hij heeft het onderzoek zelf niet gedaan, jij rapporteert erover. Echter, deze scheidslijn wordt steeds vager, denk ook aan Jordan Peterson of Andrew Huberman, die in dienst waren/zijn bij universiteit en daarnaast ook wetenschap naar mensen brachten met lezingen, boeken en podcast-afleveringen.[[1]]

Vaak doen ze dit lang niet zo goed als echte wetenschapsjournalisten, precies omdat ze skin in the game hebben, ze gaan zich namelijk hechten aan hun boodschap (die de neiging heeft om over tijd extremer te worden) en vaak zijn ze niet opgeleid voor het vertellen over wetenschap (wat echt iets anders is dan het doen van wetenschap). Een scherpere kritiek op Haidt en co is dus dat ze daar geen expert in zijn (zie verder ook de kritiek vorige week op Bregman over het ontbreken van een scherpe professionele identiteit).

Over de Correspondent gesproken, ik las in mijn onderzoek naar Haidt nog een echt abominabel stuk, waarin ze eerst uitleggen wat er allemaal schort aan zijn onderzoek, maar dan vervolgens wel afsluiten met de zin dat zijn boek "een overtuigende waarschuwing" is. Tsja als de journalistiek is die de wetenschap scherp moet houden... Schrijnend om te zien hoe slecht werk door een rood licht kan fietsen als het in lijn is met wat we vinden.

Heb je als student het recht om gezien te worden?

Ronkende posts over AI op LinkedIn, iedere week zie ik wel weer wat tenenkrommende, maar deze van Belgische professor Orhan Ağırdağ is wel... something. Ik weet het, ik moet ook gewoon niet op LinkedIn zitten, en al helemaal niet op dit soort dingen reageren, maar ik kon gewoon niet laten. In zijn vak moeten 211 studenten "zeven pagina’s complexe essayvragen" en daarin "diepgaand filosofisch moesten redeneren". De resultaten liegen er niet om, aldus Ağırdağ:

Tijdsbesparing: 16 minuten met GPT-4o versus ruim een week met menselijke assistenten. Een efficiëntiewinst die vele malen groter is dan wat bijvoorbeeld de stoommachine bracht tijdens de industriële revolutie.

Het perspectief van de tijdwinst is boeiend, het past in een universiteit die zich bezighoudt met zo snel mogelijk, met zo weinig mogelijk inzet van docenten, studenten met diploma in de de hand de deur uit te werken, nu ook met AI. Nieuw nieuw public management, zeg maar. Wat ik vooral frappant vind zijn de risico's die wel benoemd worden. Ağırdağ schrijft:

we kritisch blijven op risico’s zoals bias door AI voordat we het echt implementeren

Kijk, ik vind het goed dat hij aan bias denkt. Onderzoek geeft daar ook meer dan voldoende reden toe, een analyse van 24.000 Amerikaanse student-essays liet zien dat zwarte studenten slechter beoordeeld worden door AI dan je mag verwachten. In onze context zullen misschien studenten die niet "goed Nederlands" schijven (denk aan 'de' en 'het' verwarren) zullen door dit soort tools benadeeld worden, terwijl je als docent, als je wilt, één keertje puntenaftrek kan rekenen en het verder kan negeren (al bleek uit het bovenstaande Amerikaanse onderzoek dat menselijke beoordelaars zwarte studenten óók slechter beoordeelden, dus die realiteit is nog ver weg).

Maar zijn er geen andere, veel diepere en boeiendere problemen om het over te hebben?

Wat vindt een student hier bijvoorbeeld van? Heb je al student het recht om gezien te worden door een docent? Ik vind van wel, als je zeven pagina's moeilijke essayvragen hebt beantwoorden, dan wil je toch dat jouw inzet bekeken en beloond wordt? Het is een vorm van ont-menselijken, de (nakijkende) mens wordt uit het proces gehaald, en daardoor wordt de nagekeken mens minder mens. We zijn toch mensen omdat we door andere mensen gezien worden?

En over gezien gesproken: die week die student-assistenten normaal besteden aan het nakijken, bestaat die soms alleen maar uit geld dat bespaard kan worden? Is dat niet voor die studenten een fijne manier om een centje bij te verdienen; fijner en nuttiger dan voor Uber rondrijden, of controleren bij de zelfscanner van de Appie? Wat vinden die studenten ervan dat ze vervangen worden door en machine? Dat ze niet alleen geen kans meer hebben om op een inhoudelijke manier geld te verdienen, maar ook geen kans meer hebben om te snuffelen aan het docentenvak? Zeker bij pedagogiek zou je verwachten dat docenten ook oog hebben voor de pijplijn van student-assistenten naar docenten!

En wat te denken van de vaardigheden van de docent zelf? Is het lezen van essays van studenten geen kerntaak van een docent? Een docent Wijsgerige Pedagogiek, nota bene! Is het geen aangename taak om essays te lezen? Ja, het is veel werk, maar het is mooi werk, betekenisvol werk, je moet soms lachen om hun gekke gedachtensprongen, en bovenal, je steekt er wat van op! Zie je een aantal keer hetzelfde verkeerde antwoord voorbijkomen? Dan heb jij iets verkeerd uitgelegd. Wordt bij uiteenlopende vragen eenzelfde antwoord genoemd? Dan heb je misschien iets te veel focus op één theorie gelegd. Ik snap gewoon niet dat je het als docent niet mooi, leuk en betekenisvol, maar een klusje vindt om na te kijken. Dat zegt heel veel over het systeem waar we in moeten werken.

Kosten, van de API 7 euro. De deskilling van student-assistenten en docenten, onbetaalbaar.

Over onderwijs gesproken!

Ook een mooi antwoord op de vraag waar onderwijs voor is las is afgelopen week in de Volkskrant, wat doet het met leerlingen als hun docent influencer is? Het is een heel valide vraag of influencers, Juf Huppeldepup of meester Dieedie, je kent ze wel van Insta, die vaak echt vanuit een idealisme en enthousiasme begonnen, over tijd niet altijd muteren in promotor van het één of ander, dat is nu eenmaal hoe het hyperkapitalistische systeem werkt. Het zou toch zonde zijn van je duizenden followers als je er niet een klein beetje aan verdient? Het kost toch ook tijd en moeite om al die leuke filmpjes te maken? En is het voor leerlingen niet hartstikke leuk om even mee te dansen voor al die volgers? Docenten Kirsten Cuppen en Gijs Korenblik benoemen terecht dat docenten ook een voorbeeldrol hebben en voor leerlingen een ethisch kompas moeten zijn.

En dan nog even deze....! Wat een heeeerlijk stuk van journaliste Rachel Kloek in Trajectum, over waarom studenten niet naar college komen lees het van voor tot achter en print het uit! Universiteiten en hogescholen rekenen op uitval, en ergens vinden ze het ook wel handig, want als alle studenten komen, past het helemaal niet in de zalen. Maar studenten zijn nog geen volwassenen en hebben hulp nodig om prioriteiten te stellen, dus aanwezigheid moet wat bij betreft zoveel mogelijk verplicht zijn.[[2]]

Ik weet zelf wat ik doe als ik niet echt naar een vergadering hoef te komen, inloggen op Teams, half luisteren en ondertussen wat mail wegwerken. Alleen een meeting waar echt wat besproken wordt, waar de laptops dicht blijven (kom daar nog maar eens om trouwens!) en waar ik me veilig voel, daar kom ik mijn bedje voor uit, en ik ben 40+. Het antwoord is dus in feite makkelijk: goed onderwijs, een veilig leerklimaat, en laptops dicht.

Het effect van de kapitalistische coöptatie van programmeeronderwijs

Ook op LinkedIn (I know, I know, ik moet meer naar buiten om gras aan te raken) schreef Wouter van Noort, hoofd opinie bij NRC, met een licht triomfantelijke ondertoon dat AI binnen 12 tot 18 maanden de meeste code bij Meta gaat schrijven. 1-0 voor mensen die altijd al vonden kinderen niet hoeven te leren programmeren!

Je kan dit soort "lekker puh" berichten natuurlijk negeren, maar in dit korte stukje staat zoveel dat de moeite waard is om te bestuderen! Want van Noort zegt dat

experts en politici pleitten voor verplichte programmeerles op scholen om zo automatisering voor te blijven

Dat is een interessante framing van wat er gebeurde, zeiden wij dat inderdaad? Sommige mensen wel, Google en Microsoft sponsorden zeker programmeeronderwijs in de hoop om later meer programmeurs binnen te kunnen halen (en eerlijk is eerlijk, ik heb zelf ook samengewerkt met Google in een groot project op leraren te leren programmeren), maar dat is helemaal niet waar de traditie van programmeeronderwijs vandaan komt.

Veel IT-geschiedenis komt juist uit anti-kapitalistisch en anti-authoritair gedachtengoed voort, Seymour Papert, pioneer van programmeeronderwijs, was uitgesproken socialist en actief voor de Britste Socialistenorganisatie SGR. Ook de open source gemeenschap was voorheen uitgesproken anti-big tech. Je kan het je nu haast niet meer voorstellen maar als ik in mijn studententijd Microsoft of Windows noemde, dan ontbrandden sommige professoren meteen in woede. Geld verdienen met software, dat was fout!!

Het programmeerwerk van Seymour Papert paste in anti-kapitalistisch en marxistische trend, zoals je kan zien in dit mooie gesprek met Paolo Freire zei Papert dat hij veel van zijn gedachtengroed aan hem te danken had, alhoewel ze het over veel ook niet eens zijn. Papert's werk met LOGO stoelde op de wens om kinderen van consumenten van technologie te veranderen in maker ervan, om hun eigen ideeën, wensen en dromen te realiseren.

Wat je dus vooral aan de woorden van van Noort ziet is hoe succesvol de coöptatie van big tech is geweest—door samen te werken met de grote bedrijven gaven wij ze als leraren ook legitimiteit—en lieten we hen het verhaal bepalen. Nu zij opeens van mening veranderen, en het opleiden van programmeurs zo nodig niet meer vinden, zitten wij met de gebakken peren. Zo zie je dus ook dat je altijd moet opletten met wie je het eens bent!

Terug dan nog even naar de 12-18 maanden. Wie zegt dat eigenlijk? Zuckerberg zelf. En op welke kennis baseert hij zich precies, is er bewijs dat de hallucinaties binnenkort gaan stoppen, bij code misschien wel nog belangrijker dan bij tekst omdat een spatie verkeerd al tot problemen kan leiden? Nee (ze worden juist erger). Is er al een oplossing voor het feit dat de meeste programmeertijd niet in typen maar in snappen, repareren en overleggen gaan zitten? Nee. Is er al een oplossing voor het feit dat AI code van security problemen geeft? Nee, nee, oh, nee!

Waarom zouden we de baas van een groot softwarebedrijf geloven, iemand die overduidelijk geen interesse heeft in het bouwen van een goed en mooi product dat het doet, maar iemand die enshittification personificeert! Natuurlijk denken CEOs dat alle banen behalve die van hen onzin zijn, zie ook Marc Andreessen, ze haten mensen! Zoals een anonieme security engineer uitlegde in een ijzersterke blogpost over waarom mensen niet van AI houden:

Distressingly, the people most passionate about AI often express a not-so-subtle disdain for humanity.

Er is eigenlijk geen betere motivatie voor waarom ik wil dat kinderen leren programmeren dan deze onwetendheid.

Ik wil dat burgers van de toekomst kritische vragen kunnen stellen als de tech overlords weer eens iets roepen dat ze goed uitkomt. Ik wil dat burgers van de toekomst zich een wereld kunnen voorstellen die niet gedomineerd wordt door big tech maar door kleine apps gemaakt door mensen zelf, voor zichzelf. Van "There's an app for that" naar "I will make an app for that".

Ik bouwde onlangs mijn eigen oefenappje om Arabisch mee te leren, in een dag of wat, en nu ben ik bevrijd van DuoLingo. [[3]] En ik voel me trots over iets dat ik gemaakt hebt, voor mezelfl! Ik had er lol in om het te maken en ik heb er nu steeds lol in om het te gebruiken. Dat gun ik iedereen en dat heeft met beroepsperspectief niks te maken.

Na het afschaffen van abortus

Niet voor niets won ProPublica afgelopen week een Pullitzer-prijs voor hun dossier over de gevolgen van het afschaffen van abortuszorg op vrouwen in Amerika.

Als je het mentaal aankan, lees dan dit stuk uit de serie, dat beschrijft hoe een 18-jarige, zes maanden zwanger, op de dag van haar baby shower bloedvergiftiging krijgt, maar geen hulp omdat de baby nog een hartslag heeft. Ze gaat naar twee keer naar de spoedeisende hulp, maar wordt steeds weggestuurd. En dan is het opeens te laat voor haar en het kindje. Twee zinloze, gruwelijke sterfgevallen.

Of, heel anders schrijnend, een ander stuk van ze over wat er gebeurt als er in een kwetsbaar gezin vol verslaving en eerdere uithuisplaatsingen, nog een high risk zwangerschap moet worden uitgedragen. Een te vroeg geboren kindje, financiële problemen, terugvallen op alcoholgebruik. Zo pijnlijk om te lezen, alles ervan, maar misschien nog het meeste de $30 per week die het gezin kreeg om voor een prematuur kind te zorgen:

Mayron wasn’t sure how to access them — but they wouldn’t even cover a week of gas money to and from the hospital anyway.

Prolife tot de voordeur van het ziekenhuis, en then you are on your own.

Goed nieuws

Lastig om de vibe weer omhoog te krijgen na die stukken, I know. Maar ik werd toch ook weer heel blij en hoopvol van de "Stitch It, Don’t Ditch It" beweging. Die is heel nodig, want, zo schrijft Kaja Serguga op de blog Reasons to be cheerful, we worden overspoeld met fast fashion. Zo voegt modemerk Shein 10.000 (!) nieuwe producten per dag toe, zodat er altijd weer wat nieuws is om uit te kiezen. Tsja, wie kan dat weerstaan?

Maar juist repareren was heel lang heel gewoon, aldus het stuk van Seruga:

“One of the other big benefits is to normalize mending again,” says Morton. For most of human history, textiles were time-consuming to produce and expensive to buy, so mending them was second nature, says Sekules.

En zo is het, dingen weggooien met een klein gaatje erin, het is wasteful, maar ook saai, steriel en ongezellig. Hoeveel vrolijker ziet een zichtbare reparatie eruit?

Dan nog een dapper en duidelijk stuk van TU/e over de recente cyberaanval. Knap en slim hoe ze een ellendig voorval omzetten in een krachtig en leerzaam verhaal!

Maar het beste goed nieuws vind ik het promotie-onderzoek van Anne Slootweg beschreven in NRC van deze week. Slootweg bekeek het proces van onderzoeksvisitaties, iets dat binnen de universiteitsmuren vaak met de term circus wordt aangeduid, heel passend want dat woord duidt zowel chaotische bende aan, als iets wat een zeker ontzag vraagt (ík kan niet al jonglerend met brandende fakkels op een koord dansen). Die dubbele houding beschrijft Slootweg ook:

Aan de ene kant ... doen ze het af als een grote poppenkast, die ook nog eens veel tijd kost. Tegelijk willen ze heel erg hun best doen om er goed uit te komen .... Die dubbelzinnigheid zie je voortdurend.

Slootweg promoveerde bij Willem Schinkel en het is dus niet gek dat haar werk leunt op neomarxistische ideeën rondom macht, dominantie en weigering.

Omdat er uiteindelijk een koloniale verbeelding van kennis wordt bestendigd. De huidige wetenschap wordt impliciet voorgesteld als iets wat neutraal en universeel is.

Jaaaaaa, roep ik naar mijn beeldscherm! (Zeker in de informatica). Ze komt ook met scherpe kritiek op de nieuwe mode van erkennen en waarderen:

Het klinkt heel mooi, praten over kwaliteit en geen cijfers meer geven...

‘Kwaliteit’ toetsen, via zogenaamd open gesprekken, is altijd performatief: er ís geen voorafgaande, vaste ‘kwaliteit’ en ‘relevantie’, de visitatiepraktijk maakt die begrippen voorstelbaar. .

Ik herken veel van wat ze beschrijft, bijvoorbeeld ook hoe er geen formele hiërarchie is binnen een afdeling, maar er toch eentje gevormd wordt.

...in de visitatie wordt elke afdeling wel geacht met één centraal narratief te komen: dit vinden wij belangrijk, zo gaan we het doen. Zo krijg je toch weer een hiërarchische ordening die niet vanzelf spreekt.”

Soms is dat erger dan een echte, omdat het ook minder mogelijkheden voor verzet geeft. Slootweg roept expliciet op tot verzet in haar stuk: "Niet meer accepteren dat we maar moeten meegaan in heersende praktijken, ook niet die van visitaties." Verzet is iets dat mij veel bezighoudt de laatste tijd, omdat ik aan een stuk werk over welke soorten verzet er mogelijk zijn in de digitale wereld! Daarover later ongetwijfeld meer.

Geniet van je boterham!

Voetnoten

[[1]] En eerlijk is eerlijk, je kan mij met mijn boek en met deze nieuwsbrief daar ook prima onder scharen!
[[2]] Met inachtneming, natuurlijk, van studenten die door omstandigheden niet deel kunnen nemen.
[[3]] Overigens heb ik ook geprobeerd om het met AI te doen, om te kijken of dat kon, maar dat lukte natuurlijk niet, het Arabisch werd niet eens goed afgedrukt... Ik verwacht het natuurlijk wel maar het is toch altijd een teleurstelling.