Het AI nieuws van week 36

Vrouwen in de wetenschap

Ik dacht, ik begin eens met iets moois en hoopvols! Vorige week overleed Margaret W. Rossiter, van wie ik daarvoor nog nooit gehoord had, zag ik in een schitterende obituary in NY Times en nu wil ik iedereen over haar vertellen! Ze vroeg tijdens haar promotie in de jaren '60 aan haar begeleider waar de vrouwelijke wetenschappers waren en kreeg te horen dat die er niet zijn. Ownee? zei ze, en besteedde de volgende 40 jaar aan het schrijven van 3 lijvige boeken vol verhalen over precies dat.

En het project werd groter dan alleen de individuele wetenschappers:

"the project [transformed] from a kind of collective biography of women scientists (hardly any of whose names are household ones) into a history of an occupational group whose status had risen and fallen over time as the women’s role responded to external events and pressures."

Ze bestudeerde de verhalen los—op zich al een hele grote bijdrage natuurlijk—maar meer nog synthetiseerde ze alle losse levens totdat ze de "social experience of women in science" als eenheid begreep. De onzichtbare lab managers, de vrouwelijke wetenschappers die chocola moesten maken van veldwerk-data verzameld door mannen, en vrouwen die nooit dezelfde kansen kregen als mannen. Ze waren onzichtbaar, maar Rossiter zag ze toch!

Rossiters verhaal deed me denken aan de term epistemisch onrecht van Miranda Fricker, het onrecht van niet mee mogen doen aan kennisproductie.

Fricker verdeelt het nog onder in testimonial onrecht (mensen luisteren niet naar je) en hermeneutisch onrecht dat zoveel betekent als dat de termen die bestaan je niet helpen om je eigen ervaring te snappen:

"Hermeneutic injustice is the injustice of having some significant area of one’s social experience obscured from collective understanding"

De weergaloze Rebecca Solnit (wiens werk tot de term mansplaining leidde) legde dat laatst geweldig uit in the Guardian:

"Imagine that we had no word for cancer and no recognition of the varieties of ways it manifests, so that we just had occasional lurid news stories about strange and sometimes fatal growths in various parts of various people, not connecting the versions in brains to the versions in prostates and breasts. If we didn’t recognize the common denominators, we couldn’t develop diagnoses and treatments or address root causes."

Een hersentumor is geen huidkanker, maar omdat ze ook onder een koepelterm vallen, kunnen we er ook gezamenlijk over praten, ervoor fundraisen en ertegen waarschuwen. De ervaringen die Rossiter verzamelde helpen vrouwelijke wetenschappers hun eigen leven beter te snappen, en Solnit merkt (net als Fricker in haar boek) heel terecht op dat het ontbreken van duidelijke termen over seksueel geweld ervoor zorgen dat we daar niet goed over kunnen praten: "the one-case stories [over bijvoorbeeld huiselijk geweld of verkrachting] avoid this recognition by treating something ubiquitous as exceptional and isolated."

En het weglaten van de verhalen van vrouwen uit de wetenschap is niet alleen oneerlijk trouwens, het heeft ook grote impact op de wetenschap zelf, aldus Spaanse krant El País. Zo doorbraken vrouwelijke wetenschappers heel wat stereotypen over voortplanting door de rol van vrouwen opnieuw te definiëren: van een passieve ontvangersrol tot een actieve deelnemer, met opmerkelijke nieuwe inzichten tot gevolg, zoals een veel gelijkere rol tussen mannelijke en vrouwelijke slankapen.

Zulke aannames van wetenschappers zien we overal, toonde DNA onderzoek vorig jaar verrassend aan dat twee lichamen in Pompeii, waarvan aangenomen was dat ze een moeder met haar kind waren, in werkelijkheid een man was, spelend met een niet-verwant kind. Dat past niet bij onze opvattingen, toen en nu! El País schrijft:

"sexual and social behavior is much more complex than what male-centered theories had suggested."

Paper-alert: Against the Uncritical Adoption of 'AI' Technologies in Academia

Over stoere vrouwen gesproken! Onder leiding van Olivia Guest van Radboud hebben we met een groep wetenschappers de open brief van voor de zomer uitgewerkt tot een heel paper. Ik heb deze week geen tijd en ruimte meer om er dieper op in te gaan, dus lees voor een overzicht maar het draadje op BlueSky van Olivia!

Het paper is echt het lezen waard (al zeg ik het zelf) alleen al omdat het hele duidelijke definities bevat voor waar we het precies over hebben. Het tegenovergestelde van de vage handwaving van de UvA over hun AI (zie verderop).

De UvA komt met een eigen AI

Had ik al van allerlei andere leuke dingen bedacht voor deze nieuwsbrief, moest ik toch nog even de hele boel omgooien om commentaar te leveren op de collega's verderop in de stad want... ze komen met hun eigen AI, zo las ik maandagmorgen opeens op LinkedIn. Als universiteit, zo lezen we, moeten we zelf "sturing geven aan de inzet van generatieve AI in het onderwijs". En die sturing is niet het niet invoeren natuurlijk, nee, het moet ingevoerd en dan is het beter als we het zelf in de hand houden, is duidelijk de gedachte. Interessant aan de post, en ook aan de (op zich erg duidelijke) site van de UvA zien we duidelijk de kaders ontstaan van hoe de UvA (en, to be honest, een groot gedeelte van de wetenschap in Nederland buiten de UvA). Wat zijn die argumenten?

Het is veilig

"De UvA AI Chat is speciaal ontwikkeld om gebruikers op een veilige manier te laten experimenteren met de mogelijkheden van GenAI in het onderwijs."

"Alle input blijft binnen de UvA. Er is geen permanente datadeling met commerciële buitenlandse partijen,  en alle gebruikersvragen worden geanonimiseerd verwerkt."

We zien hier dat 'verantwoord' en 'veilig' op een heel nauwe manier worden gedefinieerd: dat is aan de orde als de data het platform niet verlaat. Ten eerste vraag ik me af in hoeverre dit kan worden gegarandeerd, een universiteit is geen softwarebedrijf, dus kunnen ze echt een AI maken die veilig is? Alleen dat woordje 'permanent' daar, dat doet me al kriebelen! Kunnen we daaruit opmaken dat er wel datadeling is (een API call, vermoedelijk) maar dat er afspraken zijn over het later weer verwijderen van de data...?

Het is op maat gemaakt

"Het systeem is af te stemmen op specifieke wensen, bijvoorbeeld ter ondersteuning van het maken van onderwijsmateriaal."

Bedoeld lijkt te worden dat je met de chatbot van de UvA je studenten kan helpen om materiaal te consumeren en te oefenen. Dat correspondeert met wat we in een andere LinkedIn post van een UvA medewerker lezen:

"Built for learning: It includes educational features such as creating personas (custom chatbots) for students, study mode, and tools for collaborative projects."

Dan rijst bij mij natuurlijk meteen de vraag over veiligheid. Een chatbot met verschillende persoonlijkheden, hoe gaat die ermee om als studenten persoonlijke vragen stellen, over stress, liefde? De stap van "Het lukt echt niet meer met mijn scriptie, kan je helpen?" naar andere mentale problemen is zo groot niet en voor je het weet chat een student met de UvA AI over self harm en wat dan? Het is nog niet zo duidelijk wat de verantwoordelijkheid van AI bedrijven is als gebruikers zeggen dat ze zichzelf wat aan willen doen, hoe zit dat voor een universiteit? (Let op deze link is heftig!)

Het is soeverein!

We gaan nog even verder, want gelukkig is de AI van de UvA ook soeverein. Althans... met garantie tot aan de deur.

"Hoewel we geen regie hebben op hoe het onderliggende taalmodel is getraind, hebben we wel controle over belangrijke onderdelen zoals filtering, toegestane vragen en de systeemprompt."

Onvermijdelijk worden studenten dus aan de bias blootgesteld die altijd in de modellen zit. Een filter kan daar misschien iets aan doen, maar een slimme student weet natuurlijk snel hoe dat te omzeilen.

Plus, hoe je het ook wendt of keert, als je een model van een ander gebruikt, dan geef je die ander macht over je. En dan heb ik het niet eens over die bias, het gaat nog dieper. Het betreft financiële macht, maar ook de macht van het narratief: door nu AI in te voeren help je AI bedrijven in hun zeer openlijke plannen om het hele hoger onderwijs over te nemen.

En dan heb ik het nog niet eens over de uitbuiting van mensen en planeet die dit teweeg brengt! Is het soms 'soeverein' om de wereld verder kapot te maken?

Ondersteuning van academische vrijheid

Ik begin me ondertussen af te vragen of ik op de site van de Speld ben, of dat dit misschien een hele vroege 1 april-grap is, zo doldwaas is het. Lees even mee:

"Door zelf de front-end van het AI-systeem te beheren, waarborgt de UvA dat het gebruik van AI niet leidt tot censuur of externe beïnvloeding."

Lolwut? Als de LLM (waarvan de UvA toegeeft dat ze het niet zelf hebben getraind) op de één of andere manier censuur toepast—stel dat je, als je vraagt of licht een deeltje of golf is, altijd golf krijgt—dan kan de front-end die toch niet anti-censuren, en er nog even snel "Ja, of soms ook een deeltje" bij zetten? Het is gewoon niet mogelijk om voor ieder censuurscenario reparatietekst klaar te hebben staan. Plus, ik betoogde het in het voorjaar in NRC: er is niet zoiets als een neutrale blik. Ook de "view from nowhere" komt ergens vandaan.

Dus wat staat hier in vredesnaam?

Onder water?

Resume: Genoeg redenen om radicaal te zijn in onze weigering.

Maar, hoe werkt dit nu? Het is uit de berichtgeving voor mij onduidelijk wat er precies gemaakt of ingekocht is, maar het is dus in ieder geval geen zelfgetraind model. De term 'study mode' komt van openAI, dus dat wijst er misschien op dat er onder water chatGPT gebruikt wordt, met afspraken over kortdurende data-retentie (niet permanent)? Het moet in ieder geval ook voor een gedeelte zelfgemaakt zijn, maar of de front-end waarover gesproken wordt een traditionele grafische user interface is, of een soort "promptschil" kan ik niet beoordelen.

Het is in ieder geval frappant dat ze zelf wat hebben gemaakt, want het veel aangehaalde onderzoek van MIT over falende AI implementaties dat liet zien dat 95% van de bedrijven geen voordeel uit AI haalt, gaf juist aan dat inkopen beter werkt dan zelf maken (lees hier een heel beknopte samenvatting). Heeft een universiteit de kennis in huis om zo'n model betekenisvol aan te passen en het te verpakken in werkende software?

Anyway, ik kan me nu lekker ergeren/verkneukelen over hoe het er op de gemeente universiteit aan toe gaat, ik maak me geen illusies dat de VU niet met iets soortgelijks komt hoor, ik ben niet helemaal van gisteren. Ik werd voor de zomer al gevraagd om mee te doen aan een sessie over het "verantwoord invoeren van AI"...

Leraar zijn is mens zijn

Ik schreef er al kort over op LinkedIn, ik mocht het collegejaar openen voor de studenten in onze lerarenopleiding. We beginnen het jaar met zo'n 200 studenten, en als alles goed gaat zijn dat tegen de zomervakantie 200 leraren! Het lerarentekort blijft groot maar wij slaan er toch weer een deukje in.

Leraar zijn, zei ik, is zo mooi, omdat het zo menselijk is. Je mag de hele dag enthousiasmeren, troosten, en zien groeien. Je doet waar je als mens voor in de wieg gelegd bent, namelijk naar andere mensen kijken en reageren op hun gedrag. Wie mag er nu de hele dag naar mensen kijken? Het is een baan om stikjaloers op te zijn!

Natuurlijk leren we je allemaal technieken om les te geven: manieren voor meer interactie met leerlingen, theorieën om hun (on)begrip beter in kaart te brengen en praktische tips over je vakgebied. Maar in de basis is leraar zijn mens zijn, en dat ben je al!

Maar, leraar zijn is juist zo lastig omdat menszijn zo lastig is! Als mens wil je van alles tegelijk: je wil nog een drankje op het terras, maar ook de volgende ochtend fris en fruitig een rondje hardlopen. Je wil lezen, beter worden in je vak en bijblijven, maar je wil ook chillen, gamen of gewoon niksen.

Zo is het in de klas ook. Je wil dat leerlingen veel leren, maar je wil ze ook niet overvragen en gestrest maken, het is al lastig genoeg om een tiener te zijn. Je wil streng zijn en orde houden, maar je wil ook een goede veilige sfeer in de klas.

Maar het mooie is ook weer dat er zijn zoveel manieren om mens te zijn, dus ook zoveel manieren om leraar te zijn. Dit is vaak lastig voor studenten, zeker voor beta's, maar er is niet één goed antwoord op de vraag hoe je dingen moet aanpakken.

Ik gaf in mijn openingsspeech het voorbeeld van een leerling, laten we 'm Pietje noemen, die steeds door je les praat. Op een bepaald moment zeg je: "Pietje, als je er nu nog een keer doorheen praat, ga je uit de klas met een gele kaart". Vervolgens begin je je les, en vertel je enthousiast iets over de inhoud. En wat doet Pietje? Hij praat weer ongevraagd door je les... Maar wel met een inhoudelijke opmerking: "Mevrouw, ik heb daar een documentaire over gezien met mijn moeder" en hij wil verder gaan vertellen wat er allemaal gebeurde in die documentaire. Wat nu?

Je kan Pietje eruit zetten, niks mis mee! Je doet dan wat je hebt beloofd en soms is dat nodig om goed orde te houden. Als wij in de klas komen observeren en dat gebeurt, zouden we het prima handelen vinden.

Maar ja, is een stille klas het belangrijkste? Een leerling die enthousiasme voor je vak toont, dat wil je óók. Dus je kan er ook voor kiezen om Pietje de beurt te geven, en te laten vertellen over de documentaire. Waar zag je dat? Wat gebeurde er? Misschien mag Pietje eerst even zijn ei kwijt, en betrek je dan de rest van de klas, wie kijkt er ook wel eens een documentaire? Wat is een documentaire eigenlijk en waar zie je die? Dat is, zeker vanuit didactisch oogpunt ook een prima manier van doen!

En dan kan je Pietje ook nog vanuit een pedagogische blik het woord laten nemen. Hij moet blijkbaar echt even zijn energie kwijt, laat m even vertellen, benoem en bouw krediet op. "Pietje, ik zie dat je het echt lastig vindt om niet door mijn verhaal te praten, en ik zie jouw enthousiasme, wat heerlijk!"

Geen van deze handelingen zijn 100% goed of 100% fout, ze hebben allemaal hun voor- en nadelen. De ene past bij de ene docent, en de andere bij de andere docent. En ze hangen ook nog eens af van de klas, en soms de tijd van de dag, wat ze het uur ervoor hebben gehad of hoe het weer is.

Het is verleidelijk om te zoeken naar onomstotelijk bewijs voor wat in de klas 'werkt'—ik was daar toen ik net voor de klas stond ook veel mee bezig—maar helaas (of: hoera?) zo werkt het niet. Natuurlijk zijn er technieken die vaak werken, bijvoorbeeld leerlingen laten zien hoe ze een probleem oplossen (scaffolding), maar zelfs dat is een kwestie van je aanpassen aan de situatie. Hoe laat je het zien, op een whiteboard of slides? Kies je een echt voorbeeld, of juist een simpele weergave van de werkelijkheid? Hoe krijg je de klas goed stil zodat ze je stapjes kunnen volgen?

Iets dat erg goed werkt, en weinig aandacht krijgt, is juist die menselijke kant, zo schreef Pedro DeBruykere afgelopen week: de relatie tussen leerling en leerkracht:

"de relatie tussen leraar en leerling hangt niet alleen samen met prestaties op school, maar ook met motivatie, executieve functies en zelfcontrole, emoties, gedrag in de klas, welbevinden en betrokkenheid bij school. Niet onlogisch; ook probleemgedrag neemt af wanneer die relatie goed zit. Alleen het verband met pesten bleek zwak en niet overtuigend."

En juist daarom is het ook zo frustrerend dat die menselijke kant, het feit dat wij als leraren ook mensen zijn, zo weinig aandacht krijgt, en we zo vaak allemaal in een keurslijf gedrukt worden.

Bij de een past streng zijn, bij de ander niet. En als er nou één reden is dat mensen het onderwijs verlaten, dat is dus niet salaris! Het is een gebrek aan autonomie! En dat staat haaks op wat het betekent om mens te zijn.

Trippel, trippel, trap... het Trojaanse paard

Tsja, is je nieuwsbrief al 4900 woorden en dan komt vriend Remco Pijpers nog even met een scherpe opinie in de Volkskrant over de nieuwe kerndoelen Digitale Geletterdheid (waar ik zelf ook aan meeschreef).

Pijpers merkt heel terecht op dat het onderdeel "De leerling verkent AI" best problematisch is. Pijpers schrijft dat niet zo expliciet op, maar mijn eerste bezwaar is al dat het onderwijs in Nederland zo geregeld is dat scholen alleen met kerndoelen mag worden voorgeschreven wat leerlingen moeten leren, en niet hoe. Bijvoorbeeld: in de kerndoelen van SLO voor rekenen staat:

"De leerlingen leren praktische en formele reken-wiskundige problemen op te lossen en redeneringen helder weer te geven."

Het is aan een school en hun overtuiging om leerlingen te laten oefenen of ontdekken. Legt een docent stap voor stap uit hoe een goede redenering eruit ziet, of mogen alle leerlingen à volonté redeneringen verzinnen en worden die later verbeterd? Een formulering als "de leerling verkent AI" heeft al bijna een didactiek in zich: namelijk de leerling probeert het zelf. Wat bedoeld is als een vrijblijvende, lichte kennismaking—'een leerling snapt AI' is misschien hoog gegrepen voor de basisschool—wordt zo toch een lessuggestie.

Pijpers' bezwaar is niet zozeer didactisch van aard, maar praktisch. Als we van leerlingen eisen dat ze AI verkennen, welke AI is dat dan...? Dan zit je zo op Google's Gemini dat scholen nu gratis krijgen bij al bestaande Google workspaces.

En er zijn talloze redenen om dat niet te willen, afhankelijkheid van AI is problematisch, afhankelijkheid van Google ook. Niet voor niets raadt de VN nu aan om leerlingen van onder de 13 geen AI te laten gebruiken, tot hun basisvaardigheden goed op peil zijn.

We moeten leerlingen, zegt Pijpers, niet leren om AI te gebruiken, maar om zich ertoe te verhouden:

"Help leerlingen het vermogen te ontwikkelen om bewust en betekenisvol om te gaan met de digitale invloeden die ze vormen. Niet de technologie moet centraal staan, maar hoe we ons er als individu en als gemeenschap toe verhouden."

De lezersvraag: wat vind je van Ghost?

Ik heb nog een paar hele leuke lezersvragen in de pijplijn, dus zie je jouwe nog niet beantwoord, nog even geduld. Deze week pik ik een hele praktische mee, over het platform waarmee ik deze nieuwsbrieven verstuur: Ghost.

"Ben jij tevreden over Ghost?"

Uiterst tevreden! Ik kwam op Ghost omdat een goede vriend van mij er werkt, en hij mij Ghost tipte toen ik toevallig net met mijn nieuwsbrief begonnen was. Ik heb zo'n 10 jaar een blog op Wordpress gebruikt (www.felienne.com), en op zich was dat prima, maar het begon wat ouderwets aan te voelen en steeds langzamer te werken. Plus, ze waren laat met inzien dat nieuwsbrieven de toekomst van content zijn, dus mailen via Wordpress is omslachtig. Dus het kwam gewoon op een perfect moment.

Verder is Ghost open source, wat cool is [[1]] , maar Ghost is vooral als organisatie tof. Ze begonnen ooit als Kickstarter, één van de weinige die echt succesvol werd denk ik. Ze zijn nu een nonprofit met zo'n 30 medewerkers, blijven klein en nemen geen venture capital aan. Gewoon een goed product maken met een compact team en geen gek gedoe. Geen product managers die overal AI instoppen, en werkt er iets niet, dan kan je ze gewoon mailen.

Het is vrij prijzig (ik betaal nu zo'n 500 euro per jaar), maar het is een goed product en ik word blij van de simpele interface.

"En vooral: weet jij of mogelijk (en makkelijk) is om reeds geposte blogs naar daar door te plaatsen als nieuwsbrief? Of is dat not done, SEO-technisch gesproken?"

Een geïmporteerde post kan je niet met een druk op de knop als nieuwsbrief versturen, al kan je natuurlijk wel de content kopiëren en opnieuw versturen, maar ik zou dat niet zomaar doen. De ongeschreven regel van een nieuwsbrief is toch wel dat het nieuwswaarde heeft. Als je je oude content wilt herbruiken, schrijf dan een nieuwe, overkoepelende post waarin je naar wat oude posts linkt. Zo blijf je ook je oude content nog onder de aandacht brengen.

Inspraak, sminspraak

Heel heel vroeger, voor 1997, waren studenten en hoogleraren de baas van de universiteit en namen ze, door middel van de universiteitsraad waar leden in werden gestemd, de besluiten. Je kan het je nu toch haast niet meer voorstellen!

Alhoewel de toen zittende hoogleraren zich de wet niet zo makkelijk lieten voorschrijven door... de wet, lezen we in U Today uit de vroege jaren. Een proefschrift uit die tijd schreef over de effecten van de zogeheten MUB wet die een einde maakte aan de inspraak:

"Er wordt aan de poten van de leerstoel gezaagd, maar de hooggeleerden zitten nog goed."

Uit het U Today stuk leerde ik ook nog dat Job Cohen een van de architecten en voorvechters van de wet was! Het herinnert je er maar weer eens aan hoe rechts links was in die tijd, of als ik het iets vriendelijker zou willen schetsen, hoe iedereen in de mainstream geïnfecteerd was door het virus van New Public Management: het runnen van publieke organisaties als bedrijven. Universiteitsraden waren maar log en niet flexibel lezen we in een Delta uit 1997.

Ok, even terug naar de universiteiten anno nu. We leven in een wereld waarin op universiteiten allerhande mensen rondlopen, die, of we het nu eens zijn met wat ze zeggen of niet, geen enkele macht hebben om verandering teweeg te brengen. Soms zijn dit hoogleraren, en misschien is dat okee, het is ook hun baan niet om iets te veranderen (al kan je je afvragen of het niet je morele plicht is als hoogleraar om verandering teweeg te willen brengen op basis van je onderzoek, zoals kersverse hoogleraar Meulenbroeks zich deze week afvroeg in UDub maar dat is een ander verhaal).

Maar het sprankelendste voorbeeld van machteloosheid zijn diversity officers. Hun baan is om de universiteit te veranderen, maar hoe... Joost mag het weten. Eerder dit jaar schreef ik al uitgebreid over het in mijn ogen totaal mislukte diversiteitsbeleid van de universiteiten (Geestig, in maart vond ik een stukje van 1500 woorden nog "te lang voor de nieuwsbrief". Life comes at you fast).

Maar goed, dat tandeloze mislukken heeft nu juist met inspraak en tempo te maken. Meer vrouwelijke collega's op de universiteit—of welke verandering dan ook—is taai in een organisatie met 20.000 studenten en 5000 collega's. Dat kan niet anders dan langzaam gaan. Wil je draagvlak, dan moet je toch een groepje van die mensen mee krijgen, op één of andere manier. Maar helaas, draagvlak hebben we in 1997 afgeschaft, en het CvB doet nu gewoon wat ze wil.

En dan kan je dus diversity officer zijn én hoogleraar diversiteit, en in samenspraak met andere diversity officers in Nederland optrekken om lief bij het CvB te vragen of ze misschien, aub, als het ze uitkomt, dan als ze geen echt standpunt in willen nemen over Gaza, en ook niet willen stoppen met bestaande samenwerkingen met Israel, dat ze dan misschien wel zouden kunnen beloven om op z'n minst niet meer te starten met nieuwe samenwerkingen met Israel, en dan te horen te krijgen dat dat jouw rol niet is.

Kijk ik snap het, het is de wet, het is hoe het werkt en het CvB is de baas. Die bepalen in formele zin als enige wat de universiteit vindt. Kan je vervelend vinden, maar je kan er niets aan doen behalve stemmen op een partij die die wet wil veranderen en ik denk dat dat nu nergens op de agenda staat. Eerst maar eens zorgen dat de hele wetenschap er over een paar jaar nog is, zoals collegevoorzitter Vinod Subramaniam zei bij de opening van het academisch jaar in Twente: "Wat jaren kost om op te bouwen, kan in een oogwenk worden afgebroken." Het einde van MUB, daar hoeven we dus niet op te rekenen.

Maar waarom, o waarom doen we dan nog mee aan het theaterstukje waarin we allemaal spelen dat er inspraak is? Wil je iets doen als hoogleraar? Staak, demonstreer, of schrijf een brief naar de krant, de enige macht die je hebt is het kleine stukje aanzien dat je vooralsnog van de samenleving nog krijgt op basis van je titel, maar die stoelpoten zijn allang opgezaagd en in de MUB-haard gegooid.

Dat is in deze AI hype maar weer eens pijnlijk duidelijk, bijvoorbeeld voor een van de mede-auteurs van het Guest et al. paper, die bij de UvA werkt!

AI maakt werk niet zozeer overbodig, maar slechter

Wat een stuk van Brian Merchant, auteur van het boek Blood in the machine in zijn gelijknamige nieuwsbrief, over hoe AI het werk van vertalers vernield heeft. Helemaal het lezen waard, maar voor mensen die zelf al met AI uitvoer te maken krijgen, geen verrassing.

"AI didn't kill translation, it didn't kill my job, it killed everyone's capacity to care about anything but the bottom line."

Met een serie interviews licht Merchant toe hoe het werk van vertalers mooi en betekenisvol was, en prima betaalde, en hoe het nu totaal veranderd is in het controleren van AI-slop. Duurt minstens zo lang, is veel geestdodender, en betaalt geen druppel. En dat komt niet eens omdat LLMs zo goed, zijn:

"Machine translation hasn't even improved. There was no big OpenAI moment."

De illusie alleen al geeft werkgevers ammunitie om de duimschroeven aan te draaien want "dit kan AI ook". Ook voor programmeren geldt, vertelde ik in een lang stuk in Volkskrant vorige week:

"De hoogleraar [dat ben ik dus, haha] ziet de eerste effecten van de enthousiaste inzet van moderne codingtools nu al: ‘Ik hoor van vrienden in de techsector dat het werk minder leuk is geworden. AI kan in korte tijd enorme hoeveelheden code genereren. Die moeten zij allemaal handmatig controleren.’"

Wat is het nut van vibe coden als je daarna alsnog een programmeur moet betalen? vroeg ook deze Reddit-poster zich af.

Programmeur Thom Holwerda, die voor zijn baan als programmeur als vertaler werkte, maakt die parallel ook heel expliciet in zijn heerlijke stukje "Vibe-coding your profession into irrelevance". Op een dag, schrijft hij, ben je opeens geen programmeur meer:

"You’re no longer a programmer. [...] Scrolling past shitty autogenerated code day in, day out, without the time or pay to wrangle it into something to be proud of, is the end of the line for you. Speak up about it, and you’ll be replaced by someone cheaper." [nadruk van mij]

Dat trots zijn, daar gaat het voor mij echt over, en dat kan gewoon niet met AI gegenereerd werk (zeker niet als junior).

Goed nieuws

Heerlijk stuk op de Correspondent over het positieve effect van ondertiteling: het is alsof we allemaal urenlang extra bijles Engels gehad hebben in Nederland. We zijn collectief bijna anderhalve standaarddeviatie beter in Engels dan landen waar wordt nagesynchroniseerd! Het onderzoek is gedegen, alternatieve hypotheses (het onderwijs is in het algemeen beter, de lessen Engels zijn beter, etc. worden duidelijk verworpen)

Het grappige is, dit was geen heel bewuste keuze, maar een gevolg van te lang twijfelen. Tegen de tijd dat we gingen experimenteren met nasynchroniseren waren filmkijkers al aan de Engelse klanken gewend, en bovendien was het erg duur. Dus soms loont een beetje afwachten dus best. Wel jammer dat AI al die ondertitelingen onleesbaar gaat maken.

Weg met Magister? Ik ben niet de enige die dat vindt! Lekker stukkie van Siri Beerends met epische titel (klik zelf even!).

Amnesty mengt zich ook in het Big Tech debat en roept overheden op kritischer te zijn en beter na te denken over digitale mensenrechten.

Ow en misschien de belangrijkste...! Nee, LLMs denken niet zoals mensen, sla dit paper er maar op na. Als je tekst uit een bestaande dataset haalt en een klein beetje aanpast, dan werkt een LLM niet meer goed. Zoals bij variaties op het bekende voorbeeld van de chirurg-moeder. Het paper concludeert dus (in tegenstelling tot wat andere papers wel beweren) dat je LLMs niet kan gebruiken in plaats van echte menselijke deelnemers aan een psychologie-experiment, juist omdat je nieuwe vraagstukken gaat voorleggen.

Slecht nieuws

Let op als je chatGPT aan je Google account koppelt, je lekt zo data!

Ben je een vrouw en vraag je onderhandelhulp aan AI? Dan krijg je tot wel 120.000 dollar minder aangeraden als salaris. "Mooi" voorbeeld weer van hoe bias die in de echte wereld bestaat terugkomt in modellen. En leuk weetje... vrouwen onderhandelen helemaal niet minder vaak dan mannen en verdienen daarom minder! Ze onderhandelen net zo vaak, maar krijgen minder vaak wat ze willen, en ondervinden vaker een sociale penalty voor onderhandelen (bijv een teruggetrokken aanbod of reputatieschade).

En, ai ai ai: we gaan er allemaal aan volgens the Guardian:

"We can’t put a date on Doomsday, but by looking at the 5,000 years of [civilisation], we can understand the trajectories we face today – and self-termination is most likely"

Aan het woord hier is Luke Kemp, wetenschapper in Cambridge, die voor zijn boek Goliath's Curse verval in samenlevingen door de eeuwen heen onderzocht en tot de droevige conclusie komt dat er niet best voor ons uitziet.

En optimisten beweren misschien anders, maar AI kost echt enorm veel drinkwater, echt superveel! En nog erger, Trump's nieuwe plannen geven daar (voorspelbaar) niets om.

Geniet van je boterham!

[[1]]: Maar dat is Wordpress ook, ook al was er intern vorig jaar veel gedoe over hoe dat precies moet werken.