AI in week 27

Zo dit is de allerlaatste gewone nieuwsbrief van het schooljaar!

Misschien heb je het al gezien op de socials, Hanna Schrafenberger en ik zijn een podcast begonnen!! Ben je informaticus, en wil je je informatie-dieet verrijken met filosofie, theater en antropologie? Luister dan mee en laat je verrassen wat er allemaal nog meer te weten is in de wereld, steeds met duidelijke links naar informatica-toepassingen.

En afgelopen dinsdag was ik op een event rondom het boek De Techbros van George van Hal en Laurens Verhagen, en... ik mag er drie weggeven! Wil jij ook smullen van het maffe (ok, en ook heel enge) wereldbeeld van de machtigste mannen op aarde? Stuur me een mailtje en je maakt kans. Je mag er wat bij schrijven, maar dat hoeft niet, gewoon jouw leuke variatie op "ik wil een boek" is genoeg, want ik heb toch geen tijd om veel mails te lezen in de vakantie haha!

En voor wie nu denkt, ohnee, daar is die lange nieuwsbrief van Felienne, het is al zo warm, ik kan niet meer....! Dan heb ik goed nieuws, want de komende weken krijg je 's zondags alleen een minuscule special met een paar zomerleestips rondom een specifiek onderwerp.

Heb je nog een onderwerp in gedachte waar je mijn tips voor wil? Kom maar door met een reply of een reactie en ik kijk wat ik voor je kan doen!

Schiet eens op met de regels

Begrijpelijke oproep van onderzoeker Laurens Hessels in ScienceGuide: Maak eens haast met die regels voor AI gebruik, universiteiten! We kunnen die verantwoordelijkheid niet bij de individuele wetenschappers laten liggen??

Begrijpelijk op het eerste gezicht, maar tegelijkertijd ook gek. We hebben toch ook geen algemene regels of richtlijnen voor welke boeken of andere software je mag gebruiken bij je onderzoek? Nog nooit heb ik een oproep gehoord om zulke dingen te stroomlijnen (sterker nog, het proberen zou denk ik onmiddellijk op verzet stuitten, en terecht). Zelfs voor algemeen geaccepteerde regels als zelf-plagiaat zijn geen precieze regels, maar leer je van je promotor wat in jouw vakgebied wel en niet kan en mag, en verschilt het nog van journal tot journal. Waarom zouden we dan nu voor AI (of ja voor taalmodellen) opeens wel een centraal besluit moeten nemen over "verantwoord" gebruik?

Natuurlijk, schrijven de auteurs heel terecht, is de verleiding misschien voor jonge onderzoekers heel groot, want

Voor jonge wetenschappers kan die ene extra publicatie in een prestigieus tijdschrift of die extra subsidie van NWO het verschil maken tussen een vaste baan of een tijdelijk contract.

Ja, waar! Maar moeten we dat dan niet eens onder de loep nemen? Maak eens haast, denk ik dan, met richtlijnen waarin staat dat een extra subsidie of paper (processen waarover we allemaal achter gesloten deuren zeggen dat het loterijen zijn) je meer kans geeft op een baan!

En wie nu zegt: ja maar Felienne, we willen toch alleen de allerbeste mensen aannemen?? Zo'n competitieve omgeving is goed voor de wetenschap, het haalt het beste uit mensen naar boven!

Neen. Recent onderzoek laat zien dat in een masculine hyper-competitieve cultuur, prestaties juist achterblijven.

[W]e provide systematic quantitative evidence that masculinity contest cultures fail to deliver performance benefits despite imposing measurable well-being costs.

Volgens mij zijn de algemene (veelal ongeschreven) regels van de wetenschap in theorie prima in staat om AI gebruik te vangen: ben zorgvuldig, vervals geen data, lees werk waarop je voortbouwt in details, niet HARKen en p-hacken etc etc. Jammer alleen dat ook die regels met voeten getreden worden [[1]]. Heeft het dan zin om er nog een velletje "gij zult verantwoord AI-en" naast te leggen dat, vanwege de incentive structures that be, genegeerd gaat worden?

[[1]]: Zie ook mijn zomerspecial over fraude in de wetenschap

Hoe heb je daar tijd voor?

Het is denk ik de vraag die ik het allerallervaakste krijg: hoe heb jij tijd voor alles wat je doet? Hoe heb ik tijd voor mijn nieuwsbrief, voor mijn boek, voor de nieuwe podcast etc.

Het is heel interessant, hoe die vraag gesteld wordt. Laten we eens beginnen met mijn nieuwsbrief, dat wordt in het algemeen gezien als een soort extraatje, hoe kan ik daar nou ook nog tijd voor hebben. Maar... het is mijn werk. In het functieprofiel voor hoogleraar staan 14 taken, en eentje daarvan is "Uitdragen van wetenschappelijke kennis en inzichten":

Wetenschappelijke kennis die inzichtelijk, begrijpelijk en toepasbaar is voor een breed publiek, alsmede bijdrage aan de maatschappelijke functie en positie van de instelling

Nou, lijkt me dat mijn nieuwsbrief dat bij uitstek doet, het maakt wetenschappelijke kennis, die van mij soms maar vaker die van andere mensen, begrijpelijk en toepasbaar.

Maar, ondanks dat er in de 14 taken geen ordening zit, is het impliciet natuurlijk wel zo dat onderzoek serieuzer en belangrijker geacht worden dan het uitdragen van kennis (ook wel: outreach of valorisatie genoemd). Meer papers is altijd beter voor je carrière. Ik kan me werkelijk geen enkele keer herinneren dat iemand mij gevraagd heeft hoe ik tijd "over" heb om papers te schrijven [[2]] of om college te geven. Zo worden sommige kerntaken dus naar de marges gedrukt, en "hoe heb je daar tijd voor" draagt bij aan dat probleem.

[[2]]: Nu heb ik ook maar twee papers geschreven dit jaar, dus misschien ben ik daar gewoon niet productief genoeg voor, haha! (plus natuurlijk een nep AI paper!)

Events

Er komen na de vakantie weer leuke events aan, schrijf ze alvast op!

• Zondag 23 augustus op Lowlands
• Vrijdag 4 september op het SpaceRock Festival
• Donderdag 24 september bij de boekpresentatie van Ilyaz Nazrullah's boek Dit is AI
• Donderdag 10 december bij de Feministische boekenclub over mijn eigen boek Vierkante Ogen (vergeet 'm niet te pre-orderen...!)

Goed nieuws

Talloze Amerikanen die ontslagen werden na social media posts over de dood van Charlie Kirk, vaak relatief onschuldige, krijgen nu en masse schadevergoedingen omdat ze niet ontslagen hadden morgen worden. Dat is een rechtsstaat in actie, geniet er maar van zo lang het duurt.

Noorwegen komt met heldere richtlijnen voor AI in het onderwijs, namelijk een verbod op de basisschool. Kijk, dat is helder. Maar dat soort duidelijkheid is nu zelden waar mensen om vragen, ze willen altijd richtlijnen voor verantwoord gebruik, omdat ze het nu eenmaal zelf graag gebruiken. Ze zijn, schreef ik eerder dit jaar, als wijndrinkers die hopen nog ergens een snippertje bewijs te vinden dat een glas goed voor je is. Die werden trouwens heerlijk op de hak genomen door "Sjamadriaan" ter Braack in Trouw.

Man genezen van sikkelcelziekte door gentherapie. Wat is de wetenschap toch mooi!

Slecht nieuws

Nakijken met AI, wat is het toch een belofte en het helpt docenten echt, het is volgens hen "de bom" rapporteert Volkskrant. Zo fijn als je zelf niet meer hoeft te controleren of leerlingen hun huiswerk maken want "de docent kan zien hoe lang een leerling bezig is geweest." OMG. Ja, dan houd je meer tijd over voor de inhoud! Kanonnen wat een armoede, of een leerling zijn huiswerk gemaakt heeft, en waarom wel of niet is de inhoud. Ik wil een leerling ook leren om verantwoordelijkheid te nemen, om te zeggen: juf, ik heb het niet gedaan want... En ik wil horen of ze het saai vonden, of te veel, of dat ze nog drie andere deadlines hadden deze week. Dat is het werk, krentenbol.

Zoals we konden lezen in een kort maar krachtig stuk van een professor van Penn University, dit soort inzet van AI vernietigt wat het betekent om onderwijs te geven:

The irony is that as Penn pours endless money and energy into AI advancement in its attempt to get ahead, the University is only quickening its own demise. AI cannot coexist with education — it can only degrade it. 

Maar even terug naar onze Nederlandse context. Wat doet dat het met leerlingen als ze voortdurend bespioneerd worden? Ach ja, dat had geen prioriteit...

Het monitoren van leerlingen die huiswerk maken – Van Zutphen kan ook zien wanneer een leerling een ander tabblad aanklikt of een antwoord erin plakt in plaats van typt – roept weer nieuwe ethische vragen op. Want hoe is het voor leerlingen als ze weten dat elk van hun handelingen gemeten wordt? Dat moet nog worden onderzocht.

Misschien staan deze docenten er niet bij stil, maar leerlingen (en ouders) lezen ook kranten. Als je het stuk plat slaat, staat hier toch gewoon: wij willen ons eigen werk niet doen, we vinden communiceren met pubers best wel lastig en zetten er dus liever software tussen, en wat dat met leerlingen doet zal ons worst wezen?

En wat te denken van het effect op docenten zelf, dat is hier natuurlijk ook niet verder in kaart gebracht dan het gaat lekker snel, jonguh! Terwijl er natuurlijk meer onder de zon is dan sneller, nieuw onderzoek van GeorgeTown laat zien dat AI gebruik "improved productivity but degraded control, responsibility, and creativity". Echt een superinteressant paper, zeker omdat er (oa) onderzoek werd onder leraren gedaan, maar ging, eerlijk is eerlijk, over lesplannen maken en niet over nakijken, maar ook daarvoor weten we echt niet wat het effect is. Sneller kan best betekenen minder diep, minder bevredigend, of minder eerlijk.

Zelf misschien maar een school beginnen dan? Dat is makkelijker geworden door nieuwe wetgeving waardoor scholen niet meer bij een bestaande stroming hoeven te horen. En dat zorgt er weer voor dat Forum voor Democratie z'n basisschool mag heropenen. Zo lastig dit, want aan de een kant ondersteun ik van harte het recht om een school te starten, een schermvrije bijvoorbeeld, aan de andere kant wil je ook niet dat mensen (nog meer) in een smalle zuil alleen aan hun eigen gedachtegoed blootgesteld worden, en waar meisjes en jongens apart les krijgen "omdat we de biologische verschillen tussen de seksen erkennen".

En hadden we fijn juridisch nieuws uit de VS bij Goed Nieuws, het tegenovergestelde is er helaas ook. Bijvoorbeeld zeven vreedzame demonstranten die straffen tussen de 30 en 70 jaar kregen!!! Eén van hen was niet eens bij het protest (maar zijn vrouw wel) en heeft 30 jaar straf gekregen voor het verwijderen van links "bewijsmateriaal" uit hun huis. Dit is het gevolg van nieuwe regels voor het strenger straffen van "antifa" activisten, die nu als terroristen gelden.

En dan dit uiterst uiterst droevige grafiekje:

Die dip is natuurlijk niet alleen AI. De disagree-lijn ging ook voor 2018 al omlaag, en er zat Corona tussen '18 en nu, toenemende kosten voor de universiteit, toenemende polarisatie en desinformatie etc etc, maar natuurlijk heeft AI er ook mee van doen, dat kan niet anders. Waarom zou je nog naar de universiteit gaan als je daar alleen les krijgt van/met AI?

StackOverflow, ooit de plek om vragen te stellen over programmeren, sterft een langzame dood. Nu kan je zeggen, ja dat is de vooruitgang, jammer maar helaas. Maar het is ook een verlies van community, en van mensen die het leuk vonden om gratis en voor niks anderen te helpen—niet altijd even geduldig, maar ok—en die daar betekenis uithaalden. Ook dat is weg. Bovendien kan je je afvragen wat voor alternatief AI is. StackOverflow was gratis (behalve advertenties) en dus ergens democratiserend, maar AI wordt steeds duurder. De kans is zomaar aanwezig dat je straks per query gaat betalen of een heel duur abonnement moet afsluiten. De tokenpocalypse, noemt 404 media dat.

Vind ik toch wel één van leukere aspecten van de AI hype; dat iedereen probeert om termen te verzinnen om een beetje te begrijpen wat er gebeurt.

In de tokenpocalypse moeten we per token gaan betalen en wordt AI dus steeds duurder. Dus als we pech hebben is StackOverflow straks een ghost town en/of failliet, maar AI is onbetaalbaar. Dat is nou niet bepaald winst. Ook Ilyaz Nasrullah waarschuwde in Trouw voor dit fenomeen, en schreef dat advocatenkantoren al stukken minder enthousiast zijn over het vervangen van medewerkers door AI als steeds maar duurder wordt. En dat moet dus wel, want AI bedrijven geven 1000 dollar uit voor iedere 100 die ze krijgen. Dat kan niet lang meer goed gaan...

Een Congolese fan die als eerbetoon aan Patrice Lumumba bij iedere wedstrijd als een standbeeld van hem ging staan, krijgt geen visum voor toekomstige WK-wedstrijden. Ik ken Lumumba pas sinds het boek The Brothers, anders was dit nieuws me misschien niet eens opgevallen! Patrice Lumumba was de eerste gekozen leider van Congo, die Amerikanen wilden afzetten omdat hij naar verluidt met de Sovjets wilde samenwerken, hetgeen later helemaal niet zo bleek te zijn. Uiteindelijk werd hij door de Belgen (die net beloofd hadden te vertrekken uit Congo) doodgeschoten, in stukken gehakt en a la Walter White opgelost in loog, nadat hij weken vastgezeten had in zijn huis, omringd door aan hem loyale soldaten, die weer omringd werden door soldaten van de tegenpartij, terwijl even verderop Louis Armstrong een, door de Amerikaanse overheid gesponsord, optreden gaf. Insane, toch? Ik had dit best bij geschiedenis willen leren, of minstens in een Hollywoodfilm tot me willen nemen, en niet in een boek. Ook het verhaal over de nep-porno van Soekarno had ik uit dat boek. Ik weet dat ik 'm al eerder getipt heb, maar als je nog wat zoekt voor in je koffer, overweeg The Brothers!

Rest mij alleen nog een kleine dank voor het lezen van deze en alle andere nieuwsbrieven, dank voor de leuke mails, keep 'm coming! En dank voor alle enthousiaste comments hier en in de meatspace. Niks leukers dan mensen treffen die me "geniet van je boterham" toeroepen en zich zo onthullen als trouwe lezers!

Dus: Geniet van die boterham, hap er extralangzaam in en geniet er nog meer van, zo simpel kan het leven zijn, en tot na de zomer!!