AI in week 34

Gelukkig nieuw schooljaar!

Daar zijn we weer met de gewone nieuwsbrief, als vanouds, maar ook met een paar nieuwe plannen. Zo ga ik vanaf nu iedere week beginnen met een handige Weg van Big Tech-tip.

Ook ga ik, hand op mijn hart, mijn nieuwsbrief kort houden! Misschien moeten jullie een goed doel verzinnen waaraan ik bij nieuwbrieven boven de 2000 woorden een eurootje per woord moet doneren?

Podcast: Computer Science, Off Course!

Voor wie in de zomer lekker aan het zomeren was, en al mijn nieuwsbrieven heeft overgeslagen... Ik ben een podcast begonnen samen met Hanna Schrafenberger van Radboud. De podcast is in het Engels, en het idee is om samen papers en boeken te lezen die normaal gesproken niet in een informatica-curriculum zitten (vandaag dat we schrijven "off course") maar er eigenlijk wel in zouden horen (vandaar dat het klinkt als "of course").

Iedere dinsdag komt er een nieuwe aflevering online, we hebben er tot nu toe 7 gemaakt, over bekend informatica-werk, zoals het originele Turing Test paper en Programming as theory building. Maar ook maffere dingen zoals een aflevering over de overeenkomsten tussen computers en theater, over een zeer herkenbare worsteling; die met een office printer, en ook over AI-denkers zoals Joseph Weizenbaum, Hubert Dreyfus en Sherry Turkle.

Dus luister mee, wherever you get your podcasts. En was je al een trouwe fan? Dan kan je je ook melden op onze gloednieuwe Discord!

Wel de voordelen, niet de nadelen?

Hoe moet dat nou toch met AI in de wetenschap? Zelfs Robbert Dijkgraaf maakt zich zorgen over de kwaliteit van onderzoekspresentaties, schreef hij van de zomer in NRC. Hij ging naar een conferentie over integriteit nog wel, en zag daar (ironisch hoor):

 Juist de bijeenkomst die de integriteit van de wetenschap moest bewaken, werd ondergesneeuwd door machinaal geproduceerde onzin.

Hé maar wacht eens, is dat nu diezelfde Dijkgraaf die altijd zo enthousiast is over de kansen van AI? Hoe kan dat?

Maar het ligt niet alleen aan Dijkgraaf, want deze spanning zie je overal: AI leidt tot steeds meer problemen, en mensen merken die ook op (zelfs uberfanboys zoals Ethan Mollick bijvoorbeeld) maar blijven toch steeds hoopvol. Dijkgraaf eindigt zijn column met:

AI is op de korte termijn het probleem, en waarschijnlijk ook de oplossing.

Niet alleen in wetenschappelijk onderzoek, ook in het onderwijs duikt deze spanning op. Universiteiten promoten AI-gebruik. De VU bijvoorbeeld schreef zonder ironie in hetzelfde bericht:

Since February 2024, Microsoft Copilot is available to VU students and staff. To use this chatbot securely, log in with your VU credentials. 

en

The short answer to this question is that, as a student, you are not allowed to use generative AI unless the lecturer or examiner of your course indicates if and how this is allowed.

Het is als bier-reclames bij een sportwedstrijd. Hmmm, lekker neem een biertje na afloop, oh, wacht let op het is niet gezond hoor!

Logisch dat dat ook echte problemen geeft. Ik mocht afgelopen maandag eens een Ongevraagd Advies op BNR geven en daar had ik het over een zaak aan de RUG waar een student zijn bronnenlijst met AI herschreven had. Fraude, vond de universiteit (want ze hadden gezegd dat het niet mocht). De student ging in beroep tot en met de Hoge Raad, en die zeiden: fouten maken is nog geen fraude, en nu moet de scriptie alsnog beoordeeld worden.

En alhoewel ik er geen fan van ben dat studenten en docenten onenigheid in de rechtbank uitvechten, vind ik de student in dit geval eigenlijk ergens wel redelijk. De communicatie van universiteiten is gewoon te dubbel, een student zou toch, met alles wat er te horen is over de belofte van AI, van professoren die fan zijn, universiteiten die het omarmen, kúnnen denken dat een beetje herschrijven met AI wel moet kunnen, als je het denkwerk niet uitbesteedt (en dat lijkt in het geval van de Groningse student echt zo te zijn, hij kon een pre-AI versie aanleveren waarin de fouten niet stonden, en de hallucinaties zaten allen in de bronnenlijst en niet in de lopende tekst).

Universiteiten, wetenschappers en andere fans: you can't eat your cake and have it too. Maak je je zorgen over de slop die uit AI komt waardoor we straks niet meer weten wat een goed paper is? Gebruik en promoot het dan niet. Maak je je zorgen dat studenten met AI geen goede scripties meer kunnen schrijven en dat ze vol zitten met hallucinaties? Gebruik en promoot het dan niet. En zeg zeker niet dat AI de oplossing is voor dit probleem, want geen AI gebruiken als je ziet wat de gevolgen zijn is toch een veel eenvoudigere oplossing?

De dood van Jason Arday

Eigenlijk wilde ik hier dus gewoon niks meer over zeggen, want wat is er nog te zeggen? Maar het is een onderwerp dat de gemoederen bezig houdt, want niet één maar twee collega's op school (van buiten de wetenschap dus) vroegen mij wat ik nou van de zaak vond. Dus dit zie ik als een soort lezersvraag.

Heb je de zaak gemist, dan hier even een hele korte samenvatting. Jason Arday werd in 2023 de jongste Zwarte hoogleraar aan Cambridge ooit. Hij had een bijzondere voorgeschiedenis, door een mentale aandoening (mij niet helder welke precies en dat doet er ook niet echt toe) kon hij pas laat in zijn lezen spreken (op zijn 11e) en lezen en schrijven (op zijn 18e). Recentelijk bleek dat hij in zijn proefschrift mogelijk plagiaat heeft gepleegd en in onderzoek mogelijk data vervalst. Ook kon hij misschien toch wel eerder al spreken en lezen. Ook aan andere uitspraken werd getwijfeld, bijvoorbeeld dat hij 30 marathons in 35 dagen liep en dat hij daarmee veel geld ophaalde voor goede doelen, en eerlijk gezegd, dat klonk ook wel pretty out there, maar dat blijkt bij nader inzien redelijk waar te zijn! Door beschuldigen over zijn werk en privé, of eigenlijk vooral door de mediastorm daarover, nam hij zelf ontslag bij Cambridge en beëindigde hij naar alle waarschijnlijkheid zelf zijn leven. Dus ja wat moet je nog zeggen over een zaak die al zo geëindigd is, op zo'n vreselijke manier?

Er zijn toch, hoe wreed ook, er zijn lessen te leren uit deze casus, en ik zal maar meteen heel duidelijk zijn: het was een racistische hitjob. Wat je ook vindt van plagiaat plegen, onderzoek oppoetsen of van je levensloop mooier voorstellen; de hoeveelheid media-aandacht voor deze zaak staat daartoe in geen enkele verhouding. Er werden in 2023 10.000(!) papers teruggetrokken en hebben we daar stuk na stuk na stuk over gelezen? Nope. Maar wel honderden stukken over Arday [[1]]. En de mensen achter de hitjob gingen niet bepaald subtiel te werk, aanstichter Nathan Cofnas, postdoc in Gent, zei dat als we in en meritocratie zouden leven dat er dan (weer) 0% zwarte wetenschappers zouden zijn en dat hij (dan) graag de baas van een afdeling eugenics wil worden op Harvard. [[2]]

Het gesprek zou, vind ik, óók moeten gaan over Cofnas en co, en hoe ze het werk en leven van zwarte wetenschappers onmogelijk maken door steeds te insinueren dat hun werk niet goed is, en dat zij niet in de wetenschap horen. Cofnas is inmiddels trouwens geschorst in Gent. Hoe is het (weer) salonfähig geworden om dit soort denkbeelden openlijk te uiten? Media zijn daar zeker medeschuldig aan door stuk na stuk na stuk te publiceren over Arday—de lafste dingen zoals een anoniem stuk van een oud-student die zijn colleges niet goed vond, werden als nieuws gepresenteerd—zonder ook te bevragen wie dit opstookte en waarom.

Wat me ten tweede verder heel erg bijblijft aan dit verhaal is dat in 2023, toen Arday werd aangesteld, er maar 5 andere zwarte professoren aan Cambridge werkte. Cambridge is daar niet bepaald uniek in:

Official figures from the Higher Education Statistics Agency show how, in 2021, just 155 of more than 23,000 university professors in the UK were black. [Ook uit bovenstaande bron]

Oftewel nog geen procent in heel Engeland! Als er een ding is dat deze zaak hopelijk teweegbrengt is een gesprek over hoe zwaar het moet zijn om zo zo zo in de minderheid te zijn, om zo voortdurend gestigmatiseerd te worden (ook al is dat soms in positieve zin). Ik voel me als vrouwelijke wetenschapper al op een bepaalde manier verantwoordelijk om te laten zien dat "vrouwen het ook kunnen", en wij zitten in Nederland al op zo'n 35%. Universiteiten plaatsen zwarte collega's zo in een onmogelijke positie; ze moeten topwetenschap doen, een rolmodel zijn, en ze worden in het huidige politieke krachtenveld voortdurend aan haat en ondermijning blootgesteld. [[3]]

Zo'n kleine minderheid, het is vragen om problemen, want je wordt gegarandeerd gereduceerd tot je ras. Een witte man die fraudeert–Volkskrant noemde William O'Reilly, wiens fraude werd aangetoond, maar die gewoon mocht aanblijven in Cambridge, zonder ophef in de media—is een gewoon een individuele fraudeur, een zwarte man die fraudeert is het bewijs dat zwarte mensen niks kunnen.

Goed nieuws

Ik begin maandag met een recordaantal studenten, en in heel Nederland zitten universitaire lerarenopleidining in de lift! Hoera voor meer leraren!

Er zijn nog dappere mensen, zoals deze 77-jarige uit Florida, die met een zwembadschepnet demonstreert tegen camera's in de publieke ruimte. Zo'n Flock camera is van een privé-bedrijf en...

automatically loads license plates and AI-generated profiles of each passing car into a massive database

Meer over Flock in dit stuk in Wired over een agent die maar liefst 5 interne onderzoeken aan zijn broek kreeg omdat hij steeds bezwaar maakte tegen de camera's).

Zonnepanelen zijn niet alleen goed voor schone en soevereine energie, ook voor plant en dier eronder! En over schone energie gesproken, er wordt goed geëxperimenteerd met elektrische vliegtuigen.

Slecht nieuws

Zat jij lekker aan de omega-3-visolie voor je gezondheid of een scherper denkvermogen? Je kan net zo goed een boterham eten, want die olie blijkt niet echt wat te doen.

Iedereen en zijn grootmoeder is tegen de verkoop van DigiD... behalve ABP, helaas. Die hebben ook aandelen Solvenity en zouden van de verkoop profiteren, en willen daar niet op ingaan (hetgeen ze in andere zaken wel deden, bijv toen ze Shell-aandelen verkochten), schrijft NRC.

Events

• Ben je op Lowlands (geen idee waarom je daar je mail zou lezen maar zou kunnen...), dan kan je me zo om kwart voor 5 zien in de Echo!
• Volgende week vrijdag (4 september) op het SpaceRock Festival
• Maandag 14 september geef ik een Diversity Lecture op de Radboud (in het Engels)
• Donderdag 24 september bij de boekpresentatie van Ilyaz Nazrullah's boek Dit is AI
• Donderdag 10 december bij de Feministische boekenclub over mijn eigen boek Vierkante Ogen (vergeet 'm niet te pre-orderen...!)

En dan nog even dit

• Dit schreef ik vorig jaar in week 34! Best leuk om weer eens terug te bladeren wat er een jaar geleden in het AI nieuws gebeurde. Misschien hack ik hier nog wel eens een vast linkje voor!
• Keurige terugblik op een zomerquiz van de Volkskrant waarvan één vraag niet helemaal goed uitpakte.
• Ook in Volkskrant, een schitterende longread over oorlogsbeelden op social media. Het deed me denken aan De grote weigering van Marian Donner, die ook beschrijft hoe de hele wereld via haar smartphone binnenkomt, alles door elkaar:

Bosbranden in Griekenland, illegale wapensmokkel in Amerika, in de Middellandse Zee is weer een boot met vluchtelingen gezonken. Grenzen verdwijnen, ik ben overal bij zonder dat ik me hoef verplaatsen. Ik zie vluchtelingen de zee uit lopen, lees iets over de gemankeerde westerse democratie, over krijgsheren van de taliban, zie op Facebook de vakantiefoto's van iemand die ik niet ken - we drinken een cocktail op het strand! - Bezos zwaait vanuit de bijna-ruimte, op aarde blijven de huizenprijzen maar stijgen, en hier is nog een supersweet superinspirerend filmpje van een beertje dat een heuvel op klimt! [...]

Verstild en versteend ben ik gevat in het blauwe licht van mijn scherm.

Geniet van je boterham!

Voetnoten

[[1]]: Zie voor een uitgebreidere analyse daarover ook dit stuk, maar let op, niet op kantoor klikken, want blog "Frontaal naakt" doet de naam eer aan met de afbeelding bij dit stuk!

[[2]]: "Geestig" ook omdat juist ook Cofnas zijn eigen wetenschappelijke merites door zijn eigen collega's in twijfel getrokken worden, iets waarover we niet in 100 opiniestukken hebben kunnen lezen, maar wat we uit intern gelekte stukken moesten leren.

[[3]]: En eigenlijk niet alleen nu, ook langer geleden speelde dat al in Nederland schreef Lulu Helder op LinkedIn.