AI in week 24

Hello non-Dutch subscribers! I am still struggling with being a bilingual on the internet, sorry. I translated the whole newsletter for a while, but it was a bit boring for me, and not always useful. So, my plan for now is to write one English language piece each week, and link that here, so you will have some value out of your subscription. For the rest, you will just have to 1) learn Dutch, 2) ask a Dutch friend or 3) use a dictionary!

This week.... Upon popular request! A reply to Rutger Bregman's weird AI video!

(Plus, for people who find my newsletter "too long"... It will be shorter as I am splitting off a piece! This one for example does not even get to 3500 words 😄)

Enjoy your sandwich!

Dan verder in het Nederlands!

Doe iets wat er toe doet?

Je kan de posters van de landelijke campagne overal weer zien hangen: Doe iets wat er toe doet. Fijne, grappige slogans zoals "Calls zijn niet je roeping", en "Er zijn te veel coaches maar te weinig leraren" bedoeld om mensen te overtuigen om voor de klas te gaan staan. En dat gaat steeds beter, de aantallen op veel plekken nemen toe!

Maar wat doet er dan eigenlijk toe? Een droevigstemmend paper van twee onderzoekers van Elon University (nee, niet die Elon, gelukkig) begint zo:

Decades of research demonstrates that educational relationships are central to student learning, motivation, well-being, and persistence in higher education.

Een goed contact met docenten is voor iedereen belangrijk, maar in het bijzonder, schrijven zo, voor eerstegeneratiestudenten en studenten uit ondervertegenwoordigde groepen. Het helpt niet alleen leeropbrengsten, maar ook zelfvertrouwen en vergroot studiesucces.

Wat een wondermiddel, zou je denken! Maar dan loop je tegen het systeem van de universiteit aan. Want "goed contact met docenten" is geen product dat je kan kopen, geen pilot die je kan starten, het is, per definitie, iets waar je als universiteit geen controle over uit kan oefenen, want niet in systemen te vangen. Gelukkig komen professoren hier (onder invloed van Chatgpt) ook achter, zoals deze hele mooie in the Chronicle of HE:

I’ve come to realize that my value as a professor is not that I know facts about the Chinese political system; it’s that I can organize and humanize those facts. I can model enthusiasm for a subject and humility about what I don’t know. I can get something wrong. I can provide a note of praise or perspective when it’s needed. I’ve set foot in Zhongnanhai in Beijing and the headquarters of the Chinese Democracy Party in Queens. I know what it’s like to bumble through a Chinese character quiz on a hungover Friday morning, or to teach a Chinese kid from Hunan how to pronounce the word “mouth.” I know what it’s like to live through my twenties.

Ja, het onderwijs moet menselijker, beargumenteert Princeton-professor Rory Truex dus.

Maar, onderwijsverbeteringen op universiteiten hebben bijna altijd de vorm van onderwijsvernieuwing [[1]]. Je denkt misschien dat je als docent in het hoger onderwijs wat vrijheid hebt om dingen te doen zoals je dat wilt, maar dat valt in de praktijk grif tegen. Onderwijsverbeteringen komen meestal niet vanuit docenten zelf, maar vanuit gecentraliseerde onderwijsinnovatieafdelingen waar het techno-optimisme de boventoon voert. Coole nieuwe tooltjes, nieuwe technieken toepassen etc. Die centrale plekken, niet alleen onderwijscentra, maar IT, of bestuur van faculteiten, die bepalen dat er steeds maar weer nieuwe (computer)systemen voor van alles en nog wat moet worden ingevoerd.

Maar dat kan nooit leiden tot goed onderwijs waarin de docent-student-relatie centraal staat, want systemen staan daar juist haaks op. Een docent kan pas goed contact met studenten hebben als er genoeg tijd en ruimte is om dat je doen. Iets simpels als na college nog even napraten is al zo goed als onmogelijk, want je moet hup de collegezaal uit, naar de volgende vergadering, je hebt als docent nog heel veel meer te doen. Of er is weer een volgend college geroosterd, anders wordt de bezettingsgraad laag en dat is allemaal duur! En al heb je de tijd, even ergens zitten met studenten kan nergens want dan moet je een zaaltje boeken; in je mini-werkkamer kan je ze al lang niet meer kwijt. Ik breng u graag de saga in herinnering die volgde op mijn plannetje om een extra college voor studenten te roosteren. Het systeem is niet ingericht op lesgeven met tijd en aandacht.

Dat is niet alleen mijn ervaring als docent, dat zeggen de onderzoekers van bovenstaand paper ook, met een zin die echt je hard breekt:

In debriefing discussions, faculty often expressed frustration at the policies and structures that they could not control but which significantly constrain their ability to build relationships with and among students.

Maar, het kan ook anders, gelukkig. Oud-student Joep bijvoorbeeld werkte een stuk dat hij voor mijn vak in moest leveren uit tot een opiniestuk voor Didactief met Star Wars als rode lijn, waarin hij pleit voor meer menselijk onderwijs. Hoera!

Het beeld van maakbare, efficient onderwijs zie je ook terug in NRC in een tamelijk hallucinant interview met Thomas Piketty. De interviewers snappen gewoon echt niet wat Piketty probeert te zeggen, omdat ze zo diep in het neoliberalisme zitten dan ze een euro niet meer kunnen onderscheiden van een ademteug:

[Interviewer:] Zijn sectoren als zorg en onderwijs wel productief genoeg om zo’n groot deel van de economie te vormen?

Piketty, fel: „Wat bedoelt u met ‘niet productief’? Ze produceren uw onderwijs en uw gezondheid.”

[Interviewer:] Maar vanuit het perspectief van de overheid kosten deze sectoren geld, in plaats van dat ze geld opleveren.

[Piketty]: „Nee, nee, nee. [...]

„Ik begrijp u echt niet. Als de helft van de bevolking onderwijs en zorg levert, en de andere helft voedsel en energie produceert, werken ze voor elkaar. De gedachte dat de ene helft de andere betaalt, maar niet andersom, is economisch heel merkwaardig.”

Kijk, dat je het denkt is nog een ding hè, maar het gewoon zo openlijk opschrijven dat je onderwijs niet anders kan zien dan iets dat geld kost, en niks oplevert... Ik kan toch ook niet pinnen bij de lantaarnpaal? Voorzieningen kosten geld en leveren niks anders op dan dat wij die voorzieningen hebben.

Dit is wat we te bevechten hebben in het onderwijs, de hele notie dat we efficiënter moeten werken, meetbaarder, beter, in plaats van dat we een dienst leveren aan de samenleving.

Lezersvraag!

Ik kreeg weer eens een hele fijne vraag binnen, keep m coming hoor!

In mijn werk ben ik veel bezig met bruggen slaan tussen hard science (de techniek) en social science (de ethiek). Afgelopen maanden heb ik gemerkt dat het hierbij heel erg helpt om de oorsprong van statistiek en methodes die wij gebruiken beter te begrijpen. Hoewel ik zelf data science heb gestudeerd, weet ik daar helaas te weinig vanaf.

Ik ben gefascineerd door artikelen en sites die daar meer over vertellen. Bijvoorbeeld deze website Quantified Lives of het boek hoe IBM heeft bijgedragen aan de holocaust (jouw tip!). Ik merk dat dit soort literatuur mij enorm helpt om het vak 'data science' beter te begrijpen en ik zou hier graag ook meer over delen en vertellen aan data scientists bij mijn werk. Heb jij toevallig nog aanbevelingen van boeken of artikelen die de (vaak problematische) oorsprong en onderliggende denkwijze van statistiek en programmeerfuncties zoals INNER JOIN uitleggen?

Wat een heerlijke vraag, en nu we richting de zomer gaan maak ik maar wat graag een lijstje met boeken waarvan ik geleerd en genoten heb, met wat uitleg waarom ze leuk of nuttig zijn.

Toevallig stond er deze week een stuk in NRC over het onderzoek van historica Iris Clever naar de racistische oorsprong van statistiek. Zij gaf als tip op LinkedIn het book "How Data Happened" van Chris Wiggins & Matt Jones "een toegankelijk overzicht van de geschiedenis van AI en statistiek vanuit dit perspectief." Ik ken dat boek niet, maar het klinkt goed!

Ik heb zelf ook nog een paar tips!

More work for mother - Ruth Schwartz Cowan

Dit boek legt uit hoe technologie, vaak verkocht als een manier om sneller en efficienter het huishouden te doen, taken voor vrouwen juist ingewikkelder maakte en dus uiteindelijk meer werk opleverde. Voorbeeld: het fornuis. Handig joh, meer pitjes om op te koken! Helaas, de norm voor een goede maaltijd verschoof van eenpans naar meer elaborate, en nu moet je al die pitjes ook steeds gebruiken. More work. Niet voor father want die hoeft nu de haard niet meer te poetsen, maar wel voor mother.

Wat is er zo goed aan vind in relatie tot de vragensteller is dat het laat zien hoe politiek technologie is, niet alleen de machines zelf maar de hele sociale context eromheen. In een heel droevig stukje voor wie net als ik de was doen haat, legt Schwartz Cowan uit dat de was doen een van de weinige huishoudelijke taken was die bijna uit de handen van vrouwen was! Er waren ooit washuizen waar ze je was deden!! Die kwamen dan ook alles halen en brengen. Niet alleen extreem chill, maar ook efficient omdat het dan op een plek kon met hele goede machines. Maar.... helaas voor Bosch en Miele, dan kan je geen wasmachines verkopen. Moederschuld werd dus ingezet om moeders aan te zetten tot weer zalf gaan wassen, bijvoorbeeld onderstaande.

Het is dus een boek dat je aanzet tot denken niet alleen hoe technologie het werk van sommige mensen helemaal niet beter maakt (en surprise surprise, dat zijn niet mensen in power, niet alleen vrouwen natuurlijk ook laagbetaalde mensen van alle genders en kleuren), maar ook hoe het ingezet wordt als manier om gedrag te sturen.

Death Glitch - Tamara Kneese

Ik schreef er eerder al over, een maf maar heel goed boek. Heel fijn geschreven, maar het laat zien welke problemen big tech wil oplossen en welke niet. Het technische van doodgaan wel (je brein invriezen, uploaden etc), maar nadenken over wat dood emotioneel met mensen doet, dat past niet in de cultuur van Silicon Valley, en zit dus niet in de mainstream software zoals social media. Wie denkt er nou graag na over wat er na de dood met zijn Facebook gebeurt:

Yip lamented the fact that “tech people don’t think anyone dies,” so they are often unprepared for dealing with dead users in any way that is not connected to concerns about liability.

Is een aanrader voor dat inkijkje, maar ook voor de hilarische anekdote van dochters van een overleden vader die zijn internet of things lampen niet uitkrijgen, en na een digitale avonturentocht op zijn pornocollectie stuiten. Oops.

A Measure of Intelligence: One Mother's Reckoning with the IQ Test - Pepper Stetler

Ook een schitterend boek, van een historica aan Miami University die op de avond voor de geboorte van haar eerste kind nog met haar man grapt of hun dochter later naar Stanford of Harvard zal gaan, maar al die verwachtingen moet loslaten als het kindje ter wereld komt met Down. Zo'n openhartig boek is dit over hoe het leven nooit loopt zoals wil wilt, alleen al die Harvard of Stanford-anekdote laat zien hoe goed Stetler kan reflecteren op de wereld maar ook op zichzelf.

I realized that my friends, who had mastered the skills of administering the exam and evaluating its data, never had to confront the personal, real-life outcomes that the IQ test and its culture create. Louisa’s interaction with the IQ test had consequences that they, and really most people, are rarely forced to consider...

Dat is dus wat een leven, een echt mensenleven van vlees en bloed met je doet. Je maakt dingen mee en die dingen wil je dan in je onderzoek uitpluizen. Wat robots ook allemaal kunnen, ze hebben geen level geleid, ze hebben geen kind op de wereld gezet dat hun hele kijk op het leven veranderde! Voor je kan geloven dat AI "onderzoek" kan doen, moet je eerst al geloven dat kennis vergaren los staat van geleefde ervaring.

Stetler legt heel erg goed uit hoe de IQ test, aanvankelijk een tamelijk onschuldige manier om in kaart te brengen hoe kinderen ervoor stonden, lagen ze voor of achter op leeftijdsgenoten, totaal van karakter verandert door een fanatisme dat al in de theorie gelooft dat mensen te meten zijn.

According to one psychologist, Goddard turned the IQ test "into a fetish to be worshiped and protected from all doubt and attack, particularly in the educational field."

Het meten en classificeren werd een doel op zich:

Intelligence testing, according to Terman, could be used by psychologists as a tool that would help the burgeoning discipline achieve the same precision and specificity as zoologists had accomplished with the Linnaean system of classification.

Het is geen leuk boek, ik kan niet zeggen dat ik ervan genoten heb (wat wel voor de twee bovenstaande geldt) maar het boek vult je met een diep respect voor Stetler, en met een gezonde afkeer van IQ tests en andere mens-meet-machines.

Wat al deze boeken gemeen hebben is dat ze bevragen wat het betekent om te meten, om te bouwen, en om te innoveren.

Heb jij ook een goede leestip in deze richting? Kom maar door met een reply'tje op deze mail! Ik zoek altijd fijne boeken over mens en technologie, zeker ook weer voor de zomerspecials die eraan gaan komen!

Events

• Hoe vet is dit?! Ik sta op Lowlands met New Scientist! Komt dat zien als je er toevallig bent (op de zondag!)

En dan nog even dit

• Ik was te gast bij de De linkse mannen podcast!
• Dit gedicht over een middag in de bouwmarkt. Taal taal taal, wat is het toch mooi en ongrijpbaar.
• Dit gedicht over immigranten en trans mensen, ownee, kikkers. Taal taal taal, wat is het toch krachtig en pijnlijk.

Slecht nieuws

Tweede Kamer opent de weg voor Europese wet die de natuur nog verder naar z'n grootje gaat helpen.

Na het lezen van het boek The Brothers en het bekijken van de documentaire Soundtrack to a Coup d'etat geloof ik alles over Amerikaanse propaganda-machines, toen en nu. Bijvoorbeeld nieuwssite La Tilda, nieuws met een accent, vol met overduidelijk AI gegenereerde content, gericht op Spaans-sprekers buiten Amerika. Maar, zo legt The Intercept uit, de site probeert ze ook te beinvloeden met "pro-U.S. content [...] clearly tailored to these national audiences" zoals stukken over het kidnappen van Madura (dat was "The Perfect Operation"), of hoe fijn het is dat de US in Panama militairen traint.

“If you can generate new content and even news fronts at the flip of a switch, your influence operations can shift target and focus much more quickly,” Brooking [voormalig cyber adviseur van het Pentagon] said.

Ja, substantieel minder werk dan een neppe pornofilm maken door iemand een masker van Soekarno op te zetten. (Denk je nu What the fuck? Lees dan The Brothers!!!!)

Dit stuk op Yahoo Finance hoef je niet te lezen, alleen de headline is al voldoende: AI Investment Is Already So Much Larger Than the Subprime Mortgage Bubble That You’ll Physically Flinch. Geen nieuws natuurlijk voor wie Ed Zitron volgt, maar toch, het kan niet lang meer duren of de bubbel ploft.

Onderzoek van Stanford en Oxford onder meer dan 3000 mensen laat zien dat mensen al na drie weken chatten met een vlijende LLM:

[b]ecame nearly as likely to seek personal advice from sycophantic AI as from close friends and family, and reported lower satisfaction with their real-world social interactions. When given a choice among AI response styles, a majority preferred sycophantic AI—not for the quality of its advice, but because it made them feel most understood.

Desinformatie, het krioelt ervan op de socials, lezen we in The Guardian, op basis van onderzoek naar toen duizenden posts, in het bijzonder op plekken waar weinig lokale nieuwsproviders zijn. Nederlandse overheid, denk nog eens drie keer na voordat je bezuinigt op de (lokale) publieke omroep!

Goed nieuws

Ja, is het goed of is het slecht? Amazon gebruikte een intern leaderboard om medewerkers te ranken, en dit keer niet in een fullfillment center, maar voor de developers, om te meten of ze wel genoeg AI gebruiken.

I wouldn't say ‘cheating’ is widespread but there are ways to use AI frugally and less frugally, and with the leaderboard there was an incentive to not bother trying to be efficient on token use.

Hebben we nog meer bewijs nodig dat AI niet zo goed is als we denken, als zelfs programmeurs moeten worden aangemoedigd om het te gebruiken? Voor de meeste technieken was het andersom, programmeurs liepen ermee weg, en management zei: nee nee, zo snel kan dat allemaal niet.

Berkeley Law School verbiedt alle gebruik van AI voor studenten. Dat lijkt me een prima besluit, ook omdat ik laatst hoorde dat verschillende advocatenkantoren junioren de eerste zes maanden verbieden AI te gebruiken. Niet uit principe, maar omdat ze het anders niet leren.

Nog even en mijn "gooi AI de klas uit" is mainstream...! Dat blijkt ook uit onderzoek op California State University, die vorig jaar helemaal "all in" gingen op AI, en een deal van 17 miljoen sloten met OpenAI (terwijl ze ondertussen hard bezuinigde op staf). Maar, studenten vinden er geen bal aan, zegt Futurism:

Around 65 percent of [students] — and 59 percent of faculty there — are skeptical that AI has been benefitting education overall, according to a recent university-wide survey with over 94,000 respondents. A full 80 percent of students said they wouldn’t be comfortable turning in AI-generated work as their own. And around four out of five of them were worried about various AI issues, including its impact on jobs, creativity, and the environment.

Hoopvol ook dat zoveel studenten helemaal geen AI-werk willen inleveren, dat is ook mijn ervaring, studenten willen echt het werk zelf doen. Maarja, we vragen zoveel van ze, en het is zo verleidelijk, zeker als docenten het ook hypen als een geweldige tool.

Schitterend nieuws uit Duitsland! Een rechtbank in Muchen stelt dat Google verantwoordelijk is voor de antwoorden die Google geeft, ook als die met AI gemaakt zijn. Ja, duh, denk ik dan! Maar dat is dus juist het loket van Maxim Februari dat we zo vaak missen! Heel fijn. Google laat in een reactie weten dat jhet AI overzicht alleen maar weergeeft "wat al op het web staat".

En hij was er vorige week al maar toen was mijn nieuwsbrief al zo lang... De Leiden Declaration on AI, een verklaring van een groep wiskundigen tegen het gebruik van AI. Wiskunde, zeggen zij, is iets waarvoor mensen verantwoordelijk moeten zijn:

Results are attributable to specific authors who take credit for their discovery and assume responsibility for their correctness. These principles ground the merit-based standards to which we aspire in mathematical research.

Fijn en goed dat wiskundigen–wiens waarden natuurlijk gecoöpteerd worden door de AI industrie—zich uitspreken, al is hun constatering dat ze decennialang hebben geprofiteerd van financiering van de industrie terwijl elders academia het met steeds financiering moest doen, wel wat naïef is.

We also recognize that many mathematicians did not expect their work to become entangled with social and ethical implications of such magnitude, nor to be incorporated into systems used for purposes they may find deeply troubling.

Dat heeft natuurlijk wel een hoog Leopards eating face-gehalte, maar ja, beter ten halve gekeerd zullen we dan maar zeggen.

Geniet van je boterham!

[[1]]: Grappig feitje, ik won in 2017 op de TU Delft nog de prijs voor innovatiefste docent. Vond ik toen heel cool natuurlijk, erkenning voor mijn werk, maar nu denk ik ook: waarom is innovatief eigenlijk een prijs waard? Goed onderwijs kan ook behoudend zijn, als in het goede behouden, uitbouwen en versterken.