AI in onderwijs en onderzoek en vrouwendag! - week 10

Waarom willen scholen en universiteiten AI aanschaffen?

Ronkende taal vanuit OpenAI, ze gaan onder de noemer NextGenAI maar liefst 50 miljoen investeren in 15 universiteiten in Amerika! Even in context geplaatst, ze zijn 300 miljard waard, dus dit is 0.02 procent van hun marktwaarde. Wat OpenAI hiervoor terugkrijgt is me wel duidelijk, zo lijken ze technologisch geavanceerd en schurken ze tegen de geloofwaardigheid van hoger onderwijs en wetenschappelijk onderzoek aan.

Marc Watkins, docent aan de universiteit van Mississippi (een van de 15 instituten die meedoen), is mij vaak te positief over generatieve AI in het onderwijs, maar schreef recent een stuk met een ontzettend rake vraag, waarom willen universiteiten eigenlijk AI oplossingen aanschaffen en integreren?

Studenten gebruiken toch al de hele tijd AI, en die kunnen prima uit de voeten met gratis oplossingen, en ook docenten die een lesplan willen maken kunnen in heel veel gevallen best bestaande oplossingen gebruiken, bijvoorbeeld geïntegreerd in Microsoft systemen waar ze toch al voor betalen (en die ook wel wat garanties bieden over wat er met je data gebeurt). Dus waarom extra betalen voor AI? Watkins beargumenteer dat: "... institutions are doing so under the faulty assumption that buying access gives them greater control over how their users interact with AI." In een verwoede poging om grip te krijgen op de situatie onder het mom van "we moeten iets, en dit is iets", gaan ze dan maar zelf aankopen en pilots draaien. Het hele stuk is de moeite waard, maar deze vraag is er echt eentje die we onszelf moeten gaan stellen, en onze werkgevers!

Als je trouwens wilt zien hoe ongeïnspireerd bedrijven AI willen implementeren op scholen, hoef je alleen maar even op deze advertentie te klikken die mij de hele week op LinkedIn getoond werd. Volg de link, en geniet: "Het mogelijk maken van op bewijs gebaseerde besluitvorming in het onderwijs met behulp van agentische AI". Het hele stuk is overduidelijk met AI vertaald, je ziet het ook aan maffe kleine dingen als "...de leesgewoonten en prestaties van ^{vierdeklassers}" Die vierdeklassers staat, dat moet haast wel, zo raar omdat de AI zich verslikte in 4^th graders en de superscript heeft overgenomen. Ja, prima manier om ons leraren te overtuigen dat je er echt voor wilt gaan CapGemini!

Gebruiken studenten AI eigenlijk om plagiaat te plegen?

En nog even over die aanname he, dat studenten en masse AI gebruiken voor huiswerkopgaves. Het lijkt zo klaar als een klontje toch?! Maar onderzoek uit Spanje over 500 studenten laat zien dat het wel meevalt. Er is maar een klein gedeelte van de studenten dat AI inzet om plagiaat te plegen, en dat zijn dan vaak studenten die weinig motivatie hebben, en die zouden in "vroeger tijden" ook een creatieve oplossing hebben verzonnen (overschrijven, boekverslagen.com etc).

Ik schrijf vaak over een collega waar ik me jaren geleden bij beklaagde dat alle studenten met Whatsapp antwoorden deelden, die zei: "Als veel studenten plagiaat plegen, dan vraag jij iets onredelijks van ze". Dat blijkt nu dus heel goed door onderzoek onderbouwd; studenten die willen leren, die het nut van een opdracht inzien, en daar de mentale ruimte ook voor hebben, die doen dat ook.

AI & de wetenschap

Soms denk ik echt dat ik gek word, en van de week had ik dat weer toen ik een stuk in Nature (!!) las over peer review met AI. De eerste zin:

Do you ever feel that agreeing to review an academic paper guarantees a wasted workday? You’re not alone.

Niet te geloven toch? Natuurlijk kost peer review tijd, en natuurlijk heb ik er ook geen zin als ik het moet doen, maar dat komt niet door peer review an sich. In de basis is het meewerken aan de vooruitgang van de wetenschap, literally my job, de reden dat ik er geen zin in heb is dat (door bezuinigingen, publicatiedruk, verdriedubbelde aantallen studenten en promovendi) ik nog zoveel andere dingen te doen heb!

Echt Nature, hef jezelf op. Als jullie al niet gaan staan voor het beschermen van de diepe intellectuele arbeid die een review is, WIE DAN WEL? (Ik weet dat dit stuk een column is, en dat de redactie van Nature zou kunnen vinden dat je daar alles moet mogen kunnen vinden, maar het is wel Nature, dat is niet zomaar iets, en ze hebben er niet expliciet bijstaan dat het niet de mening van de wetenschappelijk redactie is)

Owja, en als het niet voor reviewen is, maar voor onderzoek? Willen wetenschappers AI gebruiken voor nieuwe ontdekkingen? Nee. Google moet al op een hoop claims over uitvindingen terugkomen.

Misschien een mooi moment om mijn voordracht op het Gala van de wetenschap nog eens te delen!

Ow, en mensen die de algoritmes zelf maken eigenlijk, willen die dat hun medewerkers ze gebruiken? Ook nee.

En dan ben ik vrouwendag nog vergeten!

Ik was zelf te gast op Windesheim afgelopen donderdag, met een lezing over programmeren en feminisme, en dat was super (een video komt in een volgende nieuwsbrief), maar zoals sommige van jullie misschien nog weten heb ik vorig jaar ter ere van vrouwendag een project gedaan rondom vrouwen op de radio: FemFM.

Daarom dus ook supertof dat Buma/Stemra een nieuw rapport heeft uitgebracht over hoe het ervoor staat in Nederland. Ow, en deze is al een paar weken oud, maar moet echt nog even mee: Meta schendt volgens het College voor de Rechen van de Mens mensenrechten door bepaalde advertenties zoals monteur alleen aan mannen te tonen, en receptioniste alleen aan vrouwen.

Hoe debatteer je met iemand die niet wil luisteren?

Supermooie, korte video over hoe je een debat moet voeren met mensen die zeggen "ja maar onderzoek toont aan dat" terwijl ze het onderzoek niet echt willen lezen, maar het alleen als aanval gebruiken: verplaats de discussie naar waarden ipv koude feiten. Heel mooi vormgegeven ook!

Filmtip!

Ik wilde eerst straks on topic blijven met AI nieuws, maar ja, people contain multitudes, enzo! En bovendien was ik vroeger op Twitter ook niet all business, dus een klein tipje kan vast wel. Wat je echt echt niet mag missen is de film A Real Pain, waarvoor Kieran Culkin (Je weet wel, Roman Roy, maar ook... Cousin Fuller uit Home Alone!) net een Oscar gewonnen heeft. Wat een film, hardop lachen om een film over de holocaust, dat kunnen alleen de hele grote. Tegenspeler van Culkin Jesse Eisenberg, die de film ook schreef en regisseerde (en vind ik onterecht naar een Oscar voor screenplay greep) heeft hier echt een unieke film afgeleverd.

English

Roaring language from OpenAI—they’re planning to invest a whopping 50 million under the banner NextGenAI in 15 American universities! To put that in context, they’re valued at 300 billion, so it’s only about 0.02 percent of their market value. What OpenAI gets in return is clear to me: they boost their image as a cutting-edge tech company while simultaneously undermining the credibility of higher education and scientific research.

Marc Watkins, a professor at the University of Mississippi (one of the 15 institutions involved), has often been overly positive about generative AI in education. Yet he recently penned a remarkably incisive piece asking: why do universities actually want to purchase and integrate AI solutions?

Students are already using AI all the time—and they manage just fine with free tools. Teachers looking to create lesson plans can often make do with existing solutions, for example, those integrated into Microsoft systems for which they’re already paying (and which offer some data protection guarantees). So why pay extra for AI? Watkins argues that “… institutions are doing so under the faulty assumption that buying access gives them greater control over how their users interact with AI.”

In a desperate attempt to take control of the situation—under the guise of “we have to do something, and this is something”—they go ahead and purchase systems and run pilots. The entire article is well worth a read, but that question is one we really need to ask ourselves—and our employers!

If you want a glimpse into how uninspired companies are when it comes to implementing AI in schools, just click on that ad that kept popping up on my LinkedIn all week. Follow the link and enjoy the pitch: “Enabling evidence-based decision-making in education through agentic AI.” It’s obvious the whole piece was machine-translated—you can tell from quirky details like “…the reading habits and performance of fourth-graders.” It even says “fourth-graders” (the AI must have gotten stuck on “4th graders” and kept the superscript)! Yes, a perfect way to convince us teachers that CapGemini is really the way to go!

Do students actually use AI for plagiarism?

And another assumption—that students are mass-using AI for homework assignments. It seems as obvious as day, right?! But research from Spain involving 500 students shows it’s not such a big issue. Only a small portion of students use AI to commit plagiarism, and those are typically unmotivated students who, in “the old days,” would have resorted to creative shortcuts (copying, using book summaries websites, etc.).

I often recall a colleague I once complained about—who noted that when students shared answers via WhatsApp, he said, “If many students are committing plagiarism, then you’re asking too much of them.” And now, research clearly backs that up. Students who want to learn, who see the value in an assignment and have the mental space for it, do the work themselves.

Peer review—Can it be done with AI?

Sometimes I really think I’m losing my mind, and this week that feeling hit again when I read a piece in Nature (!!) about using AI for peer review. The very first sentence reads:

“Do you ever feel that agreeing to review an academic paper guarantees a wasted workday? You’re not alone.”

Unbelievable, right? Of course, peer review takes time, and naturally I’m not thrilled when I have to do it. But that’s not a criticism of peer review itself. At its core, peer review is about contributing to the advancement of science—literally my job. The real issue is that, due to budget cuts, publication pressure, and a threefold increase in the number of students and PhD candidates, I have so many other things to do!

Really, Nature, cancel yourself. If you’re not going to stand up for the protection of the deep intellectual labor that peer review represents, then who will? (Yes, I know this a column; and Nature’s editors might argue that you should be allowed to express any opinion, but it’s Nature—it’s not just any publication, and they don’t explicitly state that it isn’t the editors’ view.)

And if it’s not about reviewing but about research—do scientists want to use AI for new discoveries? No. Google already has to answer for a host of claims regarding inventions.

And what about the people who create the algorithms themselves? Do they really want their employees using them? Also no.

And I almost forgot Women’s Day!

I was a guest at Windesheim last Thursday, giving a lecture on programming and feminism—and it was fantastic (a video will be coming in a future newsletter). As some of you might remember, last year in honor of Women’s Day I spearheaded a project about women on the radio: FemFM.

That’s why it’s especially cool that Buma/Stemra has released a new report on the state of things in the Netherlands. And, this piece is a few weeks old but still relevant! The Dutch for Human Rights has decided that Meta violates human rights by showing women different job ads than men.

How do you debate someone who does not want to listen?

A beautifully crafted, short video explains how to debate with people who say, “Yeah, but research shows that…” without actually reading the research—using it solely as an attack. The advice: shift the discussion towards values rather than cold facts. The video is very well produced!

Movie Tip!

I originally wanted to stick strictly to AI news, but, well, people contain multitudes—and besides, I wasn’t all business on Twitter back in the day, so here’s a little extra. You absolutely must not miss the film A Real Pain, for which Kieran Culkin (you know, Roman Roy—but also… Cousin Fuller in Home Alone!) has just won an Oscar. What a film—laughing out loud at a movie about the Holocaust is something only the truly great can pull off. Culkin’s counterpart, Jesse Eisenberg, who also wrote and directed the film (and, in my opinion, was undeservedly snubbed for an Oscar for screenplay), has truly delivered a unique piece.

(This newsletter was translated by Johanna Guacide)