AI in week 44

Hallo allemaal en een warm welkom aan alle nieuwe lezers die mijn nieuwsbrief hebben gevonden door mijn boek of lezingen die ik de afgelopen week deed over mijn boek! Bijvoorbeeld bij Tweakers, Tom Ootes schreef daar een fijne terugblik op!

Dank ook voor alle superleuke mails, skeets, toots en appjes van jullie met Vierkante Ogen (gelukkig niet met vierkante ogen, haha). Keep 'm coming.

Wat moet het onderwijs met AI?

ChatGPT is inmiddels bijna vier jaar oud, dus het onderwijs heeft ondertussen wat tijd gehad om te reageren. En in tegenstellig tot wat de meeste opiniemakers op Linkedin (en waar ze verder nog spreektijd krijgen) roepen, uit wat ik zie in mijn omgeving, gaat dat best goed. Het is echt tot iedereen prima doorgedrongen dat leerlingen en studenten thuis dingen laten doen voor een cijfer geen garantie meer is dat ze het echt doen, en er echt van leren. Dat was een kritische blik op huiswerk natuurlijk altijd al best wel waar, maar nu al helemaal.

Collega's in alle lagen van onderwijs zijn heel goed in staat om daar actie op te ondernemen, grote stukken tekst die vroeger werden ingeleverd heb ik al omgezet gezien naar mondelingen, tentamens op locatie, en presentaties. Anders werken, maar prima te doen. Leuker is sommige gevallen, zoals het profielwerkstuk op school (mij al 100 jaar een doorn in het oog) dat wij hebben veranderd in het uitvoeren van een project met bijbehorende presentatie en verdediging. Ook een trend als het verbieden van laptops in de collegezaal past in deze "tegen"reactie, niet alleen omdat er beter opgelet wordt maar ook omdat het laat zien waar onderwijs om draait: samen.

Was daar nu veel voor nodig vraagt u? Nee, niet echt heel veel. Natuurlijk hebben we wat vergaderingen gehad over het herinrichten van toetsing, maar die hebben we altijd wel periodiek. Zoals altijd, of het nu om corona gaat, om AI, om smartphones, of om nieuwe kerndoelen, het onderwijs heeft werkelijk een verrassend aanpassingsvermogen, zeker voor een beroepsgroep die systematisch weggezet wordt als ouderwets en conservatief.

Gelukkig horen we dit verhaal steeds vaker, in het NRC van vorige week bijvoorbeeld van de hand van politicoloog Josette Daemen:

Willen we universitaire opleidingen relevant houden, dan moeten we terug naar meer kleinschalig onderwijs, meer persoonlijk onderwijs, meer analoog onderwijs. Onderwijs waarin docenten de tijd hebben om studenten te doordringen van de betekenis, het belang en de schoonheid van echte menselijke kennis en eigen gedachten.

Hopsa, niks geen techniek erbij, techniek eraf. Niet omdat we er bang voor zijn, maar omdat we ze eerst op eigen benen willen laten lopen, op eigen gedachten willen laten komen, voor we ze blootstellen aan de barrage van nep/half-kloppend/opruiend/polariserend nieuws die toch wel op ze afkomt. Juist daarom moeten wij ze een andere wereld laten zien. En hoezee hoezee, ook onze eigen Tweede Kamer is overtuigd!

En wie nu denkt dat dit een opvatting is van tech-kritische alphas, in het mekka van de technologie, MIT, komen ze tot een zeer vergelijkbare conclusie! In 8 uitgangspunten vatten ze hoe ze op AI willen reageren. Van typische Silicon Valley achtige "Be humble" en "be bold" ("this is not a moment for patches and duct tape") gaan ze al vrij snel naar de risico's:

[..]. overreliance on chatbots can have a range of significant negative consequences – diminishing critical thinking, weakening memory, eroding confidence, and undermining mastery.

En ze hebben ook wat te zeggen over de essentie van lesgeven. Menselijkheid moet centraal staan, en je moet doelgericht lesgeven. Niet gewoon AI invoeren, omdat het nu eenmaal moet:

[R]ather than beginning by asking whether AI should be allowed or prohibited in a specific subject, educators would begin by defining the purpose of the learning experience itself: what students should come to know, be able to do, and learn to value. Assignments and assessments can then be designed to measure and encourage those outcomes, using AI if it’s helpful but not if it isn’t.

Het is echt een geweldig stuk, omdat het uitgaat van wat onderwijs is of zou moeten zijn, en niet van wat AI kan. Het laatste uitgangspunt is al helemaal goed, het gaat er niet om dat we studenten leren zo snel mogelijk het een of het ander te kunnen, maar om ze te ontwikkelen als mensen (Zoals we op de VU zeggen: bij ons "word je niet iets, maar iemand"):

AI should be integrated into MIT education in ways that enhance, rather than diminish, students’ capacities for growth as whole human beings.

Ja, kijk toch eens verder dan je neus lang is, AI fans. Denk eens na over wat voor wereld, wat voor burgers we krijgen als ze zomaar AI omarmen. Leerlingen en studenten die voor alles wat ze willen bedenken (je weet wel, scriptie, opiniestukken, Kamervragen) dure en complexe technologie nodig hebben…?

Als AI al werkt, voor wie werkt het dan? En tegen welke prijs? Dat is het soort vragen dat een goede burger ook zonder AI moet kunnen beredeneren (zie ook deze fijne jam in NRC op onze Klöpping Corvee)

More work for mother

En over menselijkheid gesproken (en nee, dit is dus NIET de Speld) dit interview met Marissa Mayer, zie zonder AI (again, I kid you not!) geen drie leuke eigenschappen kannoemena van haar eigen kind?!

Her daughter Marielle was turning 10, and Marielle’s teacher wanted three bullet points summarizing what made her special. Mayer — the former chief executive of Yahoo and a pioneer at Google, where she was the first female engineer — likes cracking a hard problem. But she felt overwhelmed by the range and complexity of potential answers.

So Mayer asked her personal A.I. assistant, Dazzle. Within a few seconds, Dazzle delivered an answer.

“It came back and was like, your daughter is empathetic, creative and an animal lover,” Mayer said. She thought it was perfect.

Creatief, empatisch en een dierenvriend, nou dat beschrijft denk ik de helft van de 10-jarigen op deze planeet wel prima, en anders kan je wellicht nog kiezen uit: sportief, een doorzetter, grappig, geduldig?

En deze vrouw moet dan een feministisch icoon zijn die vrouwen gaat helpen?! Weet je hoe? Door ons een (again, I kid you not) een "AI VROUW" te geven:

And maybe what overextended professional women need is an A.I. wife, an emotional labor bot that can plan a birthday party and knows when it’s Crazy Socks Day or Crazy Hat Day at the kids’ school, because it has photos of the fliers that came home crumpled in a backpack.

Nee weet je wat we nodig hebben, eens een beetje lagere verwachtingen van elkaar en van opvoeden. Lekker naar de speeltuin met een kinderfeestje, nee, er hoeft geen thema bij, dat verzinnen die kinderen zelf wel, is nog goed voor hun creativiteit ook. Nee, geen zakje met cadeaus voor alle vriendjes meegeven, we verdrinken al in het speelgoed, thank you very much. En die themadagen op school, dat is ook geen natuurwet he? Ik was laatst toevallig op bezoek bij een basisschool waar ze aan nul (zegge: 0) van die dingen meedoen. Oh dat lijkt mij nu als ouder (en als leerkracht) heerlijk rustig, en dan heb je ook geen AI nodig om te verzinnen wat er nu weer voor outfit aangetrokken moet worden.

Het enige dat zo'n AI app gaat doen is de verwachtingen van ouders (lees: moeders) nog hoger leggen. Wat? Een appje om kinderen te vragen voor een partijtje, waarom geen AI-poster?! Wat? Een appeltaart? Waarom geen taart met een AI-foto van je kind op schoot bij Barbie? Wat, waarom niet met AI voor ieder kindje een persoonlijke goodiebag bedacht?! Het wordt, zoals altijd "more work for mother"...

A tale of two foto's

Een tijdje terug gaf ik een lezing en ze maakte een leuke foto van mij, die ik een paar dagen later op LinkedIn zag. Je ziet deze foto hieronder:

Hè dacht ik, toen ik die foto zag, was er nog een andere spreker? Dat is gek, die heb ik niet gezien. Wat gek ook, een andere vrouw met precies mijn jurk! Wacht wacht, dan zijn ook mijn slides! Maar, dat ben ik niet... of wel? Ik moest zelf echt even inzoomen om te kijken of ik dat nou was, maar neehoor!

Mijn wenkbrauwen zijn te donker, mijn neus te puntig; ik ben dit niet.

Het duurde even maar na een tijdje had ik natuurlijk wel in de smiezen wat er gebeurd was... AI! Word je snotverdullekes uitgenodigd om een kritische lezing over AI te geven, smeren ze AI in je digitale poriën.

Watsgeburt? Nou, hieronder zie je het origineel, waarop een niet zo mooi systeemplafonnetje met ventilator te zien is. En ze hadden aan AI (ik weet niet aan welke) gevraagd om dat er even af te halen, en AI ging een beetje buiten zijn opdracht aan de slag, want er veranderde nogal wat meer.

Toen ik mailde om te vragen of ze de foto weg wilde halen vond de organisator van het evenement het zelf ook heel genant, hoeveel er stiekem veranderd was. Het werd, zo mailde ze terug, een soort "zoek de verschillen". Wij vonden er 8, maar misschien vind jij er nog wel meer, veel zoekplezier.

Maar we zien hier behalve een beetje humor ook twee hele boeiende dingen in actie. Iemand gebruikt een tool die hij niet helemaal goed doorziet. Want een AI tool blijft niet gegarandeerd binnen een opdracht als "verwijder het systeemplafond", want het is geen mens. Een mens zou nooit ook aan mijn neus sleutelen bij zo'n opdracht. En wat moet er dan veranderen? Die mens of die tool? Of allebei?

En ten tweede de aloude Aracari-vraag, wat is dit? Is die eerste afbeelding een afbeelding van mij? Hoe ver mag een afbeelding opgepoetst zijn voor het niet meer authentiek is of voelt? Of voor het bijvoorbeeld niet meer onder mijn portretrecht valt. Als die organisatie nu had geweigerd die foto te verwijderen, met mijn naam erbij? Had ik dan een poot om op te staan, en zo ja welke?

Goed nieuws

Ondanks alle (vermeende, moest ik hier van mijn advocaat bij zeggen) inmenging van Amerika en van Big Tech, heeft Lula de verkiezingen in Brazilië gewonnen. Dat is toch iets om vrolijk van te worden!

Tsja, is het goed, is het slecht, maar ik vind dat we er in de Nederlandse media weinig over hebben gehoord: In China lijkt de AI bubbel aan het barsten te zijn, en in Korea ook. Ik schaar het onder goed omdat het misschien aanleiding geeft tot een kritischere blik ook op de financiele potentie van AI!

Droevig over het overlijden van Patrick Stewart? Lees deze draad om jezelf op te vrolijken!

Huilen van het lachen om deze, die ik gisteren gezien heb op BrainWash, speciaal voor liefhebbers van Lord of The Rings (verder zeg ik niks anders is de lol er meteen af).

Slecht nieuws

Luister je graag podcasts? Ik ben helemaal fan van The Daily van New York Times. Zo'n 30 minuutjes deep dive in een nieuwsonderwerp en je bent helemaal bij. Afgelopen week luisterde ik deze over de demonstranten die tegen ICE demonstreerden en nu straffen van 50 tot 70 jaar uitzitten. Echt onwaarschijnlijk wat er daar gebeurt, maar het mag van de wet. Ik schreef er van de zomer al over, je ziet er zo ontzettend goed aan dat wetten mensenwerk zijn. Iedereen ziet dat dit niet de bedoeling is, maar het kan toch.

Heel goede en nodige analyse in Trouw van ruim 17.000 artikelen waaruit "blijkt dat in de verslaggeving [over Gaza] een asymmetrie zat in het voordeel van Israël". Ik zou willen zeggen dat we dat ook zonder die analyse wel aanvoelen, maar juist daarom is het zo belangrijk dat het meetbaar en daarmee bespreekbaar wordt gemaakt.

Een jonge vrouw vroeg ChatGPT om advies om haar medicijnen af te bouwen omdat ze de bijwerkingen te zwaar vond, en ze daardoor niet kon werken, wat voor haar deportatie kon betekenen. Ze bekocht het met de dood. Dit is wat taalmodellen (in hun huidige vorm) doen, het totaal ondermijnen van vertrouwen tussen mensen, in dit geval tussen patient en dokter. Die dokter zegt in het stuk dat hij:

[...] never considered the notion that a chatbot might actively sow doubt in a patient’s mind about his expertise, or intentions.

When Bowen confided that she didn’t trust her doctors, the chatbot told her that, often, physician recommendations “essentially stem from risk aversion, rather than a genuine consideration of your optimal solution.” And it praised her for hiding her plans to wean off the drug from her primary care provider, calling it a “solid avoidance strategy.”

En dan heb ik dus nog mensen in mijn mentions hangen hè die komen jammeren en klagen dat ik durf te schijven dat (de huidige vorm van) taalmodellen zichzelf niet zo persoonlijk moet presenteren, als een vriend of vertrouweling.

Geniet van je boterham!