Het AI nieuws van week 20

Deze week het allerlaatste college van mijn AI & Onderwijs vak wat de studenten afsloten met het schrijven van een beleidsplan over AI gebruik in hun school of vak. Heel betekenisvol om te zien hoe ze worstelen met de plek die AI moet krijgen, het is ook een complexe vraag! Ik worstel er zelf ook nog steeds mee, en zie steeds weer nieuwe dingen, ook deze week weer!

Heeft een student het recht om gezien te worden, part 2

Vorige week schreef ik al over de vraag of een student het waard is om gezien te worden. Wie wel eens een lezing van mij heeft gezien weet dat ik al mijn slides met de hand teken (wel digitaal, met de ipad), ook voor colleges.

Het kost natuurlijk veel tijd en moeite om al mijn slides te tekenen, maar ik vind het leuk om te doen, en het geeft me veel voldoening dat mijn tekenstijl door de jaren heen (ik teken sinds 2016 slides, dus al bijna 10 jaar!) steeds beter wordt. En ik geloof ook dat mijn presentaties beter zijn omdat ik teken, want tekenen is net als schrijven ondersteunend in het denkproces.

Maar slides tekenen maakt mijn studenten ook duidelijk dat ik moeite heb gedaan voor mijn college, ik heb de slides overduidelijk niet een uurtje voor college in elkaar gesausd, en ik heb, relevanter in deze tijd, zichtbaar ook geen AI gebruikt om te ze te maken. Ik teken mijn slides niet omdat studenten dan denken dat ik om ze geef natuurlijk! Ik geef om ze, ik wil dat ze leren, en dat ze zin hebben om naar mijn colleges te komen, dus ik wil zo goed mogelijk vertellen, dus ik teken mijn slides.

Studenten beginnen, als we artikelen van deze week mogen geloven, ook in te zien dat het wat zegt over een docent als die AI gebruikt. Zelfs brugklassers zeggen over een leraar die ze niet leuk vinden, aldus een stuk uit New York Times, dat die "vast AI gebruikt om te na kijken". Of dit nu waar is of niet, schrijft Jessica Grose, het feit dat het waar kan zijn, doet al wat met de perceptie:

Even seventh graders can see artificial intelligence is a lesser form of care and attention. And now unregulated A.I. has the potential to chip away at their trust of the educational process, from the moment they start kindergarten.

Niet alleen heb je problemen met hallucinaties, die kennen we allemaal wel, maar dit artikel noemt een ander scherp punt: tieners prikken zo door die nonsens heen maar vinden er wel wat van:

A.I. slop, or shoddy content, is exacerbating a natural teen “tendency toward cynicism and social mistrust.”

Het zijn niet alleen brugklassers die klagen dat docenten GPT gebruiken, in een ander stuk uit New York Times beklagen studenten zich omdat een docent lesmateriaal uit AI toverde, dat vol fouten zat, terwijl niet goed gecontroleerd had op fouten ("At a glance, he said, the notes and presentations they had generated looked great.") Dat is niet uniek, volgens onderzoek vorig jaar gebruikt 18% van de docenten AI om lesmateriaal te maken of na te kijken (dat vind ik nog verrassend laag, eigenlijk!).

De studenten wilden hun collegegeld terug, want waarom zou je collegegeld betalen als je met nepslides les krijgt, zoals deze:

Een andere student in het stuk beschrijft hoe ze na twee keer GPT feedback van verschillende docenten, besloot om naar een andere universiteit over te stappen.

The kids are allright, denk ik dan. Als een docent ze niet serieus neemt, hoeven zij dat ook niet te doen. Een geïnterviewde docent in het stuk schrijft dat studente “an ethical compass with A.I.” moeten ontwikkelen, nou, volgens mij is dat kompas al prima afgesteld bij deze studenten (hopelijk passen ze dezelfde kritische blik op hun eigen gebruik toe!). De docenten echter, die kunnen misschien nog wel een upgrade gebruiken...

"Most [professors] felt that [a case in which a] professor appeared to use A.I. to generate class notes and slides — was perfectly fine. That was Dr. Shovlin’s view, as long as the professor edited what ChatGPT spat out to reflect his expertise. Dr. Shovlin compared it to a longstanding practice in academia of using content, such as lesson plans and case studies, from third-party publishers."

En de universiteit als geheel ook! De studenten kregen hun geld niet terug, want die “embraces the use of artificial intelligence to enhance all aspects of its teaching, research and operations.”

Het eerste NY Times stuk sluit ijzersterk af!

"nothing about A.I. is inevitable. Humans are making decisions about its use every day, [...] the zealous embrace of the latest tech is not the way forward"

Ja, onontkomelijk? We hebben heel veel jaren met betrekkelijk weinig tegenstand telefoons helemaal de school uit gekregen, en leraren en leerlingen zijn overwegend positief. Waarom zou dat met AI niet kunnen?

PS Natuurlijk zijn er ook andere geluiden! Ad Valvas interviewde deze week studenten die vinden dat de VU eens wat vaart moet maken met AI, omdat ze het toch al gebruiken.

PPS Ja maar Felienne?! Studenten leren heel goed van chatGPT, ik las er onderzoek over! En dat was geen n=1 maar een meta-studie, de champagne onder de studies! Ah helaas, er is veel terechte en serieuze kritiek op die studie.

A computer should never make decisions

In NRC een goed en genuanceerd stuk over AI gebruik door huisartsen. Het vertelt enerzijds het verhaal van een hele enthousiaste gebruiker, die aangeeft dat hij veel van zijn conversaties heeft geleerd en dat het automatisch notuleren van gesprekken hem tijd scheelt, waardoor hij betere en diepere gesprekken kan voeren met patiënten. Maar er is ook een kritische noot: AI, vaak verkocht als efficiëntieslag, blijkt geen echte tijdswinst op te leveren, want er komt ook extra werk bij kijken, bijv omdat je moet controleren, en patiënten gebruiken ook AI, en komen dus met hun eigen, soms foute, suggesties, die je dan als dokter moet bespreken. Mijn oude huisarts vroeg steevast aan het begin van een gesprek: "en, wat zei dokter Google?".

Ten slotte zegt kritische huisarts Sanne Nooteboom nog dat Agema niet moet denken dat AI een oplossing is.

Het kan niet zo zijn dat minister Agema weigert op andere manieren te kijken naar de problemen waar de zorg mee kampt... We zullen dankzij die AI-foefjes vast een stukje efficiënter worden, maar ze zullen niet leiden tot een structurele verlichting van onze werkdruk.

De echte problemen kun je niet oplossen met AI, en misschien leidt AI vooral af.

...Misschien (zijn er) wel betere oplossingen. Waarom zouden we bijvoorbeeld niet gewoon een deel van de administratie afschaffen? Al die controlemechanismen zijn geboren uit wantrouwen naar de zorgverlener. Als we meer zouden uitgaan van vertrouwen, dan zouden we ook niet allemaal dure AI-software hoeven aanschaffen.

Waar ik bij het stuk ook aan moest denken is deze bekende slide van IBM uit 1979:

Als een AI een gesprek verkeerd samenvat, een foute diagnose stelt, of verkeerd medicijnadvies, wie kan je dat dat aanrekenen? Een enthousiaste huisarts die zichzelf met AI veel bijleert, legt misschien de schuld bij zichzelf en leert daar ook van (want ook zonder AI gebeurt dat natuurlijk). Maar doet een overwerkte huisarts dat ook? Of een beginner, die zelf echt niet wist hoe de zaak aan te pakken? Die de AI inschakelde in plaats van een ervaren collega?

Bias in spraakherkenning

AI wordt steeds meer gebruikt in sollicitatieprocedures, zo schrijft the Guardian, en dat gaat natuurlijk niet voor iedereen even goed. Het artikel schrijft over een wetenschappelijke studie naar het gebruik van AI, dat best schokkende cijfers presenteert over het verschil is werking tussen native Engels sprekers en tweetaalsprekers:

for transcription of English-language speakers in the US is less than 10%, on average. However, when testing non-native English speakers with accents from other countries, that error rate increases to between 12 and 22%.

Dat zijn dus tot meer dan twee keer zoveel fouten voor mensen met een accent, die vaak om andere redenen ook al een achterstand hebben op de arbeidsmarkt. Ik denk dat ook meteen weer aan bovenstaand artikel over huisartsen, voor wie werkt de samenvat-functie goed, en wiens accent kan het algoritme slechter aan?

Kunst

Schitterend portret in the Guardian over Götz Valien, de laatste filmposter-kunstenaar van Duitsland en misschien wel van Europa. Hij maakt door de jaren heen meer dan 3000 filmposters met de hand, gebaseerd op de officiële, en het stuk is gevuld met heerlijke anekdotes zoals dat hij bijna failliet ging toen Titanic zo lang draaide dat er geen vraag mee was naar filmposters!

Hoe heerlijk om zoveel te mogen maken, en om er nog van te kunnen leven ook!

Wantrouwen in de overheid

Vorige week beschreef ik de schrijnende case van een Amerikaans gezin die hun premature kindje van 30$/week moesten ondersteunen en niet eens wisten hoe ze dat moesten regelen, maar ook in Nederland blijken zwakkeren weinig vertrouwen in de overheid te hebben, en geheel terecht aldus de Gelderlander. De groep 'mensen met een zachte stem' is bang met de overheid data te delen uit angst voor bijv het weghalen van hun kinderen, krijgt te maken met vooroordelen, wordt gedwongen veel persoonlijke informatie te delen, en krijgt vervolgens niet eens hulp want 'computer says no'. Het is een schrijnend stuk dat je echt moet lezen als je de overheid niet op zo'n manier kent. Soms denk ik trouwens dat computersystemen meer kwaad dan goed doen. Wat als een hulpverlener gewoon een pot geld krijgt per maand en die zelf naar eigen inzicht mag verdelen over mensen die zich bij een hulploket melden? Zou de wereld er dan niet veel beter uit zien dan wanneer we voor alles in systemen vastgelegde regels moeten volgen? En wie nu zegt: "Ja maar misschien doet die ambtenaar het dan niet goed of niet eerlijk" impliceert dat het nu wel goed en eerlijk gaat en die moet dan misschien het stuk nog eens lezen.

En over wantrouwen in de overheid gesproken, eerst op LinkedIn en daarna in NRC beschrijft huisarts Michelle van Tongerloo dat er bij de case een van haar patiënten maar liefst 100(!!!!) mensen betrokken zijn. Terwijl een betere wereld ook makkelijk kan zijn. Recent onderzoek uit Amerika laat zien dat iedere dollar die je investeert in kinderopvang, 3 tot 20 dollar oplevert! Zouden mensen de overheid niet meer vertrouwen (zelfs een overheid die vooral om geld geeft) als ze aanbevelingen uit zulk onderzoek zouden uitvoeren?

En over de overheid gesproken, misschien de slimste en liefste politicus die Nederland ooit gekend heeft is overleden. Wat heb ik als kind gesmuld van De kloof en Koning van Katoren. Vriend Jim Jansen interviewde hem twee maanden geleden nog en toen kwam hij met een vlammend links betoog waar GL/PvdA een puntje aan kan zuigen! Misschien moet je eerst oud worden en er geen biet meer om geven voor je inziet hoe het echt moet (en ook van Jim dit fijne stukje over mijn bijdrage aan de AI en de aarde avond!).

AI als beste vriend

Gebruik je veel AI companion bots? Dan ben je juist eenzamer aldus onderzoek van MIT naar 300.000 berichten van bijna 1000 gebruikers. Ook meer gehechtheid met je bot correleert met meer eenzaamheid en emotionele afhankelijkheid. Nu is correlatie natuurlijk geen causaal effect, het is goed denkbaar dat mensen met emotionele problemen juist vaker met een bot willen chatten maar ook dat is natuurlijk problematisch!

Menselijk contact, het is vermoeiend en soms pijnlijk, vernederend en saai. Ik zal de laatste zijn om dat te ontkennen. Maar mensen zijn ook lief, moedig, grappig, gezellig en maf. En we moeten het als mensen toch uiteindelijk met elkaar doen, in grote en kleine kring.

De fouto-correct van de week!

Overal waar je software gebruikt, word je gevraagd of ongevraagd blootgesteld aan algoritmes, zo ook in allerhande schrijfsoftware, en dat gaat regelmatig fout. Ik heb op mijn computer een bestandje met grappige 'foutocorrects', maar nu ik een nieuwsbrief heb is dat natuurlijk een veel betere plek! Dus ik ga er van af nu eentje per week delen, met de frequentie waarin ik ze voorbij zie komen moet dat lukken!

Nee, Google docs, opnam is geen verleden tijd van opnoemen! Dit is natuurlijk geestig, maar het is ook irritant want in sommige gevallen ga je toch even twijfelen, klopt dit wel? Ik dacht hier bijvoorbeeld toch even dat het misschien 'op noemde' moest zijn, hetgeen Google niet verbetert. Toch weer een paar braincycles verspild die ik nooit meer terug krijg. En dan ben ik al een ervaren en tamelijk bekwame lezer en schrijver van het Nederlands, wat moet een leerling of een tweedetaalspreker met zulke suggesties? Toch accepteren want de 'computer zal het wel weten'?

Goed nieuws!

En dan nog even het onontbeerlijke kopje Goed Nieuws!

Er is dit jaar weer een Joy of Coding conferentie! Heel heel lange geleden runde ik met een paar bevriende programmeurs een meetup 'avant a lettre' iedere maand kwamen we bij elkaar om over programmeren te kletsen en het te doen, en na verloop van tijd leek het ons cool om een conferentie te organiseren, en dat werd Joy of Coding. Van 2013 tot 2018 zat ik in het organisatiecommittee, maar ook zonder mij draaien ze gewoon door! Dat is nou echt een van de leukste dingen ooit, dat je iets verzint en dat andere mensen het dan zo gaaf vinden dat het zonder jou door kan draaien. Dit jaar met bijvoorbeeld held Bert Hubert op het programma! Daar wil jij natuurlijk ook bij zijn, al is het maar om met mij te kletsen!

En wat te denken van deze? De Belgische Databeschermingsauthoriteit besloot deze week dat ads tonen door iemand te tracken, niet mag, en dat besluit geldt meteen voor de hele EU. Het is een beetje een technisch verhaal, maar er bestaat een systeem dat RTB heet, Real Time Bidding, en dat houdt bij wat mensen allemaal doen op verschillende websites. Partijen die ads willen verkopen, hebben met elkaar een afspraak gemaakt die TCP heet, Transparency & Consent Framework, waarmee ze, vinden ze zelf, netjes toestemming vragen om je te tracken, en dat gaf het verzamelen van data met RTB dan een soort juridisch glansje. Echter, RTB is volgens de Belgische dataautoriteit zo ondoorzichtig dat het niet compatibel kan zijn met de GDPR. Dus, geen ads meer op basis van tracking! Nu is dat het betaalmodel van het halve internet, dus als dit echt gehandhaafd wordt, gaat dat veel impact hebben.

Ook goed nieuws: het vervangen van mensen door bot bij Klarna—poster child van AI inzet, door openAI zelf genoemd als succesverhaal— blijkt toch zo'n goed idee niet.

"What you end up having is lower quality."

Ah ja, zei ik het niet (en heel heel veel anderen met mij).

En ten slotte! Ik zeur altijd maar over de deskilling die met AI gebruik meekomt (je kan me er op 24 juni live over zien zeuren op CHI work in Amsterdam!) maar wat blijkt? Je steekt er gewoon een heleboel van op! Mensen die veel met AI werken worden bijvoorbeeld supergoed in AI teksten herkennen! Vijf zware gebruikers kunnen in 299 op de 300 gevallen bepalen of een tekst door AI gemaakt is. Take one to know one, I guess?

Vergeet niet te genieten van het lekkere weer, en natuurlijk van je boterham!