AI in week 36

Welcome new English language followers! You might have found me through the talk I did at DDD Europe of which the video was released last week. Sadly, this newsletter is usually in Dutch, if you want to check out some of my English language content, I record a podcast in English about my vision on computer science, that I also write about here!

Weg bij big tech

Owja, en ga ook maar weg bij "small tech" Polarsteps, het lieflijke alternatief voor big tech als je op vakantie foto's wil delen met het thuisfront. Want wat blijkt uit onderzoek van FTM? Zo lek als een mandje! Jammer, want het idee van social media voor kleine kring is juist zo fijn, wél informatie delen, niet scrollen en refreshen en ads en influencers. Maar ja, niet ten koste van al je locatiedata op straat, natuurlijk.

De uitspraak over Meta

Nog even over Meta, want vorige week had ik er geen plek meer voor. Het was ook een beetje flits-nieuws, zo vlot als de rechtszaak begon, was hij ook alweer afgelopen met een soort sisser, Meta heeft geschikt voor 18 miljard. Bizar, zoveel geld, maar alleen als je niet weet dat ze 50 miljard omzetten per kwartaal. Dan lijkt het eigenlijk maar een schijntje. Ze hadden in het geval van een negatieve uitspraak wel 200 miljard kunnen krijgen! Niet voor niets ging de beurskoers omhoog na de schikking, nou dan weet je wel wie er eigenlijk "gewonnen" heeft. Niet de kleine man (m/v).

Bovendien is het jammer omdat we zo niet de gory details te weten komen over wat er binnen Meta speelt, zei collega-Firewaller Nienke de Bruijn in Trouw:

“Deze zaak had heel interessant kunnen zijn, omdat een rechter een oordeel zou gaan vellen over het handelen van Meta tegenover jonge gebruikers”, legt ze uit. “Maar dat is niet gebeurd. We weten daardoor nu bijvoorbeeld nog steeds niet of Meta actief jongeren verslaafd heeft proberen te maken. En op welke manier gebruikt het bedrijf gegevens van kinderen om hun algoritmen te trainen?”

En ja, ook ik had wel willen smullen van meer inside info, nog meer koren op de molen van "bij big tech moeten we weg". Maar, weten we nog niet genoeg? Zien we Mark Zuckerberg niet voortdurend van de pot gerukte dingen zeggen en doen? Vroeger over de Metaverse—een oopsie van 80 miljard—nu over AI?

En hebben we niet allemaal het boek Careless People gelezen, waarin Sarah Wynn-Williams uitlegt hoe Meta te werk gaat? Of toch tenminste een samenvatting ervan (het is vrij dik)?

Ik schreef er vorig jaar over in de Volkskrant:

bijvoorbeeld hoe 13- tot 17-jarigen die op Instagram een selfie verwijderen door het algoritme worden geclassificeerd om extra beauty-advertenties aan te tonen. Want een verwijderde selfie, betekent dat ze zich bij nader inzien blijkbaar niet zo knap voelen. Tijd dus voor een nieuw potje foundation!

Ook jongeren zelf zijn kritisch op social media, ze zouden er liever minder op zitten, en bijna 40% zegt zelfs dat ze nooit uitgevonden hadden moeten worden!

Hebben we dan echt nog klokkenluiders nodig om te snappen dat features zoals auto-play en endless scroll verslavend zijn? Kijk naar het eelt op je eigen duim en je weet toch al genoeg?

Maar goed er zijn natuurlijk ook gewoon goede uitkomsten van deze schikking als is het dan (nog?) niet het failliet van Meta. Meta moet het ontwerp van hun producten aanpassen en..

er bijvoorbeeld voor zorgen dat kinderen en jongeren straks niet langer dan twee uur per dag op Instagram en Facebook kunnen. Ook moet er een nachtslot op de apps komen, waardoor ze ’s nachts niet kunnen scrollen. Daarnaast mag Meta onder schooltijd nog maar een beperkt aantal pushmeldingen doorlaten.

Goed, liever zou ik hebben dat dit soort regels voor alle leeftijden gelden, maar soit. Dit is winst. Net als de al eerder door Bits of Freedom bij de rechter afgedwongen regels over de chronologische tijdslijn, die inmiddels ook door Meta ingeprogrammeerd zijn.

The kids are allright

Wat is AI, vroeg ik mijn leerlingen in de brugklas in de eerste les van ons nieuwe vak. Er kwamen van allerlei mooie reacties, maar twee leerlingen schreven: AI is nep. Yes, dacht ik, die kunnen eigenlijk al met een voldoende naar huis!

Het is geen echt luisterend oor, geen echt opiniestuk, geen echt advies of inzicht.

En mijn leerlingen zijn niet de enigen, jongeren overal zijn kritisch op AI. Een recent onderzoek van Amerikaanse nieuwszender CNBC toonde aan dat bijna de helft van jongeren (45%) onder de 34 denkt dat AI een negatieve impact op hun carrière zal hebben. Meer creativiteit, verhoogde productiviteit? Jongeren geloven het niet, althans, denk ik, geloven ze niet dat ze met AI meer beloond zullen worden voor hun werk, ook niet als dat dan beter en sneller is. Dat lijkt me heel terecht, banen juist voor jonge mensen drogen op, terwijl mensen die al langer werken voordeel (lijken te) hebben van AI-gebruik.

Misschien ook niet zo gek dat meer jongeren in Amerika positief staan ten opzicht van socialisme, zoals ook uit de CNBC poll blijkt.

Maar meest opvallend uit het onderzoek is deze grafiek, jongeren vertrouwen de mannen achter AI niet om verantwoordelijk te handelen. Ja ook dat lijkt me zeer terecht, waarom zouden we techbazen vertrouwen, die vanaf dag 1 van Trump 2 letterlijk en figuurlijk achter hem zijn gaan staan?

En nu zou je zeggen, dat is goed nieuws voor het onderwijs! Jongeren vertrouwen tech niet, en hebben geen idee hoe hun leven er straks uit gaat zien, hun baan, hun wereld, hun democratie. Ze geloven "Ga studeren, dan heb je straks een goede baan" niet meer, en twijfelen dus over het nut van een studie.

Dat is nou eens vruchtbare bodem voor betekenisvol onderwijs! Bevrijd van de noodzaak om ze vlot iets heel nuttigs te leren, kunnen we misschien tot echte mooie kennis komen. En met 'tech' en kapitalisme als gezamenlijke vijand kunnen we samen nadenken over zingeving, over de betekenis van werk, verder dan geld verdienen. Dat is er toch niet meer bij.

Onderwijs doet echter grotendeels het tegenovergestelde. Ondanks de grote weerzin die jongeren voelen tegen AI als economisch en democratisch fenomeen—wat niet wil zeggen dat ze het niet gebruiken, "Being angry at it doesn’t mean they aren’t using it. The sense of entrapment fuels the anger." schreef Amerikaanse literatuur professor Matt Seybold bij dit nieuws—en tegen de visie van de techbros, gaat onderwijs mee in hún visie van de nieuwe wereld: jullie moeten AI leren gebruiken. Wij leren jullie tools te gebruiken van mensen die jullie helemaal niet vertrouwen om goede tools te maken.

Wat een misser. Vertrouwen in professoren mag dan misschien niet al te hoog zijn, het is nog wel meer dan de ca. 30% waarop de techbros kunnen rekenen. Wij zijn de mensen waarnaar studenten opkijken, aan wie ze vragen: wat kan ik worden in tijden van AI, wie kan ik worden?

Op de VU, zeggen we zelf trots, word je niet iets, maar iemand!

Hoe droevig dan toch dat wij in het onderwijs hetzelfde antwoord geven als de techbros, dat onderwijs er is om maar zo snel mogelijk zo productief te worden, met AI als het moet, sneller, meer, beter, beter dan jijzelf ooit zal zijn. Wie wil zichzelf dan nog leren kennen, laat staan ontwikkelen tot iemand?

Niet gek misschien dat 's werelds meest linkse machthebber, burgemeester Zohran Mamdani van New York een AI-verbod heeft ingesteld voor basisscholen en "middle schools" (tot 14). Want, zegt hij, tech bedrijven zeggen dan wel dat AI onvermijdelijk is, maar dat maken wij zelf wel uit.

Tech bedrijven hebben LLMs over ons uitgestort, niemand heeft erom gevraagd. Waarom zouden wij dan mee moeten in het verhaal van mensen die we allemaal niet vertrouwens? Mee moeten in de logica, niet alleen dat AI "werkt" maar ook dat het doel van school is om technologie te leren gebruiken om zo productief mogelijk te worden.

En dan nog even dit

• Hele mooie verzameling bronnen en heel concrete aanbevelingen over onderwijs en racisme!
• Anthropic voorziet Claude uitvoer binnenkort van een onzichtbaar watermerk, waarmee mensen (docenten bijvoorbeeld) makkelijk kunnen gaan controleren of een bepaalde tekst met AI gemaakt is. Dat moet Anthropic gaan doen omdat de AI dit act voorschrijft. Of dat nu een goed idee is, tsja. In de basis denk ik van wel, het kost Claude weinig moeite om dit in te bouwen, en naïef gebruik met alleen copy-paste is dan makkelijk te vangen. Maar studenten zijn slim, en overal poppen natuurlijk al weer tooltjes op om het watermerk te verwijderen. En dan gaan ze daar hun tijd weer aan besteden ipv aan hun huiswerk.
• Soms moeten we maar lachen in plaats van huilen, zoals in deze McSweeneys (een soort De Speld), die vertelt wat kinderen dit jaar mee naar school moeten nemen:

One case of bottled water. Please note: This is not drinking water. This water will be used only if Tony the Chatbot becomes sentient and begins to amass power. The district believes we can neutralize him by pouring water on the hard drive before he begins communicating with external servers and starts an uprising. For drinking water, please use the water fountain in Hallway C to fill your own Stanley cup, which you can buy from an ex-influencer in the breadline for the low price of fifty dollars (not adjusted for inflation).

Goed nieuws

Geruzie over de begroting (en nog geen steun van een meerderheid), maar dat is klaarblijkelijk goed nieuws, want dat zorgt dat niemand op onderwijs of onderzoeks wil korten!

Washington Post journaliste Karen Attiah moet van de rechter terug in dienst genomen worden. Ze schreef na zijn moord over "white men who espouse hatred and violence". En ja dat is misschien scherp, maar dat hoort bij het schrijven van opinies. Daar zo maar voor ontslagen worden, kan niet.

Onderzoekers hebben een soort onderzeestad voor vissen ontdekt, een plek zo groot als Orlando, waar z'n 60 miljoen vissennesten bij elkaar liggen.

Slecht nieuws

Onderzoek van de VN laat zien, verrassing verrassing, dat AI systemen grote gender bias hebben:

A study of 133 AI systems found that 44 per cent demonstrated gender bias, while more than a quarter showed both gender and racial bias.

En dan ten slotte, de Aracari, hij is er, maar nu in het echt. De Morgen schrijft dat AI gegenereerde foto's van vogels steeds vaker in natuurdatabases voorkomen (databanken schrijven de Belgen, heel mooi)

Geniet van je boterham en van een dagje najaarszon!