AI in week 38

Nou welkom in weer een week... De techbros riepen weer eens wat, de Nederlandse media nam dat over en boem, waren wij AI-critici weer de hele week aan het puinruimen. Zou willen zeggen dat de nieuwsbrief daardoor kort is, maar dat is helaas ook niet gelukt.

Help, de agents ontsnappen!

Ik sprak dus deze week met nu.nl, de NOS, Radio 5 en last but not least, het Jeugdjournaal over de oproep van Amodei voor meer AI wetgeving. Dus ik hoef mijn take hier niet nog een keer uit te leggen! [[2]]

Ik geef nog wel een paar andere leestips:

1. Zeer fijn stuk van Ilyaz Nasrullah in Trouw, die haarfijn uitlegt wat er bou gebeurde bij de veelbesproken hack. Echt in normalemensentaal ontzenuwd!

2. Wil je er echt nog dieper induiken, niet alleen in deze hack maar nog dieper in wat AI nu is en hoe het werkt? Lees dan deze superlange longread van professor Iris van Rooij van de Radboud die uitlegt hoe de modellen werken. Een soort vitamine-C noemt ze het tegen de hype.
Voor je klikt! Het stuk is lang, en het stuk is taai. Het neemt je mee aan de hand, maar je moet er wel even voor gaan zitten. Maar goed dan heb je je shotje vitamientje voor de hele (AI-)winter ook wel gehad, dus absolute aanrader!

3. Niet over de techniek, maar over de denkwijze van de bros gaat deze van Cal Newport, de beroemde informaticaprofessor. Kenden we hem eerder meer als vlotte productiviteitsguru, nu ontpopt hij zich als een van de serieuze Amerikaanse de-hypers uit de informaticawetenschap zelf, die een inkijkje geeft in de invloed van de 'rationalisten' (het klinkt beter dan het is, trust me) op het AI-discourse.

This reality, that Rationalism deeply influenced many of today’s major A.I. companies, helps us calibrate the unnerving language we’ve been hearing from their leaders.

4. En dan ten slotte, welke tijdslijn leven we toch in, dat een satirische website misschien de beste kijk heeft op het nieuws van de week? Beaverton schreef dat oproepen tot regulering echt veel cooler is dan toegeven dat AI niet werkt. Dat is denk ik de spijker op de kop. Er zijn van allerlei redenen te hypothetiseren waarom de techbros oproepen tot de regulering, maar deze miste misschien toch nog een beetje. Het tempo van ontwikkeling kan niet doorgaan; het geld in de wereld en/of de gpu's zijn straks op, dat kan gewoon niet anders, en moeten ze vertragen (Zie ook alle miljoenmiljard posts van Ed Zitron). En als ze dat "zomaar" doen, dan stort hun beurswaarde in. Regulering daar de schuld van geven zou ze perfect uitkomen.

Al deze stukken dus van mensen dus die de hele week mochten puinruimen, en over dat puinruimen zelf heb ik, met een aantal andere tech experts, ook wat geschreven. Wat begon met een grappig appje waarin ik me beklaagde over "Klöpping-corvee"—dat wij iedere keer als hij op tv komt weer aan de beurt zijn om uit te leggen dat het echt wel wat genuanceerder ligt, en dat er echt ook nog andere manieren zijn om ernaar te kijken—eindigde met een stuk in Vrij Nederland onder dezelfde titel. Het was fijn om eens wat georganiseerd tegengas te kunnen geven met experts zoals Ilyaz en Iris wiens stukken ik hierboven ook noem, en andere fijne mensen die je ook vaker zou moeten horen in het debat zoals Siri Beerends (die hier wel al vaker langskwam).

AI is een onderwerp dat veel te breed en veelzijdig is om aan één duider over te laten, en al helemaal eentje zonder aanwijsbare diepe expertise op een relevant vakgebied. Zoals we ook zeggen in het stuk:

Klöppings verhaal is eenzijdig. Telkens meldt hij dat AI slimmer is dan de mens, maar dat is een verhaal dat nuance verdient en aandacht vanuit allerhande vakgebieden. AI is als vraagstuk net zo veelzijdig als klimaatverandering. Het is een verhaal dat je kan belichten vanuit de meteorologie, maar ook vanuit historisch of politiek perspectief. Juist die breedte mist hier.

Ok, ok, dan ga ik toch nog één ding zeggen, over het klimaat. Naast al het AI nieuws, heb ik de hele week heb ik grafieken en headlines gezien die aangeven dat het helemaal, gruwelijk, en algeheel uit de klauwen loopt. Kijk zelf maar.

Waarschuwingen over toenemende temperatuur zijn onderbouwd en er is wetenschappelijke concensus over. Het feit dat dit risico door de techbazen onbenoemd blijft (of sterker nog, een probleem dat ze wel kunnen oplossen), zegt eigenlijk al genoeg.

[[2]]: Bizar wel trouwens dat ik het eens met met David Sacks en Mark Zukerberg, die ook vinden dat de AI-bedrijven zelf gewoon kunnen stoppen als ze willen!

Wat is programmeren?

Mensen in mijn vakgebied blijven het maar hebben over de hardnekkige mythes van het vakgebied informatica bijvoorbeeld dat software maken over programmeren gaat. Hè bah, hoe kan het nou toch dat mensen dat nog denken, schreven deze onderzoekers. Het beeld is hardnekkig, schrijf ik ook in mijn boek Vierkante Ogen:

Veel mensen denken bij programmeren alleen aan het in de computer zetten van codes. Maar als we het vergelijken met schrijven zie je dat het een veel rijker proces is. Want als ik zeg dat ik een boek aan het schrijven ben, dan zie jij mij voor je geestesoog echt niet alleen maar typen in Word. Je snapt dat ik ook veel lees, voor input, dat ik rondloop of op de bank zit en nadenk, en dat ik nalees, redigeer en schrap. Bovendien kan schrijven tot van alles leiden, tot een heel formeel paper of een sollicitatiebrief, maar ook tot een liefdesbrief of zelfs een velletje vol losse krabbels. En ten slotte snapt bijna iedereen dat als je een vaag idee hebt, en je gaat schrijven, dat het idee dan scherper wordt, of dat je soms na een tijdje tot de conclusie komt dat je idee zo sterk niet was.

Hoe kan het dan toch dat deze mythe in stand blijft, dat mensen denken dat programmeren het allerbelangrijkste onderdeel is van software maken, en niet, rondlopen, denken, schaven en onderzoeken wat mensen nodig hebben?

Helaas staan deze onderzoekers daar verder niet bij stil, maar ik wil wel een gooi doen naar het antwoord: informatica-opleidingen.

In een informatica-opleiding leer je programmeren. Geen software ontwikkelen, maar programmeren, door het schrijven van piepkleine programmaatjes die priemgetallen printen of stukjes tekst op alfabet zetten. Wij hebben sinds kort een eerstejaars informatica bij ons op zolder op kamers, en die moest deze week voor zijn huiswerk een lijstje getallen sorteren en het kleinste missende getal uitprinten. Nou van dat soort opgaves leer je dus wel dat informatica gaat over programmeren niet over ontwerpen, denken of plannen.

Mensen die in informatica-opleidingen werken vinden programmeren leuk, kunnen dit soort programmaatjes zelf goed overzien, en dus leer je dat, niet alleen in je eerste jaar, maar de eerste paar jaar, tot je misschien is het laatste jaar van je bachelor een keer een iets groter (maar nog steeds klein) projectje en dan denken ze: ach, de rest lukt je wel, succes met software maken in de rest van je carriere.

De situatie is zo losgezongen van de realiteit, dat het niet goed uit te leggen is als je zelf niet aan een informatica-opleiding bent blootgesteld, maar stel je voor dat je op een opleiding journalistiek nooit een stuk schrijft. Je interviewt nooit bronnen, je doet nooit archiefonderzoek, je krijgt nooit een stuk terug met de rode pen van een editor. Het enige dat je leert is drie jaar lang spelling en grammatica, logica en argumentatieleer. Dat is de beste vergelijking die ik kan maken met een informatica-opleiding: je leert de spelling en grammatica van code, en de logica, en niks anders.

Natuurlijk ga je dan denken dat codes produceren het enige is dat ertoe doet, en juist dat kunnen taalmodellen ook. Geen wonder dat programmeurs en masse een identiteitscrisis krijgen! [[1]]

[[1]]: Nu lijkt die crisis absoluut niet nodig, blijkt ook uit dit leuke (en heel mooi vormgegeven) stuk van van de zomer uit de Volkskrant. Echt een app maken, zelfs vanuit technisch perspectief, is zo eenvoudig nog niet, en ook niet zo goedkoop.

Protest

Macklemore, wat een baas. Je kan het haast niet gemist hebben, hij werd (onder druk van stadioneigenaren, naar verluidt) uit de tour van Ed Sheeran gezet. En of je het nu met hem eens bent of niet, de manier waarop hij uitlegt wat het probleem is met de wens van Ed Sheeran om neutraal te blijven in Gaza-Israel, petje af daarvoor. Er is, hoe graag je dat ook wil, geen neutraal in zulke kwesties want niks zeggen is ook iets zeggen.

Maar weet je, ik snap Sheeran ook (zijn verklaring lees je hier). Ja, hij is een lafaard, zoals Maarten Mantel beknopt liet zien in Vrij Nederland. Maar dat vind ik ook makkelijk, want natuurlijk is hij bang voor de implicaties van achter Macklemore gaan staan. Het is heel lastig te overzien hoe zoiets je carriere schaadt. Ook Susan Sarandon, Mark Ruffalo en Javier Bardem geven aan problemen te hebben gekregen vanwege hun activisme. Stationeigenaren met diepe zakken zijn een serieuze vijand, heb je pech dan speel je nergens meer. Niet helemaal vergelijkbaar, maar dat overkwam natuurlijk ook Colin Kaepernick. Die had met zijn macht en geld destijds ook niet had kunnen denken dat de gevolgen van zijn piepkleine verzet zo groot zouden zijn (zie ook deze mooie terugblik).

Boeiend dus om te zien hoeveel tegenstand Sheeran krijgt, meerdere voorprogramma's en zijn eigen band willen inmiddels ook niet mee op tour en hij maakte gisteren bij een concert een soort van excuses.

Dat is natuurlijk ook de kracht van een statement zoals dat van Macklemore, hij vormt met zijn retoriek een groep van mensen om bij te horen, je wil met hem meedoen in zijn strijd.

En dan nog even dit

• Je zou het helemaal vergeten in al dat andere medianieuws, maar ik schrijf vanaf nu iedere maand voor het Onderwijsblad!
  
• Het CDA pleit voor minder schermen in de klas. Goed idee!
  
  Ik geef sinds dit jaar informatica uit een papieren boek en het is heerlijk!
  
  Ik heb er al eerder over geschreven maar simpele dingen als "kijk allemaal even bovenaan pagina 71" kosten drie seconden, in een digitaal systeem uitleggen waar iedereen moet zijn, daar ben je echt zo een paar minuten aan kwijt!
• Leescrisis (Pisa, anyone)? Niet alleen de samenleving kan (en moet, zeil ik eerder al) als rolmodel dienen, ook karakters uit televisie-programma's kunnen ook als rolmodel dienen, schrijft dit onderzoek!

Winactie!

   

Ik was afgelopen week op de boekpresentatie van het boek Je geld of je gegevens, geschreven door UCL politicoloog Anja Shortland. In de Nederlandse vertaling uitgegeven door Follow the Money. Het is een heel interessant boek, dat vooral ook een historische kijk biedt op ransomware.
Zoals ik schreef op de flap: ‘Van onschuldige studentengrappen in de jaren ’70 en ’80 tot een miljardenbusiness.’
Wil jij dit boek ook lezen? Ik mag er 10 weggeven!

 

Let op! Niet replyen op deze mail, want ik krijg al veel berichtjes. Dat is meestal erg leuk, maar dan moet ik te veel zoeken naar de boekenliefhebbers. Mail me dus op mijn nieuwe adres winnen@felienne.nl, en vermeld meteen je adres. Verder hoeft er niks bij, maar complimenten mogen altijd :)

Slecht nieuws

Ik was naast alle andere media, ook nog op de radio bij Jan-Willem Roodbeen, die van Radio 2 naar Radio 10 is overgestapt. Nu vind ik zijn programma echt leuk, dus ik ging net mijn Lightphone hacken om er ook Radio 10 op te draaien (dat is een beetje een gedoetje, de prijs van geen smartphone hebben...) Maar daarvoor had ik een streaminglink nodig, toen keek ik per ongeluk op de site van Radio 10, en wat blijkt? Ze hebben meer DJs' die Edwin heten EN meer DJ's die Jeroen heten (namelijk: twee per stuk) dan vrouwelijk DJ's (namelijk maar eentje). Man man man man man man (letterlijk). Geen wonder dat we weer drie plekken gezakt zijn op de Global Gender Gap Index van het WEF.

Initiatieven zoals festivals met een focus op vrouwelijke artiesten (recent weer eens gedaan door Olivia Rodrigo) zijn dus echt echt nog hard nodig!

En niet alleen op de Nederlandse radio gaat het beroerd met de gendergelijkheid, ook op streaming gaat het nog niet zo best, als we kijken naar vrouwelijke makers (dus niet acteurs). Dat aantal neemt af. Het ging van 36% in seizoen 24-25 naar 24% in 25-26 (in 23-24 was het 27%). Ook voor tv-series geldt die trend, daar zakte het percentage van 20 naar 19.

Goed nieuws?

Ok, deze over ultramarathons! Een van de weinige sporten waar vrouwen het echt kunnen opnemen tegen mannen en dat bleek deze week toen Katharina Hartmuth op het podium stond bij de Tor des Géants.

En er zijn meer tekenen dat vrouwen sommige dingen echt beter kunnen dan mannen, zo vallen bij (gewone) marathons in zware condities vrouwen veel minder vaak uit! Dus misschien toch maar eens tijd om de muren tussen de sekses op te heffen in de sport? Je zou, beargumenteert dat artikel, verschillende klasses mensen van alle genders eerlijk tegen elkaar kunnen laten strijden, zoals gewichtsklasses bij boksen.

Events

• Komende donderdag op de boekpresentatie van Ilyaz Nasrullah (helaas al uitverkocht, maar wie weet zie ik je daar als je al een kaartje hebt!)
• Maandag 5 oktober op het Lerarencongres (gratis!)
• Maandag 19 oktober met Paul Verhagen en Caroline Nevejan bij de Balie
• Donderdag 5 november natuurlijk, mijn boekpresentatie!!
• 12 november in de middag op de VU bij het symposium over Societal and Environmental Risks of AI (English!)
• Donderdag 10 december bij de Feministische boekenclub over mijn eigen boek Vierkante Ogen (vergeet 'm niet te pre-orderen...!)

Geniet van je boterham!