AI in week 39

Mijn boek is er nu echt echt bijna, ik heb deze week de flyers opgehaald en de drukker is aan het drukken! Nog even en ik heb een echt exemplaar vast, en jij hopelijk ook. Verder niet veel te melden, want ik lig as we speak een weekendje in de sauna bij te komen van al mijn harde schrijfwerk!

(And sorry, I did not write anything English this week. Best I have is a brief writeup of the talk I did in Nijmegen. But stay tuned for exciting news soon...!)

Weg bij Big Tech!

Kinderen en telefoons?

De EU wil strengere richtlijnen voor kinderen op social media, met betere leeftijdchecks die kinderen niet te makkelijk kunnen omzeilen.

Is dat nou een goed idee? Ik vind de focus van beleidsmakers op tieners en telefoons buitenproportioneel; terwijl social media ook onder andere delen van de bevolking aantoonbaar schade aanrichten. Ik zeg altijd: ik vind een boomer met Facebook gevaarlijker dan een tiener met TikTok.

Echter! We verdienen allemaal een goede fijne en veilige digitale wereld, en als we bij kinderen beginnen met de die digitale wereld gezonder maken, is dat een fijn begin. Dus ergens vind ik de vraag: is een mobiele telefoon aantoonbaar slecht voor kinderen, ja of nee niet eens heel zinvol, maar hij wordt steeds gesteld en juist omdat kinderen de groep lijken waarvoor social media of telefoon-beleid het meeste draagvlak heeft, blijft het boeiend.

Helaas is het bewijs zo eenduiding nog niet. Dit recente onderzoek onder 12.000 Britse kinderen vergeleek scholen waarbij veel ouders afspreken geen telefoons te geven tot 14 (een soort 'smartphonevrij opgroeien'-achtige afspraak) met scholen waar dat niet of minder gebeurde. Op scholen met zo'n pledge hadden kinderen minder mentale problemen. Maar ja, correlatie is nog geen causatie, het kan goed dat op plekken waar het al goed gaat met kinderen, meer ouders zo'n afspraak maken.

Dit onderzoek onder 40 tieners tussen de 15 en 20 lijkt inderdaad zoiets aan te tonen, als een kind lekker in zijn vel zit, dan zit dat kind die dag minder op de telefoon:

Results indicated that when adolescents reported higher‐than‐usual morning negative affect, they engaged in greater passive use the same day;

Dit is denk ik voor mensen van iedere leeftijd herkenbaar, als je een goede dag hebt, ga je wat leukers doen, ben je moe dan ga je bankhangen en passief scrollen (of tv-kijken etc).

Ik denk dus dat het steeds weer opdiepen van dit soort onderzoek uiteindelijk niet helpt, want er is altijd wel weer een studie die zegt dat het toch wel meevalt. Veel beter zou het zijn om in te grijpen in de apps zelfs, waarom hebben die endless scroll? Waarom zoveel reclames? Het kan toch niet dat een bedrijf zoals Meta dat afgelopen kwartaal nog 15 MILJARD winst maakte, zoveel advertenties moet tonen omdat ze anders failliet gaan...?

Dat soort features kunnen we voor iedereen aan banden leggen op basis van heel andersoortige argumenten.

Help, de agents ontsnappen, part 2

Ja, we hebben het er al uitgebreid over gehad, kap nou eens met dat antropomorfiseren.

Een vliegtuig kan vliegen, dat is prima taalgebruik, maar het is iets heel anders dan vliegen als een kolibrie of een mus. Niemand denkt dat een Boeing 747 morgen een nestje gaat bouwen met een Airbus. Net zo kan AI misschien wel taal produceren als een mens, maar meer niet. Zoals de Wallstreet Journal toelicht, in een onkarakteristiek stukje systeemkritiek:

There is one glaring problem: Software doesn’t rebel. A mathematical model possesses neither intent, malice nor the will to defy its creators, let alone extinguish our species. AI is a human artifact, engineered for profit.

Toch nog bezorgd? Dit stuk van deze altijd scherpe Eryk Salvaggio legt in details uit wat er zich bij de hack bij Hugging face technisch afspeelde!

Chatten met een paper

Onderzoekers van Stanford publiceerden vorige week een paper waarin ze een tool beschrijven om met een paper te chatten. Ze beschrijven "an automated framework that converts research papers into artificial intelligence (AI) agents". Nou dat is me wat, we hoeven nooit meer papers te lezen, hoezee. Gewoon ff snel aan de agent vragen wat er staat, en door!

Hier is weer een sterk staaltje 'informaticablik' gaande; informatici kijken naar de wereld door hun lens, en denken dat iedereen hetzelfde wil, kan en nodig heeft als zijzelf.

De onderzoekers schrijven namelijk dat het zo lastig is om een paper goed te begrijpen, want dat vergt een dataset begrijpen en software installeren. Kijk goed hoe de bait and switch werkt, we gaan van "papers zijn passief" (en daar is al heel wat op aan te merken!!) hop zo naar de special case van informatica-papers die een 'computational method' introduceren:

However, papers are fundamentally passive objects: a reader must discover the paper (not an easy task given the flood of publications), parse its contributions and manually determine how to apply them to their own work. In particular, when a paper describes a new computational method, substantial technical barriers often remain before the method can be used on new data. [madruk van mij]

Het paper vervolgt dan nog met een hele zwik dingen die je allemaal moet doen om een bepaalde tool genaamd AlphaGenome te kunnen gebruiken:

[...] installing the environment, creating client objects with application programming interface (API) keys, constructing inputs such as variant objects and selecting desired output modalities. Users must understand the API hierarchy and parameter semantics, which imposes a learning curve for biologists unfamiliar with these abstractions.

Ze testen hun aanpak dan op 100 papers, allemaal uit de beta en allemaal computationeel, en verrek zeg, dat werkt als een trein! Nergens in hun discussie komen ze maar op het idee dat er andersoortige papers zijn, papers die argumenteren, onderbouwen, werken met kwalitatieve data zoals interviews of observaties, die niet 'agentified' kunnen worden. Nee, ze zien een hele andere toekomst voor zich, waarin mensen papers zo schrijven dat agents ze nog makkelijker kunnen lezen. Ze hopen dat hun werk "[will] incentivize authors to present their work in a form conducive to agentification". Nee, dankje, ik wil graag mijn papers blijven schrijven voor mensen.

Ook hopen ze, natuurlijk, op een toekomst waarin de agents zelf het onderzoek gaan doen:

Agents could interact with one another, linking methods to datasets or combining insights from different domains.

Mensen, wat schaam ik me weer voor de eendimensionaliteit van mijn vakgebied.

Uit een onderzoek op alleen papers van je eigen vakgebied concluderen dat alle papers zou zijn, en blijkbaar nog nooit een paper hebben gezien dat andersvorming is, iets dat onmogelijk in code te vatten is. Ik denk dan natuurlijk aan papers die ik rcent gelezen heb, zoals Programming as theory building of Do artifacts have politics?. Zulke papers kun je niet samenvatten, ophakken en aan een agents voeren want ze hebben een verhaallijn, die door de auteur is opgesteld om je te overtuigen van een argument. Het is niet alleen koude kennis in de vorm van data die te extraheren is.

En zelfs in de informatica kan je dus vragen stellen bij het idee dat agents zelf nieuwe dingen gaan bedenken! Met een innovatieve onderzoeksmethode testten wetenschappers van Princeton hoe goed een AI onderzoek kan doen. Ze gaven alleen de onderzoeksvraag van twee ongepubliceerde papers (plus een paar duizend dollar aan compute) aan AI agents om die vraag te beantwoorden. Vervolgens legden ze de gegenereerde papers voor aan de orignele (menselijke) auteurs. Conclusie:

The agents completed all of the engineering without human help, yet could not make substantial progress towards answering the research questions. As a result, both papers were unambiguously rejected by the authors.

De technische stukken lukten nog we, maar de agents "struggle with critical parts of the research lifecycle."

En dan nog even dit

• Sander Otte van TU Delft, ik noemde hem al eerder, zijn techkritische (en dus realistische) klimaatverhaal heeft nu ook het Parool gehaald.
• Ook Thomas Heerma van Voss vraagt zich af waarom Alexander Klopping en andere techfans zoveel ruimte krijgen om reclame te maken voor AI. Hij noemt ook het wonder van lezen en met schrijven:

dat je in een verhaal tijdelijk een ander kan worden en jezelf kan terugzien [... en] een verhaal betreedt waarvan je nog niet weet hoe het afloopt, hoe het in elkaar zit, hoe het allemaal verder gaat.

Ik merk dat het bestaan van AI me ook echt het vertrouwen in boeken (en de mensheid?) begint te ontnemen. Ik zocht een boek over Ada Lovelace, en dan leidt een snelle search op Kobo tot heel veel, verdacht veel, waaronder ook deze:

Ah, die zijn uit 2025 en 2026, denk ik dan, dat is AI. Ik kies liever een ouder boek, zeg van voor 2020, want die vertrouw ik meer. Zot toch, dat ik boeken niet meer zonder meer kan geloven?! Dat het filter van "tsja iemand moet het toch uitgegeven hebben, dan moet het wel ergens op slaan" helemaal de wereld uit is?

Events

• Maandag 19 oktober met Paul Verhagen en Caroline Nevejan bij de Balie
• Zaterdag 31 oktober op het Brainwash Festival over Ada Lovelace. Staat nog niet op het programma, komt binnenkort! (Daarom zocht ik nog een boek over haar!)
• 12 november in de middag op de VU bij het symposium over Societal and Environmental Risks of AI (English!)
• Donderdag 10 december bij de Feministische boekenclub over mijn eigen boek Vierkante Ogen (vergeet 'm niet te pre-orderen...!)

Slecht nieuws

Heel mooi vormgegeven, tragisch stuk over daklozen die hun bezittingen– van liefdesbrieven tot een kunstgebit—en wat dat met ze doet. Nooit zo bij stilgestaan eigenlijk dat als je geen huis hebt dat niet alleen betekent dat je dak-loos bent, maar ook dat je nergens een veilige plek hebt om je spullen te bewaren, dingen die je dierbaar zijn, die bij je vroegere leven horen toen je wel een huis had.

We denken bij klimaatcrisis, ook door de term global warming, vooral aan het steeds warmer worden van de aarde, maar een ander probleem, waar we misschien sneller last van zullen krijgen dan alleen van warmer weer, is de balans in water op aarde. Die balans begint verstoord te raken, steeds meer water in de zee, en minder op het land:

"Since 2021, the total volume of water in rivers worldwide has consistently been lower than during the comparable period from 1991 to 2020. Last year was among the driest of the past 35 years. In 2025, rivers carried less water in 36% of the world's basin areas than during the comparison period."

Met niet alleen zeespiegelstijging tot gevolg, maar ook extreme droogte, overstromingen en de daarbij behorende impact op voedselvoorziening. Maar laten we vooral nog wat datacentra neerzetten!

En de IND heeft twee AI systemen ingevoerd om asielaanvragen sneller mee te kunnen beoordelen (genaamd Robin en ChatIND). What could possibly go wrong? De IND deed dat zonder de systemen te melden bij het algoritmeregister, dat was niet nodig omdat ze volgens de IND zelf, geen hoog risico vormen...! Tsja het gaat ook maar over de veiligheid van mensen, een hallucinatietje meer of minder, prima toch? Als het dan maar efficienter gaat, toch? De redering van de IND staat ook weer bol van de antromorfismes. In interne stukken (in bezit van NRC)

[wordt] Robin [...] geïntroduceerd als een assistent „die je vragen kunt stellen of opdrachten geven, net zoals je dat bij een collega zou doen”. Je kunt ermee „brainstormen” en het teksten laten „opstellen”. Zo’n AI-hulp levert niet alleen „gemak en tijdwinst op, maar ook kwaliteit”: door het programma kunnen IND’ers „consistenter” werken. De immigratiedienst bevestigt dat de AI-assistenten worden gebruikt, zonder dat hier ruchtbaarheid aan is gegeven.

En dan nog dit historische onderzoek naar Weimar-Duitsland. Op plekken waar in de jaren '30 van de vorige eeuw veel extreem-rechts aan de macht kwam, maar niet mee mocht besturen, nam na die verkiezingen geweld toe, vermoedelijk uit onvrede voor het niet mee mogen doen. Zoals een van de onderzoekers schreef op Bluesky, dat levert een duivels dilemma op:

Exclusion can fuel disillusionment and violence. But inclusion may provide legitimacy, immunity, and even more violence down the road.

Goed nieuws

DigiD kan nu ook zonder smartphone!

Trump moet van de rechter de eerder geweigerde pers (waaronder CNN) toch weer toelaten, en mag ze de komende twee weken niet weer de toegang tot het Witte Huis verhinderen. De rechterlijke macht houdt het nog even, in Amerika.

Meta wordt in Duitsland door de rechter verantwoordelijk gehouden voor nepadvertenties. Ze moeten sneller handelen als nepadvertenties gemeld worden, en ook transparant gaan rapporteren over wat ze er eigenlijk verdienen. Heel goed! Want weten dat Meta snel en effectief advertenties kan verwijderen, bijvoorbeeld als die verwijzen naar "‘social topics’ such as civil rights or feminism", waardoor een theather in Barcelona geen ads kon plaatsen voor hun vertolking van 'A Room of One’s Own' van Virgina Woolf.

En... Er zijn nog kaartjes voor mijn boekpresentatie op donderdag 5 november bij Pakhuis de Zwijger! Of is het geen goed nieuws dat het nog niet uitverkocht is?! Koop ze snel, dan kan ik volgende week onder slecht nieuws melden dat ze op zijn :-)

Geniet van je boterham!