AI in week 43

De dag die je wist dat zou komen is eindelijk hier..... Morgen zit ik bij Athenaeum om alle gesigneerde exemplaren van Vierkante Ogen te tekenen. En dan kan iedereen het boek gaan lezen; zo spannend om straks van mensen te gaan horen wat ze ervan denken!

Waar gaat dat boek eigenlijk over?

Tsja, over een hele hoop! Over mijn studie, over feminisme, en over Arabische compilers.

Maar het belangrijkste idee zit in de ondertitel: hoe programmeurs naar de wereld kijken.

Wij kijken allemaal grotendeels naar de wereld door de ogen van programmeurs die software maken. Privé zit je misschien op Insta, YouTube, BlueSky, op je werk zit je in allerhande softwarepakketten die je werk moeten stroomlijnen. Maar het doet er nogal toe hoe die software werkt, dat vormt de wereld. Want wat krijg je voor content op YouTube als je 10 kattenfilmpjes hebt bekeken? Nog 10? Of nu eens een keer een panda of een papegaai voor de afwisseling? Of een speech van Martin Luther King. Zo'n algoritme bepaalt hoe we de wereld zien, letterlijk, dus de makers ervan hebben macht. Niet alleen de techbazen, ook de bouwers die voortdurend kleine keuzes maken met grote gevolgen.

Maar anders dan bij een krant waarvan we goed weten dat de Telegraaf de NRC niet is, zien we software als iets neutraals én iets oncontroleerbaars. Alvast nog meer over het boek weten? Ik was deze week al te gast bij BNR om er uitgebreid over te vertellen, en in de Codeklets podcast.

Is het erg om te schrijven met AI?

Het was weer volop in het nieuws, schrijven met AI, kamerleden, wetenschappers, wie doet het niet? En het is toch niet erg? Als je maar staat voor wat je schrijft!

Een voorspelbare mening natuurlijk van mensen die het zelf fijn vinden om met AI te schrijven, zoals ik zelf ook altijd denk dat één wijntje niet ongezond is, omdat ik het lekker en gezellig vind. Maar natuurlijk weten we allemaal eigenlijk wel beter. Waarom is deze mening zo wijdverspreid? Daar zijn denk ik twee redenen voor.

Voor eentje kunnen we ver terug in de tijd, naar de Turing Test. Daar schrijf ik ook over in Vierkante Ogen:

De eerste denker die zijn licht liet schijnen over de vraag of computers konden denken was waarschijnlijk Alan Turing. [...]

Turing schreef in 1950 een paper over de vraag of computers kunnen denken. In dat paper beschrijft hij de Imitation Game, iets dat we nu wel kennen onder de naam Turing Test. In die test wisselt een ondervrager vragen uit, met of een mens, of een computer. De ondervrager moet vaststellen of hij met een mens of met een computer communiceert, en om dat zo eerlijk mogelijk te maken is het het beste als dat communiceren alleen via tekst gaat, zodat intonatie geen rol speelt in het besluit.

De Turing Test heeft het idee populair gemaakt in de informatica dat het alleen de uitvoer is die ertoe doet. Niet het interne denkproces dat daartoe leidt, of de gevoelens die een gedachte veroorzaakt hebben of teweeg brengen Dat soort dingen kunnen we immers niet meten, en meten is weten in de denkwijze van programmeurs.

We zien het uitwissen van emoties die komen kijken bij taken ook al lang terug, bijvoorbeeld in deze kop over Kasparov, toen schaken in de jaren '90 kon worden 'opgelost' door computers. Maar er gebeurde meer bij hem dan alleen het verlies. Kasparov was 'blue' na het verlies, zei de ene headline, en hij werd boos, zei de andere:

Een computer kan wel schaken, maar niet boos worden van verliezen, of verdrietig of rancuneus. Het gedeelte van wat schaken dat iets doet met de innerlijke mens, wordt met de informaticablik altijd verwijderd uit het verhaal.

Dat geldt precies zo voor taal. Door kamervragen te schrijven, schrijft een politicus niet alleen een stuk tekst, maar gaat die ook zitten voor een vraagstuk, denkt erover na, wordt er misschien boos van of verdrietig, en die emotie nemen ze dan mee in hun werk, althans, dat hoop je toch! Of andersom, ze voelen al iets, en zetten dat om in actie in de vorm van een vraag.

Dus als ze dat met AI gaan doen, dan verliezen we wel degelijk iets. We verliezen dat ze hun hart en ziel leggen in werk, want iedereen voelt aan dat een tekst controleren niet dezelfde gevoelens oproept, al leidt het wel tot dezelfde tekst.

Zoals ze bij Current Affairs schreven als uitleg waarom ze geen enkele AI-tekst toestaan:

But we need, first, to ensure that technologies are a tool used by workers to help them, rather than a tool used to replace workers. And, second, we need to make sure that readers aren’t being fed things that look like people’s genuine thoughts and creative expression but are in fact the product of disembodied mathematical formulas. (nadruk van mij)

Ja!! (ook op dat eerste argument, trouwens)

En dan de tweede reden: bias. Taalmodellen hebben bias. Het is bijna te saai om aan te kaarten, want ja, dat weten we toch allemaal al? Hoe vaak hebben we het al niet gelezen. Maar het doet ertoe, want taalmodellen hebben meer bias dan mensen, schreef ik begin 2025 al. Logisch, want ze kijken naar de wereld zoals die uit de afgelopen jaren blijkt, niet maar de wereld zoals die nu is, en al helemaal niet naar de wereld zoals we die zouden willen hebben. Terwijl Kamerleden, hoop je dan toch, wel werken voor een wereld die we willen hebben. Ook daarin schuilt een gevaar. Want we herkennen denk ik ook allemaal wel dat als je een stuk voor ogen krijgt, zeker een lang complex stuk, dat je al snel denkt: ach ja, dat klopt wel zo ongeveer. De problemen erin herken je dan lang niet altijd.

Deze oude programmeurs-meme geeft het eigenlijk heel grappig weer, dit geldt voor tekst net zo goed.

Dus hoe groot is de kans echt dat mensen, Kamerleden incluis, alle tekst van een AI-gegenereerde tekst echt in detail uitpluizen en de bias eruit halen. Kan het? Tuurlijk. Is het waarschijnlijk? Nee.

Niet iedereen maakt zich natuurlijk zorgen over chatbots die niet vooruitstrevend genoeg zijn.... "Die chatbots zijn hartstikke links, we moeten ze soms echt corrigeren", zei ex-pvv’er René Claassen in de Groene Amsterdammer (met dank aan een lezer voor deze leuke tip)

Van wie is een elektronisch apparaat?

Alweer een onderwerp waar het in mijn boek over gaat: wie is er eigenlijk de baas van de digitale wereld? Dat is een grote, theoretische vraag als we het over social media hebben, maar ook een kleine, praktische vraag als we het hebben over apparaten. Wie heeft er de macht om een apparaat aan te passen? In Vierkante Ogen schrijf ik over hoe programmeurs daar naar keken (oa in de free software beweging):

Software moest dus gratis zijn, maar bovenal ook ook free zijn in de betekenis van vrij ("free as in speech" zeggen de programmeurs daarover). Als code niet van jou is, is het hele apparaat eigenlijk niet van jou. Als je software gebruikt heb je het morele recht hebt om ook de code erbij te krijgen, zodat je die naar hartelust kan aanpassen, aldus pioniers uit de jaren 80.

Dat klinkt in de huidige totaal dichtgetimmerde digitale wereld misschien absurd, maar bij de meeste producten werkt het natuurlijk wel zo. Koop jij een broek, dan mag je die zelf korter knippen, afscheuren, verven. Je kunt je fietsspaken met rietjes of crêpepapier versieren, wie doet je wat?! Op de computer ben je heden ten dage totaal overgeleverd aan wat de makers van software toevallig dachten dat handig was.

Dat geldt voor zo ongeveer alles. Een kleine ergernis uit mijn eigen leven is mijn superslimme koffiezetapparaat (een Siemens EQ9). Op dat ding kan je profielen aanmaken, handig als de ene huisbewoner zijn espresso supersterk wil, en de andere juist niet. Maar... een profiel blijft actief als het apparaat aan blijft staan. Als het ding zichzelf uitzet—en dat doetie uiteraard na een minuut of 10 met veel lawijt—logt hij uit uit je profiel, moet je weer naar Profielen klikken, en dan is de eerste optie, je gelooft het niet: maak een nieuw profiel aan. Zoiets dat je letterlijk een keer in je leven doet als je het ding uit de doos haalt, want hoe vaak krijg je nu een nieuwe huisgenoot. Niet goed over nagedacht dus door de programmeurs.

In een betere fijnere wereld zou ik dat zelf kunnen aanpassen, ofwel omdat de maenu layout makkelijk in te stellen was, of omdat ik gewoon zelf de firmware kan aanpassen. Nu moet ik ermee dealen en dat geldt niet alleen voor koffiezetters maar eigenlijk voor alles. Van je tijdslijn op de socials tot een onlogisch genaamd knopje in een boekhoudapp: jij past je maar aan, de computer zegt sowieso no.

Nu, dit is echt meer dan een beetje irritatie, want het heeft een enorme impact op de wereld om ons heen. Heeft jouw buurman een Amazon Ring deurbel, dan staat diens data niet op dat ding, maar op de server van Amazon, waar ze zomaar kan worden opgevraagd door de Amerikaanse overheid. Geen hypothetisch scenario, het gebeurt al. Of dit bizarre verhaal, van een college in de VS dat Flock-camera's aanschafte (dachten ze) om de campus te beveiligen, van gedachten veranderen maar toen niet meer van de camera's af konden!

De wereld was dus echt veel beter geweest als we zelf allemaal kritischer waren geweest op het open source maken van software, zeker op devices. Dit had van burgers kunnen komen—geen code, geen aankoop—maar ook van politici. Het is nog niet te laat, we kunnen onze volksvertegenwoordigers nog steeds vragen om het makers van tech verplicht te stellen om bij ieder product de software open én aanpasbaar te maken maar het is nu natuurlijk wel een grotere uphill battle dan 30 jaar terug. Over hoe dat verzet eruit ziet schrijf ik ook wat in mijn boek, maar deze nieuwsbrief is alweer lang genoeg, over een paar weken daarover weer een exerpt hier te lezen.

Goed nieuws

Meer belasting voor ondernemers? Prima idee! Onderzoek uit Noorwegen waar de belasting op hoge inkomens fiks verhoogd werd laat zien dat ondernemers niet en masse het land verlieten (er vertrokken er minder dan 100 en vooral onder de top 0.1% rijksten). Good riddance, toch? Want voor de rest van de mensen leverde het veel meer belastinginkomsten op. Ook mooi, er werd geen bewijs gevonden dat er minder geïnvesteerd werd na de maatregels (ook een veel genoemd argument tegen dit soort regels dat er dan geen geld overblijft om mee te ondernemen).

Zei ik al dat mijn boek er is? Jawel toch? Dat is toch ook goed nieuws! En er zijn ook nog (een paar!) kaartjes voor de presentatie van mijn boek op 5 november bij de Zwijger. Reserveer snel voor ze op zijn!

Events

Je kan me de komende tijd ook nog elders treffen, komende week:

• Woensdag (28e) bij de Tweakers Dev Summit. In aanloop daarnaar interviewden ze me deze week al
• Zaterdag (de 31e) bij Brainwash

En voor wat verderop in de agenda:

• Dinsdag 10 november op de SURF onderwijsdagen. Ze publiceerden in aanloop daarnaartoe alvast een interview met mij!
• Woensdag 11 november op ICAB (English)
• Donderdag 12 november in de middag op de VU bij het symposium over Societal and Environmental Risks of AI (English!)
• Zondag 15 november in Haarlem bij het Denkkracht festival
• Maandag 7 december bij het Nationale AI debat van BNR

Kort over PHP

Owja, er was ook nog iets met programmeertaal PHP deze week. Tweakers legt het goed uit! Ik zei er zelf ook nog wat over in Trouw, niet gedacht dat mijn subsubsubvakgebied, het gebruikersgemak van programmeertalen, nog eens mainstreamnieuws zou worden! Heb je zin om je echt in de menselijke kant van de chaos te verdiepen—en dat kan ik je echt aanraden—lees dan dit interview in de Atlantic met php-maintainer Ondřej Surý.

En als we het dan toch over programmeren hebben, nog even over Linux (een bekend open source alternatief voor Windows). Die gaan "full slop" en staat AI codes vanaf toe, zelfs zonder dat het nog duidelijk hoeft te zijn dat het om AI-gegenereerde code gaat. Nu is dat natuurlijk sowieso al een beetje een wassen neus, want als een menselijke developer al zijn code door AI laat schrijven maar het wel als mens opstuurt, dan zie je dat ook niet.

Maar even terug naar Linux. Interessant ook is de motivatie van Linux-baas Linus Torvalds; die zegt dat LLM's gewoon een tool zijn. Je leest toch ook niet alle byte-code door die de computer gebruikt als jij code schrijft in bijvoorbeeld C (voor de niet-programmeurs, zeg maar de "nulletjes en eentjes")? Hij lijkt aan te nemen, en dat is echt heel vreemd voor zo'n ervaren programmeur, dat er net zo'n correspondentie is tussen zulke byte-code die door een compiler gegenereerd wordt uit C en de C-code die gegenereerd wordt uit een prompt. Maar compilers genereren op basis van dezelfde C-code altijd gegarandeerd dezelfde bytecode, en hebben nog veel andere garanties, die niet voor een taalmodel gelden. Het is vragen om problemen, dat kan niet anders zowel fouten, als exploits in taalmodellen. Verder had Linus natuurlijk in Linus-stijl ook nog wel wat te zeggen over anti-AI mensen, die zijn gewoon woke:

Linux is not one of those anti-AI projects, and if somebody has issues with that, they can do the open-source thing and fork it.

… The kernel project has been and will continue to be about the technology.

… This is NOT some kind of “social warrior” project, never has been, and never will be.

Dit is trouwens iets dat Linus altijd al gezegd heeft, dat Linux geen politiek project is maar zijn eigen zaterdaghobby die wat uit de hand gelopen is. Het is alleen technische en verder niks (als Microsoft er last van heeft is dat maar een fijne bijkomstigheid zegt hij in dit stuk uit 2003). Dat zijn dus weer die Vierkante Ogen van de programmeurs, alsof iets maken en gratis weggeven niet altijd al een daad van verzet is! En alsof de manier waarop je dat doet de wereld niet beïnvloedt! En weet je wat Linux dan doet om de problemen te adresseren? Geld aannemen van Meta!!!?!?!?! Nou dan weet je uit welke hoek de wind waait, toch?!

Dit is dus waarom ik niet geloof in digitale soevereiniteit zonder digitale autonomie. Ik wil geen Linux in plaats van Windows, want ik vertrouw Linux-makers net zo min. Het enige dat ons uit deze ellende helpt is minder technologie!

Slecht nieuws

Pfff nieuws dat pijn doet, een kwart van de Gen Z mannen steunt het idee om feminisme met geweld te stoppen. Feminisme zien ze als een gevaar voor de samenleving, waarschijnlijk omdat ze het zien als een gevaar voor hun eigen status en kansen in het leven (en, al gaat dit stuk over homohaat, omdat jongeren nog niet zo weerbaar zijn tegen intolerantie, aldus een mooi Volkskrant-interview met hoogleraar Niels Spierings) Wat slagen we er toch slecht in, allemaal, om uit te leggen dat feminisme de wereld voor iedereen beter maakt.

Ook pijnlijk, Google kapt illegaal 250.000(!) bomen voor een nieuw datacentrum.

Nog even over de AI-bubbel, gaat die nu barsten? Het kan zo maar eens die kant op gaan... Banken die eerst nog in de rij stonden om leningen te regelen voor datacentra proberen nu in kleine stukjes van die leningen af te komen:

Some lenders are now willing to sell pieces of it to non-bank buyers at a discount, just to move it. Six months is a long time to sit on debt nobody underwrote to hold forever.

Kredietcrisis anyone?

En niet alleen banken, ook andere bedrijven zijn flink minder enthousiast, schreef de Guardian onlangs:

Employers are navigating a flood of errors and low-quality work that are sapping employee time, raising privacy and security risks and pushing up costs. Now, some businesses that started off fast and furious on AI are pumping the brakes, implementing restrictions where experimentation was once encouraged, bringing back experienced workers and upping training efforts.

Precies wat natuurlijk iedereen met een beetje verstand verspelde, ja het kan tekst genereren en dat lijkt tijd te sparen maar iemand downstream, of een collega, of een klant moet dealen met de uitvoer. Zo voerde ook Thuisbezorgd onlangs (ongevraagd) AI-foto's bij restaurants, en die moeten dan opeens allemaal de foto's gaan controleren of klanten moeten aangeven dat het niet klopt.

Genieten maar!

Geniet bijvoorbeeld van deze heerlijke banger die ik van een leuke lezer toegestuurd kreeg! En geniet van weer een heel uurtje extra licht in de ochtend (voor de haters hier nog even een zeer fijne uitleg waar de klok verzetten een goed idee is)

En geniet natuurlijk ook van mijn boek als je het deze week binnenkrijgt. Wat zeg je? Vind ik het leuk als je me een foto stuurt als je het aan het lezen bent?! JAZEKER!

En geniet natuurlijk van je boterham!