AI in week 22

(Again no English, sorry!)

Nou, wat een week, moet ik het nog over de Paus gaan hebben zeg. Het is vreselijk toevallig, ik lunchte vorige week met een gelovige vriend, die zei dat hij het zo jammer vond dat er vanuit de geloofswereld zo weinig over AI gesproken wordt. Nou, die is op zijn wenken bediend! Ik kan er alleen als een chatbot over praten ben ik bang. "Aan de ene kant... maar aan de andere kant..."

Aan de ene kant is het goed dat de Paus verstandige dingen zegt:

De paus is huiverig voor de ontwikkeling van de technologie omdat de systemen volgens hem desinformatie verspreiden, conflicten aanwakkeren en het risico met zich meebrengen dat de wereld op ‘een pad van eindeloze oorlog’ terechtkomt. Overheden moeten volgens de paus daarom ‘robuuste wettelijke kaders’ tot stand brengen. (Volkskrant)

Aan de andere kant benoemt hij ronkende voordelen, en legt een duidelijke focus op het gebruik van AI als middel om het te begrijpen:

He acknowledges that AI can accelerate scientific progress and improve life for all. But he argues that it is not morally neutral and must be designed within an ethical framework from its inception. “Let us not be afraid to get our hands dirty on the ‘construction site’ of our time,” he wrote. (Financial Times)

Aan de andere andere kant mag je de woorden van de Paus ook wegen tegen het feit dat hij nog steeds weigert iets over andere misstanden te zeggen, kindermisbruik bijvoorbeeld waarvoor toch al best lang 'robuuste wettelijke kaders' bestonden die decennia door priesters met voeten—en andere lichaamsdelen—getreden werden.

Aan de andere andere andere kant kan je je afvragen waarom Anthropic daar zo'n hoofdrol speelde in het Vaticaan. Is het niet gek dat je zegt dat we voorzichtig moeten zijn met AI terwijl je naast één van de aanjagers zit, die je daarmee een soort Pauselijke zegen geeft? Dat versterkt het beeld dat er wel degelijk, goede, ethische AI kan zijn, een niche die Anthropic perfect voor zichzelf geeft uitgehakt.

Aan de andere andere andere andere kant kan je je nog afvragen of Paus Leo XIV die 40.000 woorden helemaal zelf getypt heeft... Op Less Wrong—je weet wel, waar Roko's Basilisk het leven zag, niet kapot van daarnaar linken maar here we are—kan je een lange maar overtuigende analyse dat de encycliek zélf met Claude geschreven is. En ja met data alleen kan je dat niet bewijzen, maar gezien het feit dat omarmen ook een belangrijke rol speelt in zijn verhaal, is het best geloofwaardig.

Aan de andere andere andere andere andere kant, hoe mooi en hoopvol is dit?

So-called artificial intelligences do not undergo experiences, do not possess a body, do not feel joy or pain, do not mature through relationships and do not know from within what love, work, friendship or responsibility mean. Nor do they have a moral conscience, since they do not judge good and evil, grasp the ultimate meaning of situations, or bear responsibility for consequences. They may imitate language, behavior and analytical skills, or even simulate empathy and understanding, but they do not understand what they produce, for they lack the affective, relational and spiritual perspective through which human beings grow in wisdom.

Het is bijna Nick Cave, vroeg in deze hype:

Data doesn’t suffer. ChatGPT has no inner being, it has been nowhere, it has endured nothing, it has not had the audacity to reach beyond its limitations, and hence it doesn’t have the capacity for a shared transcendent experience, as it has no limitations from which to transcend. ChatGPT’s melancholy role is that it is destined to imitate and can never have an authentic human experience, no matter how devalued and inconsequential the human experience may in time become.

Maar hadden we daar de Paus voor nodig? We kunnen ook te raden bij Joseph Weizenbaum, 1976:

What I conclude here is that the relevant issues are neither technological nor even mathematical; they are ethical. They cannot be settled by asking questions beginning with "can."

Mei, Social media vrij tips!

Nou, we zijn er bijna hoor! Morgen mogen we weer scrollen. Weet niet of ik daar nu blij mee moet zijn of niet. Ik mis heel erg leuke linkjes tegenkomen, de serendipity van de socials (al heb ik de afgelopen weken van een hoop lezers van alles toegestuurd gekregen en dat was ook een prima manier om bij te blijven, naast gewoon kranten en nieuwsbrieven lezen), maar ik mis niet het gezeur, de ophef, de latente spanning als je iets posts of er wel likejes komen.

En dat is nu precies het probleem, zelfs als je je bewust bent van de manipulatie van de algoritmes, je doet er toch aan mee. Je brein is gewoon niet opgewassen tegen die continue aandachtstrekkers, en Big Tech buit dat uit als geen ander, is te lezen in dit achtergrondstuk uit The Economist:

In 2016 Meta was losing ground to TikTok and Snapchat. That year, executives set the “overall company goal” as “total teen time spent”. 

Maar ja, we zitten vast. Want, als je er niet op zit, dan mis je toch wat? Ondanks de enorme haat die bijvoorbeeld politici over zicht heen krijgen, ze blijven er toch op!

Van de tachtigduizend berichten [op X] die politici in de week voor de Kamerverkiezingen ontvingen, waren er ruim 22 duizend gericht op het kleineren, vernederen, intimideren of bedreigen van hen of anderen. (Bron: Volkskant)

Voor het laatste weekend heb ik eigenlijk maar één leestip! Dit stuk over de gendered dynamiek die AI binnen huishoudens veroorzaakt gaat echt hard. Sommige mannen gaan all in op AI, zien het als de kans om de wereld te veranderen, maar als ze een partner en een gezin hebben, eist dat wel zijn tol, aldus dit geweldige stuk in Wired:

And it’s affecting their relationships. The pressure to keep up means zero boundaries at home. The very masculine energy of it all. And the constant fighting, which is about something bigger than them. He’s off in another world, a world of prompts and benchmarks and epiphanies, while she’s firmly in this one.

Vaak nemen ze hun werk dan ook mee naar huis, niet zoals vroeger in de vorm van spanning, maar letterlijker, door de chatbot ook in huis te gebruiken:

Princess Diana famously said there were three people in her marriage. For the sad wives of AI, the third is a chatbot.

En natuurlijk heeft ook dit alles met kapitalisme te maken, want het is ook enorm moeilijk om je gezin te onderhouden, en dat wordt alleen maar moeilijker:

There is this sense [...] that this is their last chance. They’ve tried everything else, these men, from writing screenplays to investing in crypto. It’s AI or bust.

Ok, ok nog een heel kleintje dan! Die ik in maart gemist had, over een leerling die Amerikaanse schrijver Jason Reynolds zo'n goede mail stuurde dat hij bij ons op school langskwam!

Een nieuwe Google?!

Afgelopen donderdag was ik te gast op de NOS podcast De dag om het te hebben over de nieuwe Google. Google gaat all in op AI in hun search, kondigde ze recent aan met de gevleugelde kreet "Google search is AI search". Ik dacht daarbij meteen aan Hillary Clinton: "Women's rights are human rights."

Eerst wilde ik dit tussen haakjes zetten, als een aside, maar hoe meer ik erover nadacht, hoe meer ik begon te denken dat dit nu juist onderdeel van het punt is. Een mensenbrein is geen machientje, je geheugen is geen harde schijf. Emoties sturen in hoge mate wat je onthoudt. Doe maar eens iets heel gênants, dat weet je decennia later nog precies! Ik moest aan de speech van Clinton denken omdat ik er emoties bij voel; omdat het me pijn doet dat "women's rights" alleen niet duidelijk genoeg is, we moeten er blijkbaar nog bij uitleggen dat we mensen zijn. In heel letterlijke zin waren we lang geen onderdeel van de groep waarvoor geen mensenrechten golden.

Ok en nu komen we dan echt bij Google en AI. Wat ik ook in de podcast zei is dat AI search geen kleine update is, maar een fundamentele verschuiving is van wat Google ís.

Het klinkt subtiel maar Google is de nieuwe versie niet meer een machine die een lijst met bronnen uitspuugt; plekken met een "loket" zoals Maxim Februari dat zo mooi zegt. Staat er op een site van een persoon of instantie iets dat niet klopt, of waar ik het niet mee eens ben, dan kan ik ze mailen, bellen of me vastlijmen aan hun hoofdkantoor. Bovendien ligt moeite van het er wel of niet mee eens zijn ligt nu nog bij mij; ik moet zelf bronnen lezen, argumenten naast elkaar zetten en tegen elkaar wegen. Na afloop heb ik dus niet alleen een antwoord, én ben ik bereid dat antwoord uit te leggen, te onderbouwen, erover te discussiëren etc. Schrijven is, met andere woorden, het maken van een theorie in je hoofd.

Maar het nieuwe Google geeft me geen lijst bronnen, maar een antwoord, één antwoord. Een antwoord losgezongen van een mens of instantie die voor dat antwoord staat. Een antwoord waarbij ik geen enkele emotie voel, niet alleen omdat het altijd brak "aan de ene kant... aan de andere kant..." maar ook omdat ik er niks voor heb hoeven doen. Ik hoef geen emotionele of argumentatieve arbeid te verzetten. Ik heb onderweg nooit gedacht heb: bah, wat een onzinnig argument. Of wow, wat mooi en wat dapper. Vragen stellen doe je niet alleen om een antwoord te vinden, maar ook om het proces. Zoals Hannah Arendt schrijft in Het leven de van de geest:

Achter alle cognitieve vragen waarop mensen een antwoord vinden, houden zich onbeantwoordbare vragen schuil. Als mensen hun honger naar betekenis [...] verloren [...] zouden ze meer dan waarschijnlijk niet langer bekwaam zijn op die gedachtedingen te produceren die we kunstwerken noemen, en ze zouden bovendien het vermogen verliezen om al die beantwoordbare vragen te stellen waarop else beschaving gebouwd is.

Ja! Het oude Google hielp ons ook bronnen te vinden voor het overpeizen van onbeantwoordbare vragen [[3]].

AI Search is natuurlijk niet de eerste stap die Google in die richting zet, ze zijn al mijlenver af van hun origine als idealistische zoekmachine, die ze zelf zo beschreven in een paper 1998.

Automated search engines that rely on keyword matching usually return too many low quality matches. To make matters worse, some advertisers attempt to gain people’s attention by taking measures meant to mislead automated search engines. We have built a large-scale search engine which addresses many of the problems of existing systems.

Het begon al met de introductie van adwords in 2000, vrij kort na de oprichting in 1998 eigenlijk, dat verbaasde me. De jeugdige naïviteit duurde maar heel kort, al werd het mettertijd wel steeds erger toen Google, bijvoorbeeld door de advertentie-markeringen steeds minder duidelijk te maken [[2]] Na heel wat aan-en-uitzetten kwamen in 2018 echt de Featured Snippets en in 2020 lanceerde Google de Knowledge Panels. Beiden waren een fikse stap was richting deze AI search (en ook op een ander soort AI leunt dan LLMs, de Knowledge Graph), in de zin dat je ook door dat panel niet meer zelf naar informatie hoeft te zoeken maar die aangereikt krijgt.

Een zoekmachine die iedereen een pasklaar, eigen, grijs antwoord geeft zal nooit irriteren, boos maken, iets zeggen dat écht niet kan, of juist iets dat je opvrolijkt, raakt of aan het huilen maakt.

Ik had het van de week voor een nieuwe project (sooooon vertel ik er wat over) over het boek Computer Power and Human Reason van Joseph Weizenbaum dat ik hierboven ook al even aanhaalde, en we vroegen ons af voor wie hij dat boek eigenlijk schreef. Het is zo'n mix van random gedachten, het lijkt niet met een duidelijke doelgroep in gedachten te zijn geschreven. Ik denk dat hij het boek vooral voor zichzelf schreef als een soort biecht over zijn original chatbot sin. Maar ik zei ook dat het voelde of hij het boek voor alleen mij schreef, alleen voor Felienne in 2025, zo eenzaam in de informatica-wereld, zo verdrietig van wat de denkwijze van de betas doen daar, en in de wereld at large. Het raakt me zo dat er ooit een persoon heeft bestaan die zei dat:

Then, too, I am constantly confronted by students, some of whom have already rejected all ways but the scientific to come to know the world, and who seek only a deeper, more dogmatic indoctrination in that faith

Net als het me raakt dat Clinton na gedoe over het al dan niet thuis bakken van koekjes nog durfde op te staan en vechten voor vrouwenmensenrechten [[1]]. Die context maakt de quote anders, en precies dat soort embedding in verhalen en emotie probeert Google van af ons te nemen. Straks snappen mensen verhalen gewoon niet meer, omdat ze er niet meer aan blootgesteld worden. En dat is geen doemscenario! In dit mooie Kunststof-interview vertelt tekstschrijver Jurrian van Dongen hij dat kinderen, maar ook ouders, steeds meer moeite krijgen met snappen dat acteurs rollen spelen, en dat Klokhuis daar nu al op aanpast.

En waarom? Misschien omdat ze bang zijn dat ChatGPT marktaandeel van ze afneemt, maar dat is, volgens Paris Marx niet eens echt terecht; ze gingen van 92% in november '22 naar zo'n 90% nu. Het is meer dat openAI ze een soort permissie gegeven heeft. Vóór ChatGPT durfde Google, zegt Marx, niet zomaar live te gaan met een chatbot:

Google had already been experimenting with chatbots, but was hesitant to release them to the world for fear of the public relations disaster that could follow from the responses they might output, and the scrutiny they would attract from regulators. Microsoft had seen that first hand when it released Tay in 2016, only for it to begin echoing the Nazi and racist sentiments of those engaging with it in less than 24 hours. But once OpenAI deployed its “hallucination” machine, the guardrails were off.

Ironisch ergens, want OpenAI is juist opgericht omdat ze Google niet vertrouwden met een chatbot.

Weet ik veel - week 1!

Afgelopen week was ik op de buis bij Weet ik veel (terugkijken kan via Videoland). Het is enorm leuk om aan zo'n grote productie mee te werken, zoveel mensen die allemaal op de juiste plek staan; een feestje om zo'n goedgeoliede machine te zien werken. En, je steekt er nog wat van op ook, ik heb in de voorbereiding van de vragen heel wat leuks geleerd!

Zo wist ik niet dat keerkringen (steenbok- en kreeft-) naar sterrenbeelden genoemd zijn. Nu kan je dat op zich nog wel raden aan de naam, maar wist je ook dat die vroeger, duizenden jaren geleden, boven die plek zaten, maar nu niet meer? Ik niet!

En... hoe vaak draait de aarde om zijn as in een jaar? 365 toch, zou je denken! Fout! In een dag (van 24 uur) draaien we precies een rondje, maar omdat we ook om de zon draaien moet je net een pietsie verder om weer met je neusje naar de zon te komen. Als die kleine beetjes samen zijn weer precies een dag, dus in een jaar draaien we een keer meer dan je zou denken.

Ook kreeg ik deze week de kans om wat over Hilma af Klint te vertellen, wiens werk ik zag in het Guggenheim in 2018. Haar werk was lang (op haar eigen verzoek) onbekend, maar ze wordt nu (terecht) gezien als een pionier in de abstracte kunst. Ik wilde re" af Klint nog even gaan fangirlen over Linda Nochlin maar we zitten al weer voorbij de 2500 woorden dus dat moet volgende week. Als het niet meer past schuif ik soms stukken door, met als gevolg dat ik nu tot en met week 27 al stukjes heb staan. Het gaat nog eens zo uit de hand lopen dat ik een jaartje rond vooruit typ en dan ontploft mijn database denk ik.

Dinsdag zijn we er weer om half 9 op RTL4.

En dan nog even dit

• Ik was vorige week zondag bij Met Mandy! om het te hebben over Big Tech en ook over de Firewall
• Financiele bubble van AI: https://www.thestateofbrand.com/news/ai-subscription-time-bomb
• En ik was aan het Signalen met de Linkse Mannen over het verlaten van Big Tech (volgende week te gast op hun podcast)

Goed nieuws

Sporten goed voor je? Zeker! Maar goed nieuws als je daar geen trek in hebt, culturele activiteiten ook! Nu weet ik niet of ik echt van zulke instrumentele argumenten hou, iets mag ook gewoon mooi zijn om het mooi, maar toch, mooi meegenomen!

Het paper waarover ik eerder al schreef is nu officieel uit, onder een iets andere titel. Lezen en ook citeren mag :) Dat hebben we wel nodig want AI zorgt voor een nieuw soort Matthew effect (dat is een wetenschappelijke naam voor "the rich get richer"), papers met al veel citaten krijgen er door AI nog meer. Logisch want een LLM kiest minder vaak onwaarschijnlijke dingen uit, maar ene mens kan zomaar eens op wat geks struikelen.

Slecht nieuws

Ik linkte vorig jaar al naar vreselijke verhalen over bevallingen in de nieuwe realiteit van de VS, maar deze over moeders die hun tienerdochters tevergeefs met abortus wilden helpen, "something that mothers have done for millennia" is beyond gruwelijk. Je kan je toch niet voorstellen dat een kind van 14 geen abortus kan krijgen, niet eens omdat het illegaal is—"bringing your child across state lines to end their pregnancy is not illegal anywhere in America" vermeldt het stuk—maar omdat instanties je tegenwerken. En dat jeugdzorg daarna dan op de stoep staat om die 14-jarige, inmiddels dus met kind, uit huis te halen. Gelukkig liep het in dit geval goed af omdat nonprofit If/When/How kon helpen, maar wat een onmenselijke ellende.

MIT sluit drie van zijn vier bibliotheken. En dat is ons aller voorland in de wetenschap!

Ook niet fijn, de Thwaitesgletsjer staat op afbreken, en als je nu denkt, achja, is dat zo erg? Dan moet je misschien weten dat ze dat ding ook wel de Doomsday-gletsjer noemen.

Man die AI gebruikt? Ach, die had gewoon een beetje hulp nodig. Vrouw die AI gebruikt? Die kan het niet eens zelf. Onderzoek onder 1000 Britten laat zien dat vrouwen veel vaker "gestraft" worden voor AI gebruik. En opvallend, Gen Z-mannen oordelen het sterkste!

Is zijn liefde voor LLMS geen reden om hem te boo-en, dan dit toch wel, Eric Schmidt pleitte voor Amerikaanse congres-commissie over energie voor meer energie (nodig voor AI, natuurlijk): "Renewable, nonrenewable, whatever"

Geniet van je boterham!

Voetnoten

[[1]]: Op een dag doe ik nog eens een vrolijke lofzang op HRC, ondanks dat ze natuurlijk ook gewoon een warmonger was net zoals of misschien zelfs wel een pietsie erger dan US establishment in het algeheel.

[[2]]: Als je echt echt zin hebt om in de geschiedenis van Google Search te duiken, kan je deze post van Ed Zitron lezen, maar wees gewaarschuwd, die man is vele malen minder zuinig met woorden en linkjes dan ik.

[[3]]: Los nog van het feit, zoals ik op het einde van de podcast nog noemde, dat we zo serendipiteit gaan missen, eens een keer iets tegenkomen dat je niet zocht, maar wel mooi vond!