AI in week 26

Let op, dit is de één-na-laatste gewone nieuwsbrief voor de zomer, volgende week nog eentje en dan is het weer zes weken zomerspecialtijd!

Vorige week zondag was ik te gast bij Bureau Buitenland om het te hebben over AI en geopolitiek. Live tv, altijd heel spannend om dan precies het goede te zeggen, maar ik ben blij dat ik duidelijk heb kunnen zeggen dat moraliteit geen simpele rekensom is en dat als techbros zo graag gereguleerd willen worden, ze misschien eens kunnen beginnen met simpelweg bijdragen aan de democratie door belasting te gaan betalen.

En het vervelende is, voor mijzelf vooral, dat ik vroeger ook echt in het verhaal van technologische vooruitgang geloofde, zoals ik zei ik in New Scientist [[1]]. Maar door schade en schande kwam ik erachter dat technologie niet de oplossing is, maar eerder onderdeel van het probleem. Het is eigenlijk best een droevig interview, heel mooi wel ook, maar ook confronterend hoe ik mijn vertrouwen in mijn vak ben kwijtgeraakt. De techbros die we nu aan het woord houden gewoon niet van mensen, die willen de mensheid verbeteren, upgraden, of zelfs vervangen.

Dus nu is het, in de woorden van Ben van de Burg "Aan de ene kant heb je de believers... aan de andere kant heb je Felienne Hermans" (best eenzaam alleen aan die andere kant trouwens).

[[1]]: De url geeft je gratis toegang tot mijn interview, en alle premiumartikelen op New Scientist voor 24 uur. Het enige wat je hoeft te doen is je naam en e-mailadres invullen.

Lezersvraag: Hoe maken we IT inclusiever?

Hele fijne vraag (of eigenlijk vier vragen bij elkaar!) van lezer Jeroen van Zwam nav mijn aflevering van Damn Honey. Jeroen geeft aan dat hij graag tech-workshops geeft aan kinderen, en dat gaat goed: "In twee van de drie klassen is "de beste" een dame". Dus, schrijft hij:

Wat me dan weer schokt is je conclusie dat informatica opleidingen zo gedesigned zijn dat ze richten op technische vaardigheden en niet om de wereld te verbeteren, en dat dan meisjes afschrikt en jongens aantrekt.

Dit staat haaks op mijn idee dat tech leuk is voor iedereen. Zijn jongens en meisjes dan van nature anders? Of is dit nurture?

Het is natuurlijk lastig echt hard te maken (we kunnen kinderen niet 18 jaar opsluiten en dan kijken wat ze leuk vinden), maar er is reden genoeg om aan te nemen dat meiden en vrouwen het wel kunnen en leuk vinden. Ik verwijs vaak naar onderstaande Cosmopolitan uit 1967!

Wat lezen we daar?

[Programming] is just like planning a dinner. . .You have to plan ahead and schedule everything so it's ready when you need it. Programming requires patience and the ability to handle detail. Women are 'naturals' at computer programming.

Hier zien we waanzinnig goed aan dat wat programmeren is een sociale constructie is, en erg aan verandering onderhevig. Wie zou nu ooit nog zeggen dat programmeren lijkt op een dineetje organiseren?

What happened? Nou, onder andere de bekende Nederlandse informaticus Edsger Dijkstra. Hij schreef midden jaren '70 dat programmeren eigenlijk heel wiskundig is:

In this article I intend to present programming as a mathematical activity

Interessant vooral dus omdat we hier zien dat programmeren daarvoor dus blijkbaar niet als wiskundig gezien werd, het moest wiskundig gemaakt worden. En daarmee ook mannelijk, schrijft informatica-historicus Nathan Ensmenger [[2]] .

En dat had effect:

En in die tijd gebeurde er nog meer dat hieraan bijdroeg, personal computers kwamen huizen in en werden daar vooral speelgoed voor jongens, informatica-opleidingen werden opgestart en landden vaak (zoals Dijkstra dus wilde) bij wiskunde- of techniekopleidingen en kregen daardoor de beta-smaak en bijbehorende stereotypes.
 
Dus het standpunt dat ze het niet leuk vinden... tsja, hoe verklaren we de tijd dan dat ze wel meededen? Of hoe verklaren we successen zoals op Berkeley, waar het veranderen van de naam en focus van een inleidend programmeervak grote resultaten had op vrouwelijke instroom?

Maar Jeroens vraag gaat verder:

Voor mij is techniek neutraal. Water kookt bij 100 graden, of ik nu de thee zet of mijn vriendin, of mijn nichtje van kleur, of mijn collega met Marokkaanse roots, de waterkoker maakt geen verschil. De podcast zaagt dus aan de poten van mijn bubbel, en dat is dus het verontrustende voor mij.

Ten eerste kudos voor Jeroen (en vele andere mensen) dat hij niet meteen in de pen klimt om zijn punt te maken. Jeroen, ik snap je, juist omdat ik vroeger ook zo dacht. Echter, alles is relatief, zelfs het kookpunt van water van context afhankelijk, zoals druk :) Maar belangrijker nog, misschien is de uitkomst van wat we onderzoeken vaak wel onafhankelijk van de onderzoeker, maar wat we onderzoeken niet. De onderwerpen en manieren van onderzoeken worden sterk gevormd door wie je bent en wat je al weet. Zo was ik nooit Arabisch in programmeertalen gaan onderzoeken als ik niemand had gekend die me had gewezen op alle problemen waar je dan tegenaan loopt. En ja, in de wereld waari we leven hebben vrouwen hebben nu ook eenmaal vaak andere dingen gehoord, gezien en meegemaakt, dus die kijken vaak ook anders.

En dan de twee laatste stukjes vraag, ja, het was een bijzonder rijke mail, waarvoor dank, en keep 'm coming! Heb jij ook een leuke vraag, kom maar door!

Toch denk ik dat tech -inclusief informatica- leuk is voor iedereen! Dit jaar heb ik al [een hele klas dames] mogen inspireren [die] enthousiast met programmeren aan de slag zijn geweest. Wat kan ik vanuit mijn positie doen om tech -en met name informatica- wel aantrekkelijk te maken voor dames?

Aansluiten bij de belevingswereld van meiden, bijvoorbeeld door iets met programmeren en kleding te doen. De enige subcommunity van Arduino (een elektronica-kit) waar meer vrouwen dan mannen inzitten is die van AdaFruit, waarmee je bijvoorbeeld ledjes in je kleding kan zetten. Stuur een borduurmachine aan met TurtleStitch of maak een interactief verhaal met mijn programmeertaal Hedy. Of kies iets anders dat ze aanspreekt, iets in de echte wereld werkt vaak goed, bijvoorbeeld een data-analyse over bedreigde dieren.

En voor je nu roept: "Hela, maar dat zijn toch allemaal stereotypes dat meiden dat leuk vinden!!" Ja, klopt. Lang niet alle meiden vinden dat leuk of belangrijk, maar het geeft ze wel sociale permissie om programmeren leuk te vinden, een concept waarover ik vorig jaar schreef in een paper met Jan Dittrich:

A final part of purpose is that people around you allow, or even encourage you to do an activity: Participants talked about being part of a community, that both helped them to get started and to keep going. In
other words, they experienced what we call ‘social permission’ to pursue their interests.

Techniek leuk vinden om de techniek zelf, dat valt echt niet mee als meisje. Als je een meisje van 10 bent en je soldeert graag Velleman-kitjes, dat hebben volwassenen de neiging om je tamelijk gek te vinden, ik weet daar alles van want ik was dat meisje. Het kost je moeite om steeds tegen die stroom in te zwemmen, en daar heb je waarschijnlijk een grote dosis koppigheid voor nodig en/of ouders voor nodig die altijd roepen "dat maken wij zelf wel uit" als mensen je proberen in een keurslijf te stoppen (Ik had gelukkig allebei). Programmeren koppelen aan dingen die sociaal geaccepteerder zijn voor meisjes maakt die frictie lager, en dat scheelt.

Een van de dingen die ik verdrietig vind is dat meiden zoals ik die de techniek zelf wel fascinerend vonden als kind, zich vaak erg verzetten tegen "meisjesachtiger" maken van technologie, want, dat hadden ze zelf toch ook niet nodig. Nee, maar andere mensen overduidelijk wel.

En dan ten slotte:

Hoe kan ik helpen om het systeem te veranderen?

Dat is een lastige, want systeem is tamelijk kapot (niet alleen in de IT) legt ook deze comic maar weer heel mooi uit. Soms denk ik: we moeten gewoon stoppen met meisjes de informatica in lokken met leuke workshops, als we niet ondertussen ook de informatica veranderen. Alleen maar enthousiasmeren, dat is niet eerlijk, en alleen richten op meisjes en niet op vrouwen al in het systeem ook niet.

Maarja, dat zijn geen concrete acties dus doe ik er toch nog twee die iets wat meer systemisch zijn:

• Verdedig vrouwen die het lastig hebben, op welke manier dan ook. Worden hun ideeën niet serieus genomen, krijgen ze kritiek op nonsense (zoals hun hoge stem...) Zeg er wat van. Kanaliseer je enthousiasme voor technologie daar, plz. And ja I know, het is lang zo leuk niet als een workshop voor meiden, maar dat is wat we moeten doen.
  
• Verzet je tegen het idee dan de kern van ons werk programmeren is, en dat alle andere zaken (debuggen, testen, requirements engineering) andere taken zijn voor andere mensen.
  
  Zoals de Wikipedia van programmeren pijnlijk aangeeft:

[[2]]: U kent hem ook van zijn geniale werk over schaken dat hij het fruitvliegje van AI noemt.

Vlieg toch op met je bewustzijn

Geweldig stuk van scifi schrijver Ted Chiang in The Atlantic, echt waar, een breath of fresh air:

Should we seriously consider the possibility that Claude, or any large language model, might be conscious? And if it has feelings, is it capable of receiving moral instruction? No. Absolutely not.

Chang's stuk is een reactie op Claude's Constitution, een document dat zogezegd Claude moet vertellen hoe "hij" zich moet gedragen. Chiang's stuk is ook een fijne inleiding in de werking van LLMs maar vooral fijn als tegengif voor de gekke hype dat LLMs kunnen voelen, de overtreffende trap van dat ze kunnen denken.

We hoeven helemaal niet mee in dit frame, herinnert Chiang ons. Het is een gruwelijk en on-menselijk frame, letterlijk, want het vervangt zorgen over echte, bestaande mensen die lijden, met zorgen over het verdriet en de stress van computers. Alle schade die AI toebrengt, aan klimaat, aan leefbaarheid, aan drinkwater, daar hoor je ze niet over, maar wel over die arme zielige Claude, eenzaam en alleen opgesloten in zijn silicon gevangenisje. Yuck.

Waarom moeten we dit verhaal toch steeds horen? Omdat big tech de media in zijn greep heeft! Dat lezen we in een goed paper van Abeba Birhane die goed laat zien in hoeverre tech bedrijven het narratief bepalen:

In an analysis of 1, 000 media articles “[c]orporate actors [were] by far the most frequently quoted by journalists covering AI, with no civil society voices featuring amongst the top-25 most-quoted people or organisations”………Big Tech also exerts its influence over media through ownership, funding of journalism, shaping state media regulation, targeting media (policy) research institutions and universities, and by providing platforms through which the media comes to reach their audiences. In doing so, Big Tech has created an infrastructure in which media and journalists help reproduce, disseminate, and normalize industry narratives, or face exclusion [[3]]

Rich guy quote journalism, noemt Peter Shamshiri van If Books Could Kill dat. En die guys kiezen er steeds weer voor om te praten over de ghost in de machine, gedeeltelijk denk ik omdat dat een strategie is—zo gaan mensen geloven dat het geen handig tooltje is maar een werkelijk nieuwe levensvorm—en gedeeltelijk omdat er in die kringen rondlopen die het echt geloven. Maar, citeer ik Chiang nog maar eens, we hoeven niet mee in dat verhaal. Vergeet niet dat de smoothe zinnen van Claude, ChatGPT en vele anderen zijn gemaakt om ons aan de lijn te houden:

The only reason to have an LLM emit sentences like “I understand” is to make it more appealing than a search engine and increase the likelihood that a user will return; that is, it’s another way of maximizing customer engagement.

[[3]]: Ik vond dit paper via een hele goede longread over de nepquote van Jeff Bezos die van de week rondging.

En dan nog even dit

• Mooie opinie van Hans Schnitzel: verban de smartphone uit de Tweede Kamer! Serieuze democratie vergt aandacht voor elkaar, en alleen maar twitteren voor de buhne, daar wordt het niet beter van.
• Heet? In Pakistan is het pas heet. Stuk dat mooi voorschaduwt wat ons ook te wachten staat, en dat laat zien dat onleefbare klimaatverandering er al is alleen niet gelijkmatig verdeeld.
• Mijn optreden bij Buitenhof stond in de lijst met topgfragmenten van het seizoen, zo leuk!

Goed nieuws

Jonge mannen worden steeds conservatiever (onder invloed van de manosphere)... Nee, dat valt heel erg mee was te lezen in The Guardian. Mannen tussen de 18 en 25 stemmen juist minder vaak conservatief dan oudere generaties.

En, meer progressief topnieuws! Uit Amerikaans onderzoek blijkt dat de meeste Amerikanen geven om LBGTQ+ rechten. Ook al tegen de popular opinion is dat linkse kandidaten op dat soort thema's naar het midden moeten opschuiven (ach ja we hebben bij Starmer kunnen zien hoe beroerd dat werkt). Wel "interessant" dat Yahoo bij dit nieuws schrijft "Most Americans still prefer candidates who support LGBTQ+ rights". Dat is me toch een load bearing "still" daar!

En in een saga die niet zou misstaan in een Netflix-serie gaat De Onion binnenkort starten met de reboot van Infowars, met een parodie van Alex Jones' oude show en regenmoogmerch, zodat ze van de opbrengsten de families van de Sandy Hook shooting kunnen ondersteunen. Als je dit nieuws gemist heb, even hele stuk van MS Now lezen, dat legt het verhaal redelijk kort en duidelijk uit. Misschien zou dit trouwens wel misstaan in een hedendaagse serie, want die worden steeds simpeler schreef ik in één van mijn eerste nieuwsbrieven vorig jaar.

Slecht nieuws

Hoera voor de vooruitgang?! Nou nee... Vroeger was misschien niet alles beter, maar sommige dingen toch wel, zien we in de Groene Amsterdammer, in een heel goed stuk over toegenomen armoede in Nederland vol met "fijne" statistieken:

Nederland is in veel opzichten drukker geworden. In 1975 was de Nederlander gemiddeld 43,5 uur per week kwijt aan min of meer verplichte taken als werk, huishouden, onderwijs en zorg, blijkt uit onderzoek van het Sociaal en Cultureel Planbureau. Bij de laatste meting in 2016 was dat een kleine 48 uur geworden. Is dit hoe vooruitgang eruitziet?

Mijn alma mater TU/e gaat all in op AI. Wat een droefheid:

We want our people to embrace AI, to use AI even more in their daily tasks, so that the learning process is accelerated.

Ja, want alleen als we AI gebruiken, kunnen we er natuurlijk over leren. man man man.

Alweer nieuws over Amazon, nu lijken ze intern actie te hebben ondernomen tegen medewerkers die actievoerden tegen nieuwe datacentra. Amazon zegt dat er mogelijk verwarring zou zijn ontstaan over of ze namens Amazon actievoerden of als burgers.

En zo vreselijk verdrietig, bij een Israelisch bombardement is Mona Khalil omgekomen, die zich al decennia inzette voor zeldzame schildpadden in Libanon.

Ik kreeg 'm van meerdere mensen doorgestuurd waaronder mijn lieve man: Computers zijn nog steeds heel slecht in het goed weergeven van Arabisch.

Geniet van je boterham en van het eindelijk wat koelere weer!