AI in week 37

Sorry lieve vrienden, ik heb een terugval en deze nieuwsbrief is weer ruim over de 2500 woorden. Maar ik heb dan ook wat moois te melden... Ik heb deze week de allerlaatste edits gedaan, en volgende week gaat mijn boek naar de drukker! Volgende maand ligt het in de boekhandels, en op donderdag 5 november vindt de boekpresentatie plaats bij Pakhuis de Zwijger. Koop snel een kaartje dan zie ik je daar!

For the English readers, there is a new episode of CSoC and an accompanying blogpost! And also I translated this week's Volkskrant column to English!

Weg bij Big Tech

Do artefacts have politics?

De allerlaatste Computer Science, Off Course van seizoen 1 is verschenen, hoera! Al doen Hanna en in volgende week nog wel even een kleine terugblik op het seizoen (en misschien wel een vooruitblik op seizoen 2!). We hebben het in de laatste aflevering gehad over een relatief kort en simpel paper, dat zeker niet alleen voor informatici nuttig is om te lezen.

Het paper legt namelijk uit dat technologie altijd politiek is. Soms beïnvloedt technologie rechtstreeks hoe we het leven leven. Maar, en dat is nog veel duidelijker in de huidige tijd, vormt technologie zich naar toch al bestaande systemen en conventies. In mijn bijbehorende blogpost geef ik een voorbeeld uit het onderwijs, die zijn er talloze. Een LMS bijvoorbeeld, schreef ik vorig jaar al in de Volkskrant, leunt op een schoolcultuur waarin slecht gedrag opgemerkt wordt, maar goed gedrag niet.

Maar hier pak eens een wat andersoortig voorbeeld: Meta Rayban brillen. Die worden, verrassing, en masse gebruikt door jongens om meiden mee te filmen. Dat is dus een technologie die mensen en hun samenleving volgt. Want ondanks dat zomaar foto’s van mensen maken vaak niet legaal is, is het wel redelijk sociaal geaccepteerd. Per ongeluk iemand in de achtergrond fotograferen, of een foto van een knap iemand snappen en delen in een appgroepje, het mag niet, dat weten mensen meestal echt wel, maar het gebeurt toch. Een interessant voorbeeld van waar een wet er niet in slaagt om een sociale norm te veranderen, vaak volgen normen wetten wel redelijk, zoals met binnen roken.

Maar die samenleving beïnvloedt dus wat voor software we kunnen krijgen. Want stel je even voor dat we in een wereld leefden waarin mensen hun beeltenis heilig was, en alleen van hen. Foto’s maken van een ander was cultureel absoluut nooit oké. In zo’n samenleving kan een Meta-bril niet bestaan, want mensen zouden het niet accepteren, en niet kopen. En bedrijven zouden het dus niet maken. Onze samenleving is zowel compatibel met, als wordt gevormd door deze brillen.

Over neutraliteit gesproken! Ik kreeg veel reacties op mijn zomerspecial over de (on)gelijkheid van mannen en vrouwen, en op de vraag van Arnold Wester ga ik graag dieper in, omdat die bij dit onderwerp zo mooi past [[2]].

Een curriculum moet gericht zijn op de beste wetenschap.

Het klinkt zo goed, en zo onschuldig, we moeten de beste wetenschap doen, wie is daar nou op tegen? Als je je hier tegen wilt verzetten, sta je eigenlijk al 1-0 achter. Wil jij soms slechte wetenschap, Hermans?

Die Meta-brillen zijn een goed voorbeeld omdat ze laten zien van hoeveel kanten je onderzoek kan belichten. Wat is goed onderzoek dan? Bekijken of de encryptie van de brillen goed geregeld is en je niet zomaar de foto’s van een ander kan bekijken? Onderzoeken hoe je een kleine batterij maakt die zo lang mogelijk meegaat? Of onderzoeken hoe de samenleving (waarschijnlijk) verandert als zulke brillen gemeengoed worden? Allemaal goed en zinvol onderzoek, lijkt me. Maar je voelt meteen aan dat die laatste vraag vanuit een ander perspectief bekeken zal worden door iemand die meer waarschijnlijk de foto’s maakt, en iemand wiens foto meer waarschijnlijk wordt gemaakt. En die eerste twee vragen horen grofweg wel bij informatica-onderzoek, terwijl die laatste vaker buiten ons vakgebied zal liggen, bij mensen dus die maar heel weinig macht hebben om wat aan die brillen te veranderen.

Er is dus niet zoiets als “de beste” wetenschap, ieder fenomeen kan je vanuit verschillende hoeken bekijken, technisch, juridisch, sociologisch, filosofisch enzovoorts, en natuurlijk beïnvloedt wat jij tot nu toe in het leven hebt meegemaakt welke vragen je stelt. Ik loop wel eens hard in de publieke ruimte met mijn vrouwenlijf, en ik ben daarbij vaak genoeg dingen toegeroepen. Vieze, gore dingen die ik hier maar niet zal herhalen, maar ook 'onschuldig' roepen, fluiten, zwaaien enzovoorts.

Iedere vrouw herkent het gevoel dat je er af en toe weer aan herinnerd wordt dat jouw lijf in de publieke ruimte een ding is waar mannen luidop een mening over kunnen hebben.

Dus ja het eerste waar ik aan denk bij zo’n bril is dat iemand nu niet alleen "hé lekker k#tje" naar mij gaat roepen, maar dat ook gaat opnemen en delen en dat dat misschien wel viral gaat. Dus zal ik veel eerder, bij onderzoek naar zo’n bril een invalshoek kiezen die daarnaar kijkt, terwijl mannen, naar wie niet zo erg waarschijnlijk wel eens "hé lekkere piemel" geroepen is tijdens een rondje rennen, eerder zullen kiezen voor de vraag van encryptie of batterijduur.

En dat is okee, lijkt mij, dat je in de vragen die je stelt een bepaalde interesse hebt die afhangt van wie je hebt, wat je gender is, je achtergrond, je lived experience. Dat zie je ook terug in wetenschappelijk onderzoek, natuurlijk. Ik las van de week over een paper dat onderzocht heeft hoe dokters reageren op ernstige menstruatiepijn. Nemen ze het serieus, stellen ze het belang van de vrouw boven het belang van een toekomstige zwangerschap? En ja natuurlijk kan een mannelijke onderzoeker dit soort onderzoek doen, en dat gebeurt ook. Maar is de kans dat een vrouw het doet groter? En is de kans dat en vrouw het iets anders doet dan een man, dat die op een andere manier luistert, doorvraagt? Natuurlijk!

Dus ja een vakgebied met heel veel mannen erin kijkt anders dan met vrouwen. En dan wordt het dus problematisch, als je weet dat de informatica maar voor 27% (wo) en 12% (hbo) procent uit vrouwen bestaat; het kleinste aandeel van alle studies!

Dan worden de vragen over wat doet een technologie in de wereld veel minder vaak gesteld, en zo krijgen we dan deze brillen. Want ik denk dat we in een wereld met meer vrouwen in de informatica ook minder snel deze brillen zouden hebben.

[[2]]: Heb je ook een lezersvraag? Sinds kort heb ik voor een overzichtelijkheid een apart mailadres!

Kort: Normen rond AI

Heb ik net een beetje een korte nieuwsbrief voorbereid (en mijn column bij De Volkskrant al ingeleverd) komt er donderdag opeens nieuws over Rob Jetten en zijn AI-posts op Instagram. Moet ik daar weer wat mee! Zal ik dan maar kort doen: ik ben blij dat hier nog ophef over is, misschien is dit over een paar jaar zo normaal dat het de krant niet meer haalt. Blij dat mensen grotendeels nog vinden dat we de echte Rob Jetten willen zien, of tenminste een Rob Jetten die door een mens gecraft is. Want natuurlijk weten we dat social media nep is, dat er echt wel even een filtertje of een foundation op gaat voor een foto, dat iemand zegt: "Rob, misschien goed als je even ene leuke foto bij het WK Hockey deelt", of posts klaarzet. Maar ondanks dat, is blijkbaar nog wel een grens waarover die nep niet mag gaan. En ja dan kan je wel (zoals een of andere VVD-woordvoerder deed bij BNR) zeggen dat "iedereen" dat doet, maar iedereen maakt geen excuses namens de staat Nederland. Dat een zo pijnlijk, en zo lang niet gezien, onderdeel van de Nederlandse geschiedenis, het niet eens waard is dat een mens er naar kijkt—en zo duidelijk tekenen van AI heeft, lees zelf maar:

‘Verschillende verhalen, verschillende vormen van onrecht’, schrijft hij. ‘Niet om met elkaar te vergelijken, maar wel om naast elkaar te blijven vertellen. Excuses zijn nooit het eindpunt. Ze krijgen pas echt betekenis door wat we daarna doen.’

Dat je het dan, als minister president, niet eens op kan brengen om onder woorden te brengen wat het met jou doet... Dat is niet goed te praten en het is fijn dat genoeg mensen er nog boos over zijn.

En dan zijn er mensen—mijn favoriete AI-hyper is er zelfs een boek over aan het schrijven—die zeggen, je hoeft heel helemaal niet te vertellen dat je AI gebruikt, want het gaat erover of je staat voor je tekst. En dat zeggen sommige bekende AI wetenschappers ook. Maar dat is een grove versimpeling van waar taal voor is. Taal is niet alleen het overbrengen van feiten, die je kan controleren. Taal is ook een manier om zorg te uiten, liefde over te brengen, of te laten zien dat je iemand ziet. De posts van Jetten brengen geen feiten over maar gevoel en intentie [[1]] En gevoel kan niet uit een machine komen, dat kan je niet even simpeltjes controleren. Hebben we niet het recht (ik noemde het eerder al het Turing recht) om te weten of we met een mens praten?

[[1]]: En in het geval van Jetten gaat het niet eens over een persoonlijk gevoel en intentie maar een gevoel en intentie namens ons allemaal, namens Nederland.

Kort: Brekelmans

Heb ik net een beetje een korte nieuwsbrief voorbereid (en mijn column bij De Volkskrant al ingeleverd) komt er donderdag opeens nieuws over VVD-fractievoorzitter Ruben Brekelmans. Hij vindt dat dat "Gen Z" maar eens wat meer moet werken. Onironisch noemt hij dan mensen in China wel 72 uur per week werken. Met die deeltijdprinsjes en -prinsesjes wordt het voor de BV Nederland naturlijk niets (ach ja, het zijn nu eens niet alleen de vrouwtjes die de schuld krijgen, dat is iets).

Maar Brekelmans mist natuurlijk een analyse van waarom jonge mensen minder willen werken. Heel heel vroeger was er een soort sociaal contract dat zei: als jij nou echt hard werkt in je jonge jaren, kan je daarna een huis kopen, en kan je nog daarna met pensioen. Gebeurt er een keer wat, dan zorgen we voor je. Dat hele sociale contract is naar z'n grootje.

Werk hard in je jonge jaren, en je kan nog geen huis kopen. Met pensioen? Ja als je 75 bent misschien, en tegen die tijd is Nederland onleefbaar (zo erg dat we dan geen bollen meer kunnen kweken, nou dat is echt wat...!) Geen wonder dat jonge mensen denken "geef mijn portie maar aan Fikkie", toch? Liever nu een feestje dan zwoegen voor een toekomst die toch nooit komt.

En dan nog even dit

• Leuke oproep in de Volkskrant voor het schoolvak psychologie! Ik zie het nut er meteen van in, maarja, we hebben natuurlijk nog wel wat veranderingen voor de boeg die we moeten afronden voor dat dit ook nog zou kunnen.
• Jason Arday, wat hebben we toch veel over zijn tragische lot gehoord. Ook ik schreef er eerder al over. En wat een contrast met Dan Ariely, over wiens "insane data" andere onderzoekers schreven dat die “were severely tampered with or fabricated to produce the desired results”. Gezien de mediastorm rond Arday zou je verwachten dat de kranten en socials hier vol mee zouden moeten staan. Maar neen. Nauwelijks horen we er wat over, zeker opvallend omdat twijfels over zijn data (en zijn connecties met Epstein) al jaren en jaren spelen, en hij een professor is met een zeer hoog profiel, zijn TED talk werd bijv meer dan 4 miljoen keer bekeken.

Over de AfD in Saksen-Anhalt

Er is veel over gezegd (misschien niet zoveel als over PISA, maar toch), maar ik vond twee stukken er echt uitspringen. Ten eerste deze kijk van hoofdredacteur Pieter Klok, met goede nuancering over deze winst; het is maar een kleine deelstaat, in Oost-Duitsland waar opvattingen anders zijn, maar ook een realistische blik over de oorzaak van deze situatie:

In plaats van meebewegen met extreem-rechts om het de wind uit de zeilen te nemen, zoals bondskanselier Friedrich Merz tevergeefs heeft geprobeerd, kan Duitsland zich beter richten op de ophitsers achter die woede, de Amerikaanse bigtechbedrijven en de Russische trollenlegers, en nadenken over hoe een gezond democratisch gesprek kan worden hersteld. Het land weet als geen ander hoe snel een democratie kapot kan gaan.

Maar ook de analyse van Beatrice de Graaf in NRC is de moeite waard, zij richt haar aandacht op de verhalenvertellers, en verbindt heel sterk extreem rechts met de Jihad. Ja mensen hebben echte zorgen en echte problemen die ze naar extreme standpunten brengt, maar wat die verhalen zijn en wie ze vertelt doet er wel degelijk toe:

Wat al dat onderzoek sinds 9/11 vooral heeft laten zien – en wat we eigenlijk vanuit de geschiedenis van totalitaire bewegingen en extremisme allang wisten – is dat mensen in actie komen als ze in iets geloven. Als er een zinvol narratief wordt aangeboden, door pakkende ‘charismatische’ figuren [...]. Dan moet je dat dus laten zien als journalist of onderzoeker, hoe dat werkt, wie de verhalenvertellers zijn, en wat er aan hun verhalen niet klopt.

Maar uiteindelijk komt de oproep van De Graaf overeen met die van Klok. Sociale media vertellen een verhaal, maar dat gaat ten koste van een een gezond democratisch gesprek. En zulke gesprekken, die moeten we terugbrengen in de wereld, en daarvoor hebben de derde plek harder nodig dan ooit. Want (De Graaf hier weer aan het woord):

Als er iets kenmerkend is voor Saksen-Anhalt is het dat het er leeg aan andere verhalen is. Dat er nauwelijks meer actieve leden van de democratische volkspartijen, vakbonden, vrijwillige brandweer, kerken, en voetbalclubs in de dorpen en straten te vinden zijn.

Events

• Maandag 14 september (morgen, dus!) geef ik een Diversity Lecture op de Radboud (English!)
• Op 1 oktober op de ACM WomEncourage conferentie voor vrouwen in de informatica
• Maandag 5 oktober op het Lerarencongres (gratis!)
• Maandag 19 oktober met Paul Verhagen en Caroline Nevejan bij de Balie
• Donderdag 5 november natuurlijk, mijn boekpresentatie!!
• 12 november in de middag op de VU bij het symposium over Societal and Environmental Risks of AI (English!)
• Donderdag 10 december bij de Feministische boekenclub over mijn eigen boek Vierkante Ogen (vergeet 'm niet te pre-orderen...!)

Slecht nieuws

Over boeren gesproken, deze boer vroeg ChatGPT om advies en oopsie, al zijn sesamplanten dood.

Het aantal mensen dat afgelopen zes jaar in Amerika overleed aan een buitenbaarmoederlijke zwangerschap is verdubbeld (van 100 naar 200), voornamelijk in staten met een abortusverbod. Medische professionals zijn bang dat ze in de problemen komen en wachten dus te lang met handelen aldus onderzoek van Pro Publica. Een voorspelbaar gevolg van de regelgeving en, again, voorkoombare en totaal zinloze doden.

En heb je nog wat motivatie nodig om weg te gaan bij Big Tech? Dit interview met Franse rechter Nicolas Guillou in de Volkskrant, die op een zwarte lijst van de VS kwam vanwege zijn werkzaamheden voor het Internationaal Strafhof en nu zo goed als geen technologie meer kan gebruiken. Zelfs het boeken van een hotelkamer via Booking zit er niet meer in.

Goed nieuws

Tsja, er was niet zo veel. Ik zag alleen deze, een fijn verhaal over een boer in Oregon die zijn boerderij veranderd heeft in een natuurgebied.

Geniet van je boterham!