AI in week 46
Kort briefie deze week. Nee maar echt! Nauwelijks over de 2000 woorden! Ik was te druk om het nieuws te lezen, heb eigenlijk alleen grapjes over Jensen Huang gelezen! Mag ook wel eens een keer, lachen om de wereld, is toch beter dan huilen [[1]]?
This week my university announced workshops on How to Have an Affair with Jensen Huang, For Research Purposes. Every academic field has to learn how to incorporate Having an Affair with Jensen Huang into our research and pedagogy. jensen huang has tripled the amount of partners he has in just under two weeks. if these trends continue, i think we need to have a serious conversation about the possibility of jensen huang dating every women on earth.
Maar even aux sérieux, het is natuurlijk gekkigheid dat iemands privéleven de wereldeconomie zo kan beïnvloeden. Hoe zijn we toch in deze maffe situatie gekomen?! Dat rijke mensen zo enorm veel macht hebben dat hun affaires beurskoersen de plomp in sturen? Die macht, niet alleen over bedrijven maar ook over hoe we de wereld regelen, die moet echt anders, betoogde ik ook in een interview in Knack over de zogenaamde goedheid van Anthropic:
Hun wereldbeeld is dat als je heel veel geld hebt verdiend je ook nog de macht verdient om te bepalen naar welke goede doelen geld gaat. Ik zou willen dat de bazen van Anthropic heel veel belasting betalen en dat wij dan samen met zijn allen democratisch besluiten in welke goede doelen we dat stoppen.
In het stuk zette ik ook weer eens vraagtekens bij het idee dat AI grote wereldproblemen:
Ze geloven echt dat alles – ziekte, armoede, klimaatverandering, geopolitieke problemen – met computers aan te pakken is. Als Anthropic zegt: wij gaan kanker oplossen, denk ik: er zijn al heel veel oplossingen voor kanker. We kunnen baarmoederhalskanker de wereld uit vaccineren. Maar in Nederland neemt slechts rond de 60 procent van de jongeren het HPV-vaccin. We weten dat het werkt, maar de rest vertrouwt de overheid of big pharma niet. Om klimaatverandering tegen te gaan, moeten we stoppen met olie boren en vlees eten. Maar mensen willen dat niet. Onze echte problemen zijn mensenproblemen.’
Do artifacts have politics
Ik heb me al een hele tijd geleden–op aanraden van fijne VU-collega Marius–voorgenomen om niet te veel meer over hallucinaties te praten. Ik vind dat slim advies, want je wilt niet steeds in die welles-nietes terechtkomen. Ja, die hallucinaties gaan er nog wel af hoor, het wordt steeds beter. Maar kijk het kan zelfs wiskundige bewijzen! Zoals ik vorige week al schreef, of AI een bewustzijn heeft, of een intelligentie, het is een kwestie van geloof, niet van feiten betreffende de uitvoer.
Maar toch moeten we het over AI blijven hebben, niet over dat ze een keer een foutje maken, want ja, dat doen mensen ook, maar over de systemen waarin AI-gebruik wordt ingebed. Want ja, "artifacts have politics" (echt als je dit paper nog niet kent, lees het nu!)
Langdon Winner zegt erin dat er altijd, voor technologie er is, al een configuratie is waarin de technologie gaat werken:
In [these cases] one sees the importance of technical arrangements that precede the use of the things in question.
Dat zien we bijvoorbeeld in de medische wereld, waar—net als in het onderwijs en op andere plekken in de samenleving—grote serieuze problemen bestaan rondom werkdruk en financiering, die er al waren voor AI. Maar als AI er is, dan wordt AI een oplossing voor werk dat in het al bestaande systeem al niet als waardevol en serieus gezien wordt.
Concreter: Er is–door allerhande factoren—het beeld gevormd dat het echte werk dat een dokter doet het stellen van een diagnose is, dat dat is waar het om draait. Andere dingen die een dokter doet, geruststellen bijvoorbeeld, of meeleven, dat is niet het echte werk.
Zelfs taken die zo'n diagnose ondersteunen zoals doorvragen of aantekeningen maken van een gesprek zijn de kerntaak niet. En alleen met die voorwaarde, dat aantekeningen geen onderdeel zijn van de taak "diagnose stellen" maar een losstaand iets, kunnen we denken dat AI het ook kan.
En dan geldt ten eerste dat dat niet waar is. Ik schreef begin vorig jaar al over een dokter, een echte AI-enthousiasteling, die er na een paar maanden AI-notulen mee ophield, want:
The act of writing it is itself a cognitive process: it forces synthesis, prioritisation, and reflection. It is, in a real sense, how we think.
When we outsource that act to an AI, we are not merely saving time. We are externalising a cognitive function that was doing clinical work we didn’t realise it was doing. (nadruk van mij)
En deze laatste zin, daar gaat het dus om. Dat een dokter zich van zijn eigen taken niet realiseert hoe ze werken. Dat hij niet goed begrijpt hoe groot de rol is die het maken van aantekeningen blijkbaar heeft bij het doen van zijn eigen werk. Hoeveel weten we zelf eigenlijk niet over wat er voor ons eigen werk toe doet? (laat staan dat iemand anders die het werk niet doet!)
Alleen als eerst de configuratie bestaat dat diagnose en aantekeningen losstaande taken zijn, kan je de een met AI doen zonder de ander. En dat doktoren zo snel mogelijk taken moeten afronden, alles moet immers, overal efficiënter (heel goed opgetekend door oa Siri Beerends in De Groene dit voorjaar). En dat doktoren alles moeten vastleggen, management wil immers grip op de zaak.
En dat zijn keuzes, die we al hebben gemaakt voordat AI er was. En AI zal die opdeling nog sterker maken, ook in een systeem waarin de politiek, bijvoorbeeld in de UK, bepaalt dat een AI-aantekeningen tool geen medisch hulpmiddel is en daardoor onder andere regels valt. Daarmee versterkt het ook weer het beeld dat het geen medische handeling is.
En ja ik kan het toch niet laten maar natuurlijk werken die tools niet! Voor patiënten met accenten, bijvoorbeeld. Transcriptietools werden trouwens ook heerlijk op de hak genomen trouwens door Amy X. Wang in New York Times. Schrijven is namelijk echt wel wat anders dan gewoon streamend woordsoepen:
I’m looking at the paragraphs above and I’m really itching to edit them. A lot of these sentences are bad. But the whole point of Wispr Flow is that you don’t edit. You speak naturally and organically. You CAN double back in your speech. For instance, you can say to Wispr Flow, “Delete that last word,” and it will do it for you pretty seamlessly. But you can’t tell it to take this sentence and put it there, or to go back and change that preposition above, or to reorder some of your paragraphs so that the argument has a more logical flow.
Goed nieuws
In New York gaan ze stoppen met surveillance pricing. Ik moest die term even opzoeken maar het is het idee dat de ene klant meer betaalt voor een dienst of product dan een ander. Het kan wel, Big Tech aan banden leggen!
Narcis heeft de NS Publieksprijs gewonnen! Hoi hoi want het is een schitterend boek, en het is ook zo hoopvol voor het schrijversvak vind ik. Talent wordt (uiteindelijk) echt erkend! Want, zei Fanto eerder:
Ik ben een relatieve nieuwkomer in de wereld van de schrijvers, ben geen BN’er, kom nooit op televisie en woon niet in Amsterdam. Ik moet het van de gunfactor hebben.’
Nou Judith, ik denk dat jij het niet van die gunfactor moet hebben, maar van je excellente schrijfwerk. Narcis is gewoon een geweldig boek!
Goed nieuws natuurlijk vorige week uit de VS, niet alleen de winst van de Democraten, maar ook dat ze AI willen gaan beteugelen! Maar ook in Servië zijn hele mooie resultaten bereikt na brede studentenprotesten (dus niet meer zeggen dat protesteren niet helpt!)
Goed nieuws over Vierkante ogen!
(geen zin in meer lezen over mijn boek, fair enough! Klik maar hier om door te zappen)
Ik was te gast bij Nooit meer slapen, dat was geen goed nieuws voor mij, want ik moest tot 2 uur opblijven en dat is niet echt mijn specialiteit haha, maar het werd wel een fijn interview! Ook AI-wereld schreef een stuk over mijn werk en mijn boek.
En dan deze echt heel fijne review van Jasper. Het schitterende eraan is dat hij zelf een programmeur is, en de complexiteitsdynamiek herkent (en er zelf ook aan heeft meegedaan, schrijft hij):
Maar softwaremakers storten zich niet op de vage onvoorspelbare nukken van de natuur. Waar ze het meest van houden is de intellectuele spaghetti die hun eigen brein kan opdienen, zij het dan binnen de onoverzichtelijke maar wel deterministische digitale wereld. Ze maken het zichzelf meestal moeilijker dan waar het probleem strikt om vraagt en zijn er nog trots op ook.
Ik vind het echt heerlijk als niet-programmeurs mijn boek lezen en de digitale wereld erdoor beter gaan begrijpen. Maar eigenlijk vind ik het nog fijner dat programmeurs het boek lezen en zeggen dat ze zich in het geschetste beeld herkennen. Het geeft me het idee dat ik niet gek ben, dat wat ik voel echt zo is (wat uiteraard zijn er ook programmeurs die in mijn mailbox hangen om te vertellen dat het allemaal onzin is).
En die programmeurs? Hebben we die nog wel? Daarover interviewde EenVandaag mij dan weer deze week (vanaf minuut 19), want het aantal informatica-studenten loopt in Nederland (en wereldwijd ook) fiks terug, een kwart minder vergeleken met 2022. Dat is een probleem, zeg ik ook in het filmpje, want wie snapt de digitale wereld dan nog goed genoeg. Maar ook een kans denk ik (dat stuk haalde het filmpje helaas niet) om curricula om te vormen naar minder techniek en meer verantwoordelijkheid!
En Volkskrant interviewde me en ik mocht weer eens afsluiten met "gooi je smartphone in de zee". Het leverde me heerlijke fanmail op (mag ook wel eens want ik kreeg ook weer genoeg gezeur)
Uw slotzin is een uitsmijter van hoog niveau. Hulde.
Professor Hermans, ik buig voor u vanwege het interview. Voor mij geen
nieuws, maar wellicht voor een enkele lezer, misschien gaan de ogen
open, komt er een beweging om dit te stoppen.
U mag natuurlijk niet oproepen de zee te vervuilen met telefoons, maar ik
vergeef het U. Ik kijk uit naar uw volgende bijdrage.
Slecht nieuws
Meta verwijdert AI-beelden van jonge meiden die onzedelijk betast worden door sportcoaches niet, ook niet als gebruikers er melding van maken. Geen verrassing natuurlijk gegeven wat we weten over Meta's zorg voor meiden, maar toch. En al zijn het AI-beelden, het normaliseert misbruik in een sector waarin er al zoveel zaken bekend zijn.
Nieuwe medicijnen vinden—mij vaak zat voor de voeten geworpen als geweldige toepassing als ik zeg dat AI een slecht idee is—werkt niet... Zelfs Wall Street Journal is kritisch:
Vertex has used roughly 50 AI companies to comb through its data set of 10,000 drug compounds, Leiden said. Not one managed to generate a working drug. “It just doesn’t work by itself,” Leiden said, “and any company that says they can do that—at least in our experience, we’ve looked at most of them—it’s not true.”
En dan nog even dit
- Mooie leeslijst vol boeken met kritische AI perspectieven (waaronder ook de Robot and Monk serie van Becky Chambers!)
- Fijne column van de altijd scherpe Sophie van Gool in het FD over AI-teksten
Wellicht nog schokkender dan het volume aan AI-drek is het gebrek aan schaamte bij politici die het gebruiken. Ze vinden het ‘handig’, ‘iedereen doet het’ (dixit premier Jetten) en ach, ‘We gebruiken toch ook koffiezetapparaten?’ (aldus BBB’er Henk Vermeer). Ja, Henk, bijna hetzelfde. Maar last time I checked kwam daar alleen koffie uit, geen teksten waarmee jij de regering zou moeten controleren.
- Kabinetscrisis? Alweer? Ga nou niet de hele week refreshen om te kijken of er al nieuws is, lees liever een goede longread over hoe we hier gekomen zijn!
Events
- Vanmiddag bij Denkkracht in Haarlem, misschien zie ik je daar!
- Donderdag as bij het Gesprek van de maand in de Nassaukerk samen met Ilyaz Nasrullah!
- Zaterdag de 21e november op de Dutch AI week in Alkmaar
- Donderdag 10 december bij de Feministische Boekenclub (er zijn nog kaartjes!)
Geniet van je boterham!
[[1]]: bron plaatje, origineel hier. bron grapje 1, bron grapje 2.
Member discussion