Volkskrant: Begin maar eens met het verbieden van AI-chatbots die zichzelf als een ‘ik’ presenteren

Eind mei verscheen een geweldig stuk in The New York Times waar ik nog altijd op zit te kauwen. Interviewster Taffy Brodesser-Akner heeft naar eigen zeggen toch al heel wat meegemaakt – sigaretten roken met Gwyneth Paltrow, wachten op een slapende Nicki Minaj – maar dit is zelfs voor haar next level: ze mag AI-actrice Tilly Norwood interviewen.

De AI-actrice was al snel omstreden; Hollywood-agents – mensen dus hè, niet AI-agents – wilden haar niet meer vertegenwoordigen. Dat vind ik hoopvol. Verzet tegen AI (als concept heel onomlijnd en ongrijpbaar) kreeg vaste vorm in het verzet tegen Tilly de AI-actrice. Eline van der Velden, een Nederlandse ondernemer en de maker van Tilly, gaf de angst voor AI een naam om op een protestbord te zetten, zo schrijft Brodesser-Akner. ‘Weg met AI in Hollywood’ werd ‘weg met Tilly’.En dat verzet werkte, want Van der Velden noemt Norwood geen AI-actrice meer, maar een ‘AI awareness project’, en haar website roept nu op tot meer vangrails en regelgeving bij de ontwikkeling van AI. Tilly Norwood is, zo vermeldt haar website, ‘a warning light with a good haircut’.

Dus wie denkt dat AI onvermijdelijk is, heeft aan het voorbeeld van Norwood fijn materiaal; breed verzet helpt, niet tegen de techniek zelf, maar wel tegen de sociale acceptatie ervan. Een beetje zoals we de afgelopen tijd ook hebben zien gebeuren met AI-brillen.

Maar Akner doet met haar stuk meer dan alleen het verzet tegen Norwood contextualiseren: ze reflecteert ook op wat communiceren met een computer met je doet. Wel tien keer schrijft ze: ‘Tilly is just a computer.’ Dat maakt het heerlijk en menselijk om te lezen; zulke gekke herhalingen had een AI-tool niet gekozen, maar die herhaling heeft ook een doel. Want, zegt Akner, je gaat nu eenmaal denken dat zo’n geavanceerd taalmodel een echt gesprek met een mens is. AI is zó goed dat het zichzelf niet meer verraadt als AI, zoals voor eerdere taalmodellen wel gold. Steeds weer herinnert ze zichzelf eraan dat haar Norwood nep is. ‘Don’t be an idiot, Akner!’, zegt ze tegen zichzelf. ‘Don’t fall for it! This is not a real compliment!’

Het stuk legt de vinger op een heel interessant en onbelicht AI-probleem, en dat komt door die geniale vorm: de moeite die je moet doen om bij de les te blijven. En dat terwijl de computer ons juist steeds de andere kant op trekt met zijn ikkerigheid: ‘Wat een goede vraag, daar kan ik je wel bij helpen, hoor!’

LLM’s (generatieve taalmodellen, red.) zijn met opzet zo gemaakt door big tech dat ze een innerlijk projecteren. En wij mensen moeten de AI steeds weer ‘ont-ikken’, zoals het ontpitten van een olijf. Je bijt er gretig in en jakkes, een pit!

We staan er niet genoeg bij stil, maar ze hadden ook in een andere vorm kunnen werken. Het hoeft helemaal niet in de ik-vorm te spreken. Het had ook kunnen zijn: ‘Dit staat erover op het internet: …’ Of: ‘Over het algemeen zeggen mensen hier … over’, ons herinnerend aan de bron van de data, en aan het verzamelalgoritme dat deze bijeen pakt. Maar nee, dat houdt de mythe van een denkende machine lang niet zo mooi in stand als een vermenselijkte vorm van output.

Gaat er iets mis, dan is het ‘sorry, ík maakte een foutje’ – en wij moeten dan de moeite doen om die ‘ik’ weer te vertalen in een machine. We zien hier een fenomeen waar ik in mijn nieuwe boek Vierkante Ogen ook over spreek: programmeurs maken keuzes op basis van hún wereldbeeld, en de rest van ons heeft het er dan mee te stellen. Naast het controleren van de informatie hebben wij allemaal nu nog een extra taak, de taak van het steeds maar weer vertalen van ‘ik’ naar ‘het algoritme’.

Regelgevers wereldwijd die zoeken naar manieren om meer grip op AI te krijgen, zouden simpelweg kunnen beginnen met het verbieden van LLM’s die zichzelf als een ‘ik’ presenteren. Dat is in tegenstelling tot veel andere voorstellen technisch eenvoudig en makkelijk te controleren, en het zou ons in één klap het werk van ont-ikken schelen.

English

Chatbots should be forbidden to use "I"

Before the summer a piece appeared in The New York Times that I am still thinking about. Interviewer Taffy Brodesser-Akner says she has seen it all – smoking with Gwyneth Paltrow, waiting for Nicki Minaj to wake up – but even for her this is next level, she gets to interview AI-actrice Tilly Norwood.

This AI-actrice was controversional immediately after her release Hollywood-agents – people, not AI-agents – did not want to represent her for worry of blowback. I find this very hopeful. Resitance against "AI" as a concept, very vague and undefined, became solidified in resitance against Tilly the AI-actrice.

Eline van der Velden, Dutch entrepreneur and the creator of Tilly, gave the fear of AI a name to put on a picket sign, wrote Brodesser-Akner. "Let's get rid of AI in Hollywood" became "Let's get rid of Tilly". And the resistance was successful, Van der Velden no longer calls Norwood an AI-actrice, but an 'AI awareness project' and her website calls for more guardrails and regulations. Tilly Norwood is, says her website,"a warning light with a good haircut".

So if you worry that AI is unavoidable, Norwood is a happy example that resistance works, not against the technique maybe, but against the social acceptance of it. A bit like we are seeing now against AI-glasses in public spaces.

But Akner does more that just contextualize the resistance against: ze reflects on what it means to communicate with a computer, what it does to a person. Almost a dozen times she writes: "Tilly is just a computer". That makes the piece human, and wonderful to read; an AI would not have repeates a sentence so often. But the repetition has a goal. Because, says Akner, you are going to believe you are talking to a human. Models now are so good you don't notice anymore. She keeps reminding herself that Norwood is fake. "Don’t be an idiot, Akner!" she tells herself "Don’t fall for it! This is not a real compliment!.

The piece puts a focus on an interesting and under-examined problem, because of its genious format: the effort it takes to stay in the know about what you are doing: communicating with a machine. While this machine keeps pulling you in the opposite direction with its I-ness: "That's a great question, I can definitely help you with that!"

LLMs were made intentionally by big tech to project inner thoughts. And we humans have to de-I them, like pitting an olive. You bite into it and yuk, a pit! Forgot those existed!

We don't think about it nearly enough, but LLMs could have had a different form; they don't have to use "I". It could have been: "This is what the internet says..." Or "In general, people say ... about this topic" reminding us of the souce of the data and the algorithm that mashes them together. But thát does not hold the illusion afloat that they are a thinking machine like a humanly formed "I"-output.

If something goes wrong, the machine says "sorry, I made a mistake", and the user has to translate the "I" to a machine. This is a phenomenon I talk about in my newest book Vierkante Ogen (Dutch only, for now): programmers make choices based on their worldview, and we "normal people" have to deal with it. In addition to checking the information, we also have to continously translate "I" to "the algorithm".

Regulators who are looking for was to get a grip on AI could start by banning LLMs that present themselves as AI. This is relatively easy to so, and to check, and it would save us all the work of de-I-ing.