Scarlet versus de deepfakes, hoe redden we Wikipedia en de geschiedenis van computerdaten - AI nieuws week 7

Nou het was me de week wel. In week 6 heb ik geen echt nieuwsoverzicht gemaakt omdat ik ging skiën, en terwijl ik op de berg zat, checkte ik af en toe wel het nieuws via BlueSky, en dat stemde niet heel vrolijk. Elon Musk eigende zich allerhande data en systemen toe, alle ontwikkelingshulp werd stilgelegd, en financiering van onderzoek werd gedecimeerd. Ik kan niet even een weekje op vakantie of alles loopt uit de hand! Maar goed over naar het nieuws dan van deze week.

Boing Boing: Boing Boing rapporteert deze week over een onderzoek uit 2023 waaruit blijkt dat dat CAPTCHA's helemaal niet werken. Ik wilde dat hier opnemen, maar het werd een heel verhaal, dus ik schreef er een langer stukje over.

GovTech: Een universiteit in Pennsylvania staat voor schut omdat ze namen van studenten tijdens een diploma-uitreiking lieten voorlezen door AI. Omdat het goed uitspreken van namen blijkbaar voor vrijwilligers ook al lastig was (!) huurde de universiteit een bedrijf in, die achter de schermen AI bleek te gebruiken. Hoe onmenselijk wil je het hebben op een feestelijk moment!

Lokaal bestuur: Goede situatieschets van Kirstel Verdel over hoe afhankelijk de Nederlandse overheid is van Amerikaanse Big Tech.

The Verge: Goede oproep van Scarlett Johansson aan de Amerikaanse overheid om strenger op te treden tegen deepfakes, na een video van haar en andere celebrities viral ging. Het is natuurlijk onwaarschijnlijk dat het gebeurt, maar het is goed dat zij steeds haar gewicht in de schaal legt!

Nature: Ik zag deze week ook een mooi paper in Nature dat laat zien dat wiskundevaardigheden uit de echte wereld (rekenen op de markt) niet zomaar overspringen op academisch rekenen in de klas, en andersom! Niet direct gerelateerd aan AI, maar ook weer wel, want wie dus denkt dat jongeren van praten met AI ook echt vaardigheden leren, heeft de wetenschap over 'transfer' niet aan zijn kant.

En nog een wetenschappelijk werk, van oa mijn oud-collega Advait Sarkar dat binnenkort verschijnt in CHI. Hun onderzoek, onder meer dan 300 kenniswerkers, laat zien dat gebruik van AI kritisch denken niet stimuleert, maar tegengaat! En dat als je het veel gebruikt, dat dan mogelijk je problem solving skills omlaag gaan.

Wired: Wired is ook een baken van licht in tijden van Trump net allerhande sterke stukken over de tech coup, maar van de week genoot ik vooral van dit light weight stukje over AI en dating apps, dat niet veel om het lijf heeft maar wel aanzet tot nadenken over AI: mag je AI gebruiken voor een chat met een potentiële levenspartner? En hoe ga je dan om met de eerste dates 'zonder'? (In dezelfde categorie, die leuke interview met Mar Hicks over de geschiedenis van computer daten, zelfs voor het internet!)

Economist: Online oplichting loopt, zoals te verwachten was, fiks uit de hand, en is misschien al wel net zo'n grote bron van inkomsten als online drugsverkoop. In dit lange stuk wordt heel mooi toegelicht hoe ook de scammers zelf vaak slachtoffers zijn uit lagelonenlanden.

NRC: Misschien al gezien op Linkedin, maar ik was ook zelf aan het woord met een opiniestuk in de NRC over de (on)mogelijkheid van politiek neutrale AI, nav van een veranderd beleid van OpenAI over gelijkheid. Ook de Britse AI taskforce maakte de afgelopen week een draai en haalde tekst over gelijkheid weg. Ik had het in het NRC stuk kort over de aanvallen van big tech op Wikipedia, daarover kan je hier meer lezen.

By popular request ook weer wat goed nieuws! Engelse Science musea hebben hun gehele collectie (500.000 objecten!) gescand en gedigitaliseerd. In dit lange rapport kan je lezen hoe ze dat hebben aangepakt. Of ga meteen zoeken wat je in de collectie kan vinden! Bijvoorbeeld deze schitterende difference engine van Babbage of deze Jacquard loom.

En in de VS is besloten dat afbeeldingen die met AI gemaakt zijn, zelfs met ingewikkelde prompts, niet met copyright te beschermen zijn (alhoewel ze er wel bij zeggen dat dat in de toekomst nog kan veranderen)

English

Well, this week was… something else. Last week I didn’t put together a proper news overview because I went skiing, and while I was up in the mountains I’d occasionally check the news on BlueSky – and it wasn’t looking very happy. Elon Musk claimed all sorts of data and systems for himself, all development aid was put on hold, and research funding was decimated. I can’t just take a week off for vacation when everything’s falling apart! But anyway, on to this week’s AI news.

Boing Boing:
Boing Boing reports this week on a 2023 study showing that CAPTCHAs don’t work at all. I wanted to include it here, but it turned into a full-blown story, so I wrote a longer piece on it here (in Dutch).

The Verge:
Scarlett Johansson has made a strong call to the U.S. government to crack down on deepfakes after a video of her and other celebrities went viral. It’s unlikely anything will change overnight, but it’s great to see her continuously weighing in with her perspective!

Nature:
I also came across a fascinating paper in Nature this week that shows real-world math skills (like doing calculations at a market) don’t automatically transfer to academic math in the classroom – and vice versa! Not directly related to AI, but it is in a way, because anyone who thinks that chatting with AI will actually teach young people valuable skills is missing the point about the “transfer” of learning.

There’s also a another research study by my former colleague Advait Sarkar (among others) that will soon appear at CHI. Their research, involving over 300 knowledge workers, shows that using AI doesn’t stimulate critical thinking – it actually hinders it! In fact, heavy reliance on AI might even lower your problem-solving skills.

Wired:
Wired remains a beacon of light in these days of relentless tech coup stories from the Trump era, but this week I particularly enjoyed a light, thought-provoking piece on AI and dating apps. It may not have a lot of heft, but it does raise some interesting questions: is it okay to use AI to chat with a potential partner? And how do you handle those first dates “without” it?

Economist:
Online scams are, as expected, spiraling out of control – and they might already be as big a revenue source as online drug sales. This long article does a great job explaining how even the scammers themselves are often victims from low-wage countries.

NRC:
You may have seen it on LinkedIn already, but I also had my say with an op-ed in NRC about the (im)possibility of politically neutral AI! (in Dutch)

Good News, by Popular Request:
Here’s some uplifting news! English science museums have scanned and digitized their entire collections – that’s 500,000 objects! In an extensive report, they detail how they tackled the project. Or go ahead and explore the collection yourself – check out the stunning difference engine by Babbage or the Jacquard loom, for instance.

And finally:
In the U.S., it’s been decided that images created with AI—even those generated with complex prompts—cannot be protected by copyright (although they do note that this might change in the future).