Special: help, hoe beveilig ik mijn cyberkoelkast?

Hallo allemaal!

Potsiedorie, ben ik weekje aan het chillen in Berlijn, is er allemaal cybersecuritynieuws. Moet ik het daar over hebben in plaats van over wat ik van plan was (programmeren en religie). Die bewaar ik dan maar voor een volgende special dus deze editie is een beetje een hybride tussen special en gewoon.

Er waren deze week twee grote cyberattacks bij supermarkten, bij ons bij Albert Heijn, en in Frankrijk onder andere bij de Netto. Wat er bij de Appie aan de hand was/is weten we nog steeds niet, maar de tweede hack zette koelkasten op warm, waardoor veel eten bedorf. Nu is het verleidelijk om te zeggen: Dat komt door AI, dus wij moeten zelf ook krachtige AI hebben om wat tegen die AI te doen. Dat is niet per se zo, om twee redenen.

Ten eerste was de hack, in ieder geval die in Frankrijk, vermoedelijk geen complexe hack. De koelkasten waar het om ging hadden een bekende zwakte, je kon namelijk inloggen met username admin en als wachtwoord de dag van vandaag. Ook hingen ze allemaal aan het internet, dus het geheel was zo lek als een boodschappenmandje. Ja, dan heb je dus geen AI nodig om in te breken en de koelkasten op "lekker warm" in te stellen, hooguit is het met een taalmodel voor meer mensen mogelijk om zo'n hack uit te voeren omdat je Claude Code kan vragen in te breken. Echter ik denk niet dat "gewone mensen" snel op zo'n idee zouden komen. AI heeft er dus weinig mee te maken.

En dan de oplossing, ligt die in meer AI? Het idee is een soort koude oorlog-wapenwedloop. Als wij ook zo'n krachtige AI hebben, dan zal de vijand ons niet pakken want dan pakken wij ze terug. Oog om oog, hack om hack. De vraag is natuurlijk of dat echt zo werkt, want anders dan bij een kernwapen zal de tegenstander misschien helemaal zo bang zijn voor een tegen-hack, bijvoorbeeld omdat die erop vertrouwt dat zijn krachtige AI de aanval wel kan stoppen. Verstandiger zou het zijn om te zorgen dat cruciale infrastructuur doorwerkt als er technische problemen zijn. Ben voorbereid op dit soort scenario's en zorg dat je door kan draaien als er iets mis gaat. Test offline systemen, heb een dag in het jaar "we werken op papier"-oefendag en heb je servers in eigen beheer, op je eigen terrein. Dan kan je in de meest letterlijke zin de stekker eruit trekken als het moet.

En in godsnaam sluit je koelkast niet aan op het internet!

En dan nog even deze fijne longreads

Je hoeft je deze zondag niet te vervelen want ik heb een paar lange reads voor je verzameld.

Is AI onvermijdelijk?

Dit hele lange (maar wel heel fijne) stuk van programmeur Iris Meredith legt uit waarom dat een take is niet echt helpt:

The inevitability of a technology is thus, in itself, a thing that is contingent on social and cultural structures: the same technology might prove to be "inevitable" in one cultural sphere, completely useless in another and useful but far from being "inevitable" in a third.

Het stuk trekt een vergelijking met chemische wapens, verwijzend naar bijzonder boeiend onderzoek getiteld "Why Don’t We Use Chemical Weapons Anymore?" dat uitlegt dat ondanks dat chemische wapens "werken" ze toch niet praktisch genoeg zijn om in te zetten in oorlogen, oa omdat ze ervoor zorgen dat je zelf ook niet meer door een bepaald gebied kan als je het ermee bestookt hebt.

Is dit nu het beste wat we kunnen bouwen?

Dat vraagt Becca Caddy zich af in ook een heel mooi stuk. Is een taalmodel nu een oplossing voor alles wat er mis is in de wereld? [[1]]

It seems as if we’re getting sophisticated solutions to marginal inconveniences while some of the most consequential sources of friction in people’s lives remain painfully difficult.

Al die handige optimalisaties van Silicon Valley—hoera, je hoeft nooit meer een restaurant te bellen, maakt dat ons leven nu werkelijk beter als alles in de fik staat? "Silicon Valley’s current obsession with securing us somewhere to eat. Meanwhile, the vast majority of people I know are actually cutting back on eating out."

Geen opbeurder dit stuk maar wel waar, en mooi!

[[1]]: Dank voor deze tip lezer Laurens!

Wie houdt het internet in de lucht?

Mooi stuk over 23 software packages die iedereen gebruikt, maar die worden onderhouden door een handjevol mensen meestal gratis en voor niks. De klok op de iPhone, een plaatjes laden in Android, letters renderen op je Kindle, zo maar wat dingen die het zonder deze mensen niet meer zouden doen. Alle klokken op smartphones kijken bijvoorbeeld in een bestandje wat de tijd is in hun tijdzone, dat beheerd wordt door een professor van UCLA. Of de database SQLite:

[...] is in every Android phone, every iPhone, every Mac, every copy of Windows 10 and 11 and every major browser.

De maker van SQLite schat dat er een biljoen (trillion in het Engels dus) SQLite databases bestaan in de wereld. En dat zijn maar een paar van de projecten van hobbyisten (afgelopen jaar werkte er vier mensen aan, en dat is een van de grootste uit het hele stuk). Ergens hoopvol dat het halve internet draait op niet-Big Tech!

Helaas is het stuk tamelijk onleesbaar als je niet al heel veel van computers en hun cultuur weet—je wordt nogal doodgegooid met termen en concepten—maar verder, echt een aanrader om te zien hoe kwetsbaar het allemaal is. Om het maar even samen te vatten in de woorden van een van de programmeurs van libxml2 zelf:

“This is open-source software written by hobbyists, maintained by a single volunteer, badly tested, written in a memory-unsafe language and full of security bugs.”

Dit zeggen de makers van libxml2 zélf, een stukje code dat op 6 miljard devices staat.

Zie ook: sluit je koelkast niet aan op internet, want dan gebruik je 100% zeker een van deze stukjes.

En, hoe zou social media eigenlijk moeten werken?

Goede lange terugblik in de Groene op de geschiedenis en toekomst van social media:

Twitter is op dat moment bovendien op zo’n manier gebouwd dat de systemen erachter open zijn. Iedereen kan het inzien en zelf applicaties toevoegen, en draagt er zo een beetje verantwoordelijkheid voor.
[...]
Deze nieuwe openheid, deze hechtere band tussen zender en toeschouwer, heeft maar heel even bestaan.

Het stuk heeft het ook over de spanning tussen wat goed is voor gebruikers en wat goed is voor de markt:

De belangen van de gebruiker en de markt spreken elkaar bovendien tegen.

Dat deed me denken aan Enshittification van Cory Doctorow, waarover ik in Vierkante Ogen ook schrijf:

Veel software die we veel gebruiken, werd in eerste instantie gemaakt voor het gemak van gebruikers, denk bijvoorbeeld [aan het] vroege Google. In de eerste jaren stond de klant centraal. Het gemak van de zoekmachine moest beter zijn dan bestaande alternatieven, relevanter en met minder advertenties. Dat is de fase "Good to users" aldus Doctorow.
Vervolgens komen er adverteerders op het platform, en die hebben natuurlijk andere belangen.

Een adverteerder wil zoveel mogelijk advertenties—ook als ze helemaal niet zo relevant zijn voor de zoekopdracht—maar een gebruiker wil er helemaal geen, of alleen in hele specifieke gevallen. Omdat de adverteerders veel meer geld opleveren dan zoekopdrachten van individuele gebruikers, gaan softwarebedrijven na verloop van tijd naar hùn pijpen dansen en worden de resultaten voor klanten slechter. Dit is volgens Doctorow de fase "Good to Business Customers".

[...] Daarmee is de kous nog niet af. In de laatste fase lappen softwarebedrijven de belangen van beide eerdere klantgroepen aan de laars, en gaan ze nog een andere meester dienen: het grootkapitaal in de fase "Good to Shareholders".

Slecht nieuws

Ik was er dinsdagmorgen even over op BNR, te veel gebruik heeft niet alleen cognitieve effecten maar ook impact op je doorzettingsvermogen.

Meta lijkt posts van Bolsanaro flink prioriteit te geven boven Lulu. Zelf spreken ze van een technische storing, maar hoe waarschijnlijk is dat (en ook: hoe onvergeeflijk zelfs als het waar is?!)

Studenten schrijven hun scripties en masse met AI, aldus RTL nieuws. Dat lijkt me slecht nieuws want daar leer je (natuurlijk) veel minder van dan van het zelf doen. Maar erger nog, wij universiteiten kunnen natuurlijk de problemen gaan oplossen, dat moet van de minister:

Letschert denkt dat controle op AI-misbruik in het hoger onderwijs momenteel tekortschiet. "Zijn we dat wel voldoende aan het checken? Je zult je verantwoordelijkheid moeten pakken als onderwijsinstelling." 

Ho eens even Letschert, heb ik die chatbot geprogrammeerd? Heb ik m gratis op internet gezet? Roep ik al jaren op Linkedin dat AI de bom is en dat je die voor alles en nog wat kan gebruiken? Nee toch zeker? Waarom moeten wij aan de bak, en niet, ik noem maar eens even wat, de makers van die stomme chatbots? Als ze potjandriedubbeltjes zo slim zijn als hun makers beweren, dan kunnen ze toch zeker wel zien als een student zijn scriptie ermee zit te tikken?!

Goed nieuws

Het beste nieuws van dit schooljaar tot nu toe, vind ik! Narcis is genomineerd voor de NS publieksprijs. Ik schreef al eerder over hoe mooi ik dat boek vond, het haalde mijn lijstje van favorieten van vorig jaar! (je kan nog stemmen!)

Vertrouwen in de wetenschap blijft hoog (enthousiasme over AI daarentegen gaat fiks omlaag). Of dat terecht is... tsja, met een gigantische fraudezaak die jarenlang onontdekt bleef (ondanks heel veel signaleringen) ga je daaraan twijfelen! Wat een verhaal in de Volkskrant, vol met "smakelijke" details over een sjoemelwetenschapper die niet alleen data vervalste maar als hoofdredacteur van een tijdschrift ook zelf zijn eigen papers reviewde!

En dan nog dubbel goed nieuws van de Firewall! Kyndryl mag Solvenity definitief niet overnemen, kabinet blijft bij het besluit waar wij natuurlijk al actie voor voerden, en onze campagne tegen de Meta-bril is los! Over 40 dagen dient het kort geding.

Geniet van je boterham!

(En had je deze week alweer geen tijd voor een lekkere boterham? Volg dan Ionica's geniale tips om vaker nee te zeggen)