Alarm over AI-stemklonen - maar waar is het bewijs?
Editie #31 van De hype is real, een nieuwsbrief over misinformatie en mediahypes.
Beste lezer,
Niet eerder kreeg ik zoveel reacties op een nieuwsbrief als op mijn vorige, over linkse aanvallen op de media. Aanleiding was het protest van Extinction Rebellion (XR) tegen de NOS. Ik bekritiseerde XR op hun suggestieve taalgebruik en cherrypicking van voorbeelden van vermeende slechte NOS-journalistiek. Tegelijkertijd gaf ik ze ook deels gelijk en benadrukte ik dat linkse protesten tegen de journalistiek in de kern uit goede bedoelingen voortkomen, waar radicaal-rechts enkel uit is op onze ondergang.
Desondanks vloog het verwijt voorbij dat ik XR en radicaal-rechts op één hoop gooide. Achteraf gezien had ik dat onderscheid nog meer kunnen benadrukken. Tegelijkertijd kreeg ik ook positieve reacties van XR’ers, die de inhoudelijkheid van mijn kritiek waardeerden.
Het protest bij het NOS-gebouw bleef uiteindelijk bescheiden. Volgens de NOS ging het om “tientallen” personen. Waarop XR dan weer reageerde dat dat “exemplarisch” was voor de NOS, want het zouden er “honderden” zijn geweest.
Verslaggevers van NRC, de Volkskrant en het AD hadden het allemaal over “ongeveer honderd” demonstranten. Dat de waarheid in het midden ligt is een cliché dat zelden klopt, maar in dit geval wel toepasselijk lijkt.
Het verslag van NRC is trouwens de moeite waard en onderstreept waarom ik kritisch ben op XR. De demonstranten riepen in Hilversum onder andere dat “staatsomroep”1 NOS “bloed aan de handen” heeft. Uit het stuk:
Woorden doen ertoe, scanderen activisten op het plein. Maar hoe zit het met hun eigen woordgebruik? Ja, zeggen aanwezige XR-leden, soms is het misschien wat ferm. “Maar wij zijn activisten, géén journalisten.” Een ander, die ook anoniem wil blijven, grijnst: “Oké ‘bloed aan je handen’ gaat best ver. Maar anders krijgen we geen media-aandacht.”
Die laatste opmerking is natuurlijk wel een tikje ironisch. Maar de reactie van de NOS-bazen stelde me toch ook teleur: men wees het protest af (logisch), maar wilde niet inhoudelijk reageren (gemiste kans). Ook gek: in haar eigen nieuwsbericht over de demonstratie citeert NOS.nl wel de eigen hoofdredacteur, maar niet XR. Normaal gesproken laat je dan beide partijen aan het woord.
Zelf heb ik nog nagedacht over hoe ik dan weer de journalistiek verdedig en dan weer juist onder vuur neem. Ik denk dat dit vooral komt door hoe wisselvallig veel media zijn. Een medium kan de ene dag met loeisterk onderzoek komen en de volgende dag iets doen waarvan ik denk: hoe dan? Waarbij de ratio bij het ene medium aanzienlijk beter is dan bij het andere.
Alarm over AI-stemklonen - maar waar is het bewijs?
2 minuten leestijd
Media van AD en De Telegraaf tot NOS en WNL waarschuwen al jaren voor oplichting met stemklonen. Het idee is dat een oplichter je belt met de stem van een familielid of geliefde en vervolgens vraagt om bijvoorbeeld geld over te maken. De eerste verhalen hierover verschenen zo’n twee jaar geleden.
Mij begon in al deze berichten over voice cloning op te vallen dat ze nooit concreet worden. Er wordt gesteld of gesuggereerd dat er sprake is van een groot probleem, maar slachtoffers komen niet voorbij, noch harde cijfers over hoe vaak het dan voorkomt. Toch zijn media heel stellig: zo kopte het AD vorig jaar “Criminelen gaan zich ook hier telefonisch voordoen als vriend” en voorspelde dat de methode nog „dit jaar voet aan de grond zet in Nederland”.
Er is weinig van terechtgekomen, ontdekte ik toen ik hier namens NRC in dook. Ik belde ik onder andere met de Fraudehelpdesk. Die bleek slechts twee meldingen te hebben gehad van vermeende pogingen tot oplichting met een stemkloon. Beide meldingen bleken niet te verifiëren. Voor het idee: de Fraudehelpdesk krijgt per maand 58.000 (!) meldingen over online oplichting.
Ik belde ook met drie deskundigen op het gebied van cybercrime en/of AI, van de UvA, de TU Delft en ING. Allemaal zijn zij in de praktijk bezig met nieuwe vormen van oplichting. En allemaal zeiden ze: voice cloning komt niet of nauwelijks voor, en het is ook niet logisch. „Je moet een slachtoffer selecteren, van diegene een geliefde of een familielid zoeken, daarvan een stemopname vinden, en vervolgens een goede stemkloon maken.”
Dit terwijl online oplichting juist gebaseerd is op schieten met hagel. Denk aan de bekende appjes van een kind dat zogenaamd zijn telefoon is verloren en pa of ma vanaf een leentelefoon vraagt om geld. Zoiets is veel makkelijker uit te voeren dan voice cloning. Maar ja: met AI gekloonde stemmen, dat is natuurlijk een veel spannender verhaal. Zoals bij veel onderwerpen op het gebied van technologie krijgt het daardoor disproportioneel veel aandacht, waardoor mensen bang worden voor iets dat niet of nauwelijks gebeurt.
Meer lees je in mijn volledige stuk in NRC.
Foto: Taylor Grote via Unsplash.com
Steun mij
De hype is real is een onafhankelijke journalistieke nieuwsbrief die ik alleen kan maken met de steun van lezers. Voor €5 per maand word jij een van mijn steunpilaren.
Niet aan iets maandelijks vastzitten? Eenmalig doneren kan ook!
AI-bulletin
Omdat dé mediahype van nu een vaste rubriek in deze nieuwsbrief verdient.
Ik schreef eerder over hoe AI ons leven overneemt, en zelfs toen ik deze maand op vakantie was in Frankrijk, ontsnapte ik er niet aan. Zo kwam ik in een lijsten- en prentenwinkel deze door AI gegenereerde ‘kunst’ tegen:
Door de ‘maker’ met een paar klikken gegenereerd, maar of je wel even 22 euro wil aftikken. Ik ben niet de enige die AI-pulp tegenkwam op vakantie:
AI ontsierde ook ons bezoek aan musea. Door AI gegenereerde teksten die via QR-codes op mijn telefoonscherm verschenen bestonden grotendeels uit wartaal. In het museum voor schone kunsten in Rouen (prachtige stad!) kregen we een audioguide met AI-stem. Ironisch vond ik dat. Het hele idee van kunst is dat het de menselijke ervaring verdiept. Je gaat naar een museum om net iets meer van het leven te begrijpen dan dat je daarvoor deed. Zo’n blikkerige en doodse AI-stem, die zich voordoet als mens maar het niet is, staat haaks op die gedachte.
Buiten mijn vakantiebubbel hield de AI-wereld zich onder andere bezig met een paper van Apple. De onderzoekers maken daarin korte metten met het idee dat taalmodellen zoals ChatGPT kunnen leren ‘redeneren’. In de column van AI-kenner Gary Marcus lees je meer over het paper en wat het betekent. Anderen vonden de Apple-paper minder overtuigend. Zelf moet ik nog even de tijd vinden om me tot in detail in de discussie te kunnen verdiepen.
Duidelijk is wel dat het inzicht toeneemt dat taalmodellen beperkt zijn. In sommige dingen heel goed, in andere schrikbarend slecht. Zo blijkt ChatGPT een dramatisch schaker: het verloor van een 48 jaar oude Atari.
Dat chatbots qua feitelijke informatie onbetrouwbaar zijn, is inmiddels redelijk bekend. Maar ook het gebruik van AI voor allerlei andere praktische taken is schadelijk. “We gaan minder nadenken, omdat we dit uitbesteden aan AI. Wat de gevolgen daarvan op de lange termijn zijn, laat zich raden”, schrijft Laurens Verhagen van de Volkskrant — een van de weinige echt kritische techjournalisten van Nederland — in zijn column.
Over die schaduwkanten zul je niets horen van OpenAI-baas Sam Altman en zijn Anthropic-collega Dario Amodei. Beiden kregen deze maand weer volop aandacht voor hun verhaal dat AI zich zo ontzettend snel ontwikkelt en dat we binnen een paar jaar grote doorbraken gaan beleven. Oftewel: hetzelfde wat ze al jaren zeggen, hopend dat het geld van investeerders en klanten met dollartekens in de ogen blijft binnenstromen. Altmans voorspellingen waren bovendien vaag. Zo voorspelt hij dat robots binnenkort taken gaan uitvoeren. Maar dat doen ze allang, bijvoorbeeld in fabrieken. Wat bedoelt Altman…? Het is de kunst van het voorspellen: hou het net vaag genoeg om er later niet op afgerekend te kunnen worden.
Verder:
Lijken onbegrijpelijke vragen in kiezersonderzoek van Maurice de Hond (bekend van zijn misinformatie over corona en moorden die in Deventer plaatsvinden) door AI gegenereerd.
Bevestigt Volkskrant-onderzoek dat Google volstaat met AI-afbeeldingen (zelf schreef ik daar onlangs ook over).
Is filosoof Maxim Februari terug als NRC-columnist. Goed nieuws, want hij heeft belangrijke inzichten over digitalisering en AI. “Ik geloof niet dat we vermoord gaan worden door AI, maar de misvattingen over technologie kunnen in korte tijd wel heel veel mensen in ellende storten”, zegt hij. Altijd fijn als iemand die veel slimmer is dan jij iets zegt wat je zelf ook altijd roept.
Vertel ik aanstaande donderdag op een avond over AI in Utrecht over feiten en (vooral) fictie over kunstmatige intelligentie. Toegang gratis! Inschrijven kan hier.
⏱️ Misleiding in het kort
Nee, tampons zitten niet vol met glyfosaat en lood. Goede factcheck van een onnozele LinkedIn-post.
Pallywood — het idee dat Palestijnen hun leed in scène zetten — is Israëlische propaganda, schrijft Nieuwscheckers.
Hij blijft hardnekkig: de mythe dat Voltaire gezegd zou hebben ‘Ik ben het niet eens met wat u zegt, maar ik zal tot de dood uw recht om het te zeggen verdedigen.’
Ook lastig uitroeibaar: het idee dat PvdA-kiezers massaal zijn overgestapt naar de PVV.
Het onzinnieuws dat 40% van de jonge tieners vapet — zie ook mijn vorige brief — haalde opnieuw een groot medium, nu NRC.
Bizarre zaak in de filmjournalistiek: een Oostenrijkse verzon een interview met Clint Eastwoord, of toch niet?
De Lees-, kijk- en luistertips sla ik omwille van de lengte deze keer even over.
De hype is real is een nieuwsbrief over misinformatie, mediahypes en andere vormen van misleiding door mij, Menno van den Bos. Ik ben journalist en spreker gespecialiseerd in misinformatie, media en technologie.
Wil je deze nieuwsbrief liken? Dat helpt in het algoritme. 🙏
Vragen/tips/feedback/adverteren (3.500 pageviews per editie)? mennovdbos@gmail.com / Bluesky / LinkedIn.
Staatsomroep is een misleidend woord om een publieke omroep als de NOS te omschrijven. De NPO wordt indirect gefinancierd door de overheid, via het ministerie van OCW, maar daarbij zijn no strings attached. Met andere woorden: de overheid oefent geen enkele invloed uit op de inhoud van de programmering, zoals dat bij een staatsomroep wel zo is.