Deepfakes zijn niet het probleem
Deepfakes zijn niet het probleem
Editie #18 van De hype is real, een nieuwsbrief over misinformatie en mediahypes.
Beeld: DALL-E (OpenAI)
Beste lezer,
Er wordt al jaren gewaarschuwd dat deepfakes en andere met AI gegenereerde beelden de democratie in chaos zullen storten. Het internet zal overspoeld worden met filmpjes van politici die dingen zeggen die ze nooit hebben gezegd. Niemand zal meer weten wat waar is en verkiezingen zullen elke feitelijke basis verliezen.
Hoewel de benodigde technologie er inmiddels al een tijdje is, zijn de doemscenario’s niet uitgekomen. Maar dat wil niet zeggen dat AI geen instrument is voor politieke beïnvloeding.
Daar kreeg ik beter inzicht in toen ik onlangs voor NRC schreef over AI-misinformatie in India en Zuid-Afrika, twee grote landen die dit jaar verkiezingen hielden. Daarbij ging veel misinformatie rond, maar dan vooral cheapfakes, oftewel eenvoudig te knutselen misinformatie. Bijvoorbeeld door een échte foto in een verkeerde context te plaatsen.
“Gezien alle media-aandacht en hype rond hyperrealistische AI, hadden we verwacht dat we een enorme toename zouden zien. (…) Maar AI-gebruik is nog altijd erg beperkt vergeleken met traditionele misinformatie waarbij dingen uit de context worden getrokken. Waarom een deepfake maken wanneer je ook een bijschrift kunt veranderen?” - Kirsten Cosser, factchecker bij AfricaCheck in Johannesburg
AI is, simpel gezegd, niet nodig om mensen te misleiden.
“De veronderstelling is dat we voordat er AI was, konden geloven wat we zagen, omdat het authentiek was.” Maar: “Ook met cheapfakes kun je een werkelijkheid creëren die niet echt is. Het is niet zo dat hoe geavanceerder technologie is, hoe ernstiger het probleem is.” — Payal Arora, hoogleraar inclusieve AI-culturen aan de Universiteit Utrecht
Met andere woorden: de markt voor misleiding was al verzadigd op het moment dat AI de hoek om kwam. Wie wil liegen, heeft geen geavanceerde technologie nodig. Zoals ik al eens eerder schreef: als het om misleiding gaat moeten we banger zijn voor echte politici dan voor deepfakepolitici.
Kunnen we dan rustig gaan slapen als het om AI gaat? Dat ook weer niet. AI-fakes worden wel degelijk gebruikt voor politieke beïnvloeding. Maar dan subtieler.
Neem dit plaatje van Kamala Harris met communistische baret, dat onlangs werd verspreid door Elon Musk. Duidelijk nep. Maar het gaat om het oproepen van de associatie Harris ←→ communisme. Het beeld is in je hoofd geplant, of het nou echt is of niet.
De Indiase techjournalist Nilesh Christopher sprak in dit verband treffend van “de metaforische kracht van AI”. Ik moet ook denken aan AI-foto’s van Trump die Poetin knuffelt, Frans Timmermans in een privéjet, en hoe Wilders met AI zijn gedroomde Nederland met louter witte mensen schetst.
Het doel van veel nepbeelden is niet om je van een onwaarheid te overtuigen, maar om beelden en emoties in je hoofd te stoppen. Om je boos te maken of juist enthousiast. Daarbij ligt de nadruk vaak op het mobiliseren en opruien van de eigen politieke achterban. Ik kwam daarover nog deze kernachtige quote tegen:
“Het belangrijkste doel van ‘misinformatie’ is niet om de overtuigingen van mensen te veranderen. Integendeel: het is een manier voor mensen om hun overtuigingen te behouden ten opzichte van overweldigend bewijs van het tegendeel.” — Mike Caulfield, misinformatie-onderzoeker aan de Universiteit van Washington
Wellicht het meest verdorven voorbeeld van metaforische AI zijn met AI gegenereerde speeches van Hitler op TikTok. Bijvoorbeeld Engelse vertalingen van zijn toespraken. Achter sommige speeches worden dit soort AI-beelden geplakt:
Schokkend veel mensen liken deze troep en plaatsen er positieve comments onder. Ik kan me vergissen, maar ik denk niet dat de meesten denken dat het echt is. Dat is niet het probleem. Het probleem is dat mensen Hitler horen en denken: ja inderdaad, wat hij zegt!
Afsluiten met iets positiefs dan maar? Generatieve AI kan ook positief zijn voor de democratie. Een bewerkt fragment uit mijn stuk:
Generatieve AI geeft burgers een wapen in handen. Zo leent AI zich goed voor politieke satire. Laat een autocraat in een deepfake een mal liedje zingen en opeens boezemt hij een stuk minder angst in. Zulke vormen van AI-satire vormen “gereedschap voor de zwakkeren”, zegt Nilesh Christopher, de Indiase journalist.
Hij stelt ook dat AI de politiek dichter bij burgers kan brengen. Zo kunnen Indiase politici met AI-stemklonen opeens lokale dialecten ‘spreken’ en zo meer kiezers bereiken.
Zoals met alle technologie, is het maar net wat je ermee doet.
⏱️ Kortjes
1. Kinderen blootstellen aan misinformatie: klinkt als een slecht idee. Maar is juist nuttig, blijkt uit dit onderzoek. (Via Nieuwscheckers.)
2. Meta (Facebook/Instagram) doet vaak niks tegen advertenties voor nepwebshops, ontdekte de Consumentenbond.
3. Kan de nieuwste chatbot van OpenAI accuraat medische diagnoses stellen nee natuurlijk niet.
4. Caroline van de Plas impliceert dat het NOS Journaal moord op Israëliërs niet zou durven benoemen. Ook andere BBB’ers verspreidden dit onzinverhaal — eentje trok het terug. (Thomas Spekschoor is NOS-redacteur.)
5. Psycholoog Philip Zimbardo van het beroemde Stanford Prison Experiment is overleden. Dat experiment zou hebben bewezen dat mensen in no time in beulen veranderen. Er bleek weinig van waar: Zimbardo moest juist veel moeite doen om de deelnemers slecht gedrag te laten vertonen.
6. Desinformatie over reddingswerkers verspreiden en zo mensen in levensgevaar brengen. Kan het laffer? Over de misinformatiestorm die volgde op orkaan Milton, opgepookt door o.a. Elon Musk.
7. Diezelfde Musk financiert een organisatie die Amerikaanse kiezers target met tegenstrijdige advertenties. Eentje voor gebieden met veel moslims, eentje voor gebieden met veel Joden:
9. Musk die zijn platform X inmiddels inzet als propagandawapen om mensen richting Trump te duwen.
NOS blundert met hiv-cijfers
Het NOS Journaal vertelde tv-kijkend Nederland vorige week dat 29% van de mannen onder de dertig die seks hebben met mannen besmet wordt met hiv. Een bizar cijfer — en het klopt dan ook niet. In werkelijkheid betreft 29% van de nieuwe hiv-besmettingen in deze groep mannen onder de dertig. Iets heel anders natuurlijk. De fout stond ook in een artikel op NOS.nl en op Teletekst. Je kunt je voorstellen hoe zo’n bericht stigma’s over homo’s in de hand kan werken.
De fout werd zondagavond laat gespot door collega Diederik de Groot op X. Ik gaf gelijk een seintje aan de NOS, maar het kwam niet goed door. Althans: het online artikel werd al snel aangepast. Maar het Journaal bleef de fout tot 14.00 uur herhalen en ook op Teletekst bleef-ie lang staan.
Elke journalist maakt fouten, dat is heel normaal. (Zoals voetballer Nathan Rutjes ooit zei over falende teamgenoten: “Weet je wat het is, die jongens doen dat echt niet expres.”)
Je moet daarna wel de schade proberen te herstellen. Maar het online artikel is niet gerectificeerd. De Journaals op NPO Gemist zijn niet voorzien van disclaimer. Voor zover ik kan nagaan is de fout alleen gemeld op nos.nl/herstel. Die pagina is helemaal onderaan de homepage te vinden via een linkje in kleine grijze lettertjes. Hoeveel mensen zouden dáár regelmatig komen…?
📚 Lees-, kijk- en luistertips
Podcast
Manifesteren, intermittent fasting, DNA-testen als MyHeritage, persoonlijkheidstesten: in Tussen Hype & Hoax worden populaire fenomenen doorgelicht op hun wetenschappelijke gehalte. Aanrader, niet alleen omdat de afleveringen lekker compact zijn met ongeveer een kwartiertje per stuk.
Analyse
Als mensen kritiek hebben op de PVV, is de reactie van (tv-)journalisten vaak: Maar ze hebben toch 37 zetels? Dit is kennelijk wat mensen willen. Een drogreden vermomd als kritische vraag. Wanneer politici desinformatie verspreiden en de rechtsstaat aanvallen, zijn andere vragen nodig, aldus de altijd helder redenerende Kustaw Bessems.
Column
Een vogelwandeling voor mensen van kleur? Is dat geen omgekeerde discriminatie? Columnist Jean-Pierre Geelen verbaasde zich op X. Ontketende een socialmediastorm. En ging uiteindelijk mee vogelen. Deze column zal mij nog wel even bijblijven.
🫡 Steun mij
De hype is real is op dit moment puur vrijwilligerswerk voor mij. Omdat jij tot hier hebt gelezen, wil je misschien wel betalend lid worden voor 5 euro per maand. Zie de knop hieronder. Je helpt me dan enorm om deze nieuwsbrief in de toekomst te kunnen voortzetten!
P.S. Eenmalig een X bedrag doneren kan ook!
Vraag/tip/foutje gezien/samenwerken? Let me know!
"Het doel van veel nepbeelden is niet om je van een onwaarheid te overtuigen, maar om beelden en emoties in je hoofd te stoppen. Om je boos te maken of juist enthousiast."
Dat lijkt me een aanname. Misschien is het doel wel om mensen beter te laten nadenken, over of er ook waarheid schuilgaat achter de metafoor die gecreëerd wordt, of wellicht wordt het zelfs ingezet om de politieke inzichten van de kijkers te testen. Oppassen dus, voor je het weet worden je eigen overtuigingen getest in deze tijd! ;)
Verder.. altijd weer een interessante nieuwsbrief hoor. Dank voor het delen!