Hoe een door de wol geverfde journalist met AI de fout ingaat
Peter Vandermeersch (ex-NRC/De Standaard/Mediahuis Ierland) publiceerde door AI gegenereerde citaten van echte personen. "Dit was fout."
Het aantal waarschuwingen van deskundigen was de afgelopen jaren niet van de lucht: AI-assistenten als ChatGPT, Claude en Gemini zijn niet geschikt voor taken waarbij het belangrijk is dat het resultaat inhoudelijk klopt.
Vraag ze dus liever niet naar het nieuws, want ze verdraaien regelmatig de feiten. Vraag ze liever niet om teksten samen te vatten, want ze hallucineren stukken inhoud. Vraag ze niet om een opname van een interview te transcriberen, want ze verzinnen het hele gesprek bij elkaar (ik spreek uit ervaring).
Dankzij al die waarschuwingen beseffen de meeste mensen — een groepje hardcore believers uitgezonderd — echt wel dat AI-hulpjes als ChatGPT geen alleskunnende superrobots zijn. En dan dringt ook nog het besef door dat AI-gebruik tot eenvormigheid leidt en dat je jezelf dommer dreigt te maken door taken aan AI uit te besteden.
En toch. Toch is de verleiding sterk om je leven met generatieve AI makkelijker te maken. Van het samenvatten van een dik rapport op het werk tot het schrijven van een Sinterklaasgedicht: het gaat zo lekker snel. En je moet toch ‘mee in de moderne tijd’?
Misschien is het een herkenbare worsteling. Voor mij is het dat in elk geval wel geweest, en soms nog. Uiteindelijk is het ieders eigen afweging wat-ie wel en niet met AI doet. Maar in een paar beroepen kun je er maar beter voorzichtig mee zijn. Zo zagen we al advocaten blunderen met niet-bestaande jurisprudentie in hun betogen, aangedragen door een chatbot. En kwam een Belgische rector in opspraak om niet-bestaande citaten in een speech.
Ook enkele media lieten teksten door AI genereren, al vonden die incidenten vooral plaats bij mode- en lifestylebladen, wat niet de meest gezaghebbende media zijn.
Source=chatgpt.com
Gezag heeft Peter Vandermeersch juist in overvloed. De oud-hoofdredacteur van NRC en De Standaard werd bij het bredere publiek bekend als vaste gast bij DWDD en was tot oktober ceo van de Ierse tak van Mediahuis. Tegenwoordig is hij ‘Fellow Journalism & Society’ bij het Belgische mediaconcern. In die hoedanigheid blogt hij over de toekomst van de journalistiek.
Een tijdje terug wees een lezer van zijn blog mij er via een privébericht op Bluesky op dat in één van Vandermeersch’ blogs citaten stonden die niet te vinden waren in het rapport waaruit hij ze zei te hebben gehaald. Deze lezer, de zeer kundige freelance medisch- en wetenschapsjournalist Aliëtte Jonkers, wist dat ik veel over misinformatie en AI schrijf en raadde mij aan om er eens nader naar te kijken. (Aliëtte vindt het goed dat ik haar naam hier noem.)
Al snel ontdekte ik dat meerdere blogs van Vandermeersch citaten bevatten die nergens terug te vinden waren. Ze leken te zijn gegenereerd door AI. Zo kwam de opmaak van sommige artikelen overeen met de huisstijl van ChatGPT. Een andere aanwijzing was de tekst “utm_source=chatgpt.com” in enkele uitgaande links.1
En dan waren er de cryptische metaforen, zoals “Wat overblijft is een digitale schaduw van de werkelijkheid — een wereld waarin de journalistiek de grondstof vormt, maar niet langer de bestemming is.” En zie je dat kastlijntje (—), waar ChatGPT dol op is? Geen bewijs van AI-gebruik; ik gebruik ze zelf ook. Maar het viel op dat ze in sommige stukken van Vandermeersch heel veel voorkwamen, en in andere helemaal niet.
AI of niet: dit leek mij nieuwswaardig, want fictieve citaten publiceren is in de journalistiek een ernstig vergrijp. Ik bood bij NRC, een vaste opdrachtgever, aan om er een artikel over te schrijven. Hoewel de situatie ongemakkelijk is, aangezien Vandermeersch tot 2019 hoofdredacteur van NRC was en NRC ook onder de Mediahuis Groep valt, was de redactie het met mij eens over de nieuwswaarde.
Het eindresultaat is gisteren gepubliceerd en kun je hier online lezen.
Een samenvatting van de belangrijkste bevindingen:
In 15 van de 53 blogposts die Vandermeersch als Fellow schreef, staan citaten die niet te vinden zijn in de publicaties waar hij ze vandaan zegt te hebben, zoals wetenschappelijke rapporten. Zeven geciteerden bevestigden dat zij ‘hun’ citaten niet herkennen. Het gaat in totaal om zo’n 40 citaten.
In één artikel voert Vandermeersch bijvoorbeeld acht deskundigen op die zouden hebben bijgedragen aan een themanummer van tijdschrift Columbia Journalism Review. Hun namen komen echter niet in die uitgave voor.
Een en ander is het gevolg van gebruik van AI-chatbots waaronder ChatGPT, zo bevestigde Vandermeersch. Hij gebruikte deze om langere teksten samen te vatten. Hierbij werden dus nepcitaten door de AI’s ‘gehallucineerd’.
In veel gevallen komen de citaten ongeveer overeen met wat er in de bronnen staat of wat de geciteerden vinden, maar niet altijd. Een enkele expert was sterk ontstemd over wat haar in de mond was gelegd.
Vermoedelijk is Vandermeersch zeker niet de enige journalist die AI raadpleegt in de veronderstelling dat de resultaten authentiek en betrouwbaar zijn. “De AI-geletterdheid in de journalistiek is nog niet zo hoog als die zou moeten zijn”, vertelde AI-onderzoeker Hannes Cools (UvA) mij.
Gevraagd om een reactie, gaf Vandermeersch zijn fouten toe. “Ik moet het boetekleed aantrekken”, mailde hij. “Ik had die citaten grondiger moeten checken.” Van twee artikelen besefte hij eind vorig jaar zelf al dat er AI-citaten in stonden. Dit had hij toen direct moeten rechtzetten, zegt hij. “Juist omdat ik pleit voor transparantie in de journalistiek.” Hij is inmiddels veel “strikter en terughoudender” in zijn AI-gebruik.
Vandermeersch is door Mediahuis voorlopig geschorst. The Irish Independent heeft opiniebijdragen van zijn hand, die eerder op zijn weblog verschenen, voorlopig verwijderd, “while seeking clarity”.
Zelf gewaarschuwd
Het opvallende is dat Vandermeersch juist bij de kenners hoorde die waarschuwden voor onverantwoord AI-gebruik. In oktober schreef hij dat taalmodellen regelmatig fout antwoorden op vragen over actuele onderwerpen, en tekortschieten in bronvermelding.
Ik vroeg hem hoe het dan toch kan dat hij zelf de fout in ging. “Ik was natuurlijk wel op de hoogte van de mogelijkheid tot hallucinaties, maar ik onderschatte duidelijk de kracht ervan.” Deze uitspraak onderstreept nog maar eens dat je óók als je je bewust meent te zijn van de risico’s — of misschien wel juist dan? — met AI kunt uitglijden.
Volgens Cools, die onderzoek doet naar AI-gebruik op redacties, is een duidelijke AI-strategie bij nieuwsorganisaties noodzakelijk. Journalisten hebben behoefte aan regie en begeleiding. “Ik zie nu journalisten met AI aan de slag gaan omdat ze het gevoel hebben dat ze niet mogen achterblijven. Als ze vervolgens de plank misslaan, durven ze uit schaamte niet te bekennen dat ze AI hebben gebruikt.”
Waarschuwend verhaal
De casus-Vandermeersch kan als waarschuwend verhaal dienen. Kunstmatige intelligentie kan reuze nuttig zijn voor journalisten, bijvoorbeeld om patronen te vinden in datasets. Maar je moet wel weten wat je doet, en waarom. En blijven monitoren hoe het jou en je werk beïnvloedt.
Zelf gebruik ik ChatGPT om mijn nieuwsbrieven vlak voordat ze online gaan te laten controleren op taalfouten of kromme zinnen. En soms om op een synoniem te komen of een Nederlandse variant van een Engelse uitdrukking. En zelfs dat is waarschijnlijk al niet verstandig. Zoals we naar de sportschool gaan om voor een hoger doel onze spieren te pijnigen, moeten we ook onze breinen onderhouden. Anders gezegd: laat liever je hersens kraken dan de servers van AI-bedrijven.
Zeker als journalisten. Doen we het niet voor onszelf, dan toch in elk geval voor het publiek. Dat heeft recht op berichtgeving die niet uitbesteed is, maar waar een journalist op heeft gezweet om het zo kloppend mogelijk te krijgen.
Tot slot, twee nabranders.
Als journalist weet je van tevoren dat als je kritisch over iets of iemand publiceert, mensen op sociale media zullen losgaan op het lijdend voorwerp. Je kunt weinig tegen dat slijkspoor op sociale media doen, maar ik vind het wel lelijk en beside the point.
Vandermeersch is sinds 2019 weg bij NRC. Niettemin wordt deze kwestie online aangegrepen om NRC aan te vallen, vaak door mensen die slecht lezen (reacties op nieuwsbericht over de kwestie op NU.nl):
Het onderzoek naar de nepcitaten van Peter Vandermeersch kostte mij flink wat tijd. NRC betaalt mij uiteraard netjes voor het eindresultaat, maar dat dekt de tijdsinvestering niet volledig. Met een donatie help je mij en deze nieuwsbrief enorm. Je kunt zelf het bedrag kiezen. (Soms moet je de pagina even verversen voordat hij het doet.)
De hype is real is een nieuwsbrief over misinformatie, mediahypes en andere vormen van verwarring. Voor €5 per maand steun je mij structureel en krijg je regelmatig een extra update. Je kunt je ook eerst inschrijven als gratis abonnee. In beide gevallen klik je op onderstaande knop:
Lees ook: Hoe ik een AI-nepnieuwsnetwerk blootlegde
⏱️ Kort nieuws
Wat mij verder opviel op het gebied van misinformatie, mediahypes en andere vormen van misleiding.
Over nepcitaten gesproken: aan niemand worden zoveel citaten ten onrechte toegeschreven als aan Mark Twain. Deze week was het JA21-Kamerlid Annabel Nanninga die de schrijver de uitspraak ‘De geschiedenis herhaalt zich nooit, maar rijmt wel vaak’ in de mond legde.
Nationale verontwaardiging begin deze maand over 1.700 politieagenten die zonder geldige reden het dossier van de vermoorde tiener Lisa zouden hebben bekeken. Maar die beschuldiging blijkt prematuur.
Zo makkelijk overtuig je ChatGPT ervan dat je kampioen hotdogs eten bent.
De Telegraaf interviewde een vermoedelijk niet-bestaande evacué uit Dubai. Haar portretfoto heeft kenmerken van AI en de vluchten die ze noemt bestaan niet, stelde onderzoeksplatform Bellingcat vast. De krant heeft inmiddels een rectificatie onderaan het artikel toegevoegd.
TikTok censureert posts van het journalistieke jongerenplatform SPILnews. Erg goed gemaakte video, die ik het liefst aan alle tieners van Nederland zou willen laten zien.
Drie academici schreven in een opiniestuk in NRC dat universiteiten te links zijn. De auteur van het onderzoek waar zij zich mede op baseren, reageerde en zegt dat het trio zijn bevindingen verkeerd geïnterpreteerd heeft.
Persbureau ANP verwijderde onlangs zeker duizend foto’s uit Iran uit haar beeldbank. Het persbureau kan niet uitsluiten dat de foto’s, afkomstig van een specifiek foto-agentschap, zijn bewerkt met AI. Dat agentschap ontkende overigens tegenover NRC de beschuldigingen. „[Onze mensen] zijn getuige van wat er gebeurt en leggen vast dat er een bom explodeert in de stad, soms alleen met hun mobiele telefoon. Die beelden kun je niet vergelijken met beelden gemaakt met professionele camera’s. Er is geen software die dat materiaal volledig kan checken.”
Weet je nog? Geert Wilders zegde afgelopen najaar het verkiezingsdebat bij RTL af vanwege terreurdreiging. De Volkskrant ontdekte dat dit een smoesje was.
De Russische beïnvloeding rond het Oekraïne-referendum van 2016 was groter dan gedacht, aldus Argos deze week in een radio-uitzending/podcast. Ik vond het geen sterke reportage. Het 'nieuwe' bewijs bestaat onder meer uit een aantal socialmediaposts van Russische bots. Om hoeveel posts het gaat, en of en hoeveel impact die hadden, wordt niet echt duidelijk. De tweede helft van de uitzending gaat over Russische propagandisten die in Nederland actief zijn. Maar over deze personen schreven andere media al eerder. Kortom: interessante ‘tien jaar later’-terugblik? Ja. Sluitend bewijs dat Russische desinformatie verkiezingen fundamenteel beïnvloedt? Nee.
Misinformatie en dehumaniserende berichtgeving kan levens kosten, zo waarschuwt het internationale Rode Kruis. In Zuid-Soedan, bijvoorbeeld, leidden geruchten dat hulporganisaties vergiftigd voedsel uitdeelden ertoe dat mensen levensreddende hulp meden.
Kijk, dit is hoe je een stuk begint: “Het is iets na drie uur ’s nachts wanneer Curtis Yarvin (52) plots begint te huilen.” In Beieren kwamen onlangs zo’n twintig intellectuelen bijeen, onder wie de uiterst rechtse Amerikaanse blogger Curtis Yarvin. Journalist van De Standaard Kasper Goethals was erbij en schreef deze heerlijke reportage, hergepubliceerd door NRC.
300.000 mensen stemden eergisteren op Forum voor Democratie, ondanks het grote aantal kandidaten met een verleden of heden als neonazi/rechts-extremist. Droevig nieuws. En hopelijk een nieuwe stimulans voor de media om de komende vier jaar de schijnwerpers te blijven zetten op de terugkeer van het fascisme in Nederland en de wereld.
Dit was editie #49 van De hype is real, een nieuwsbrief van mij, Menno van den Bos. Ik ben journalist en spreker, gespecialiseerd in media en technologie.
Wil je deze nieuwsbrief liken? Dat geeft me weer net die paar bits voorsprong in het algoritme van Substack.
Er is geen AI gebruikt bij het schrijven van deze nieuwsbrief.
Vragen/tips/feedback? Of adverteren (bereik: 3.800 abonnees)? Neem contact op! mennovdbos@gmail.com / Bluesky / LinkedIn
“utm_source” is het gedeelte van een url dat aangeeft waar iemand de link vandaan heeft. Zo kan er ook “utm_source=google” staan, of “utm_source=facebook”. In dit geval was de bron gevonden via ChatGPT, wat erop duidde dat dit programma mogelijk ook op andere manieren gebruikt was bij het totstandkomen van de teksten.
Hi Menno, dank voor weer een heldere uiteenzetting van wat er achter de schermen gebeurt. Over de video van Spilnews. Het zou inderdaad goed zijn als alle tieners deze video zouden zien. Het wordt veel gezegd. Kinderen en jongeren moeten mediawijs worden. Een rot term, want containerbegrip. maar los daarvan moeten we eerst bestuurders en beleidsmakers het grotere plaatje schetsen en zorgen dat zij er samenhangend beleid op gaan maken. Big tech nog meer verantwoordelijk maken, preventie via het onderwijs (ik pleit voor het vak medialogica & nieuwswijsheid. Vanaf groep 3), ondersteuning via maatschappelijke organisaties en professionals als jongerenwerkers, zorg, docenten. Journalistiek dat zijn werk kan blijven of weer gaat doen en zichzelf als middel gaat zien ipv doel opzich.
Want wat verwacht je dat tieners en jongeren gaan doen met deze kennis? Niet zoveel vermoed ik. Zolang het in de nok niet wordt begrepen groeit er een generatie usefull idiots op. Met een nog grotere informatiekloof tot gevolg.
Heb het met belangstelling gelezen! Ook het artikel in het NRC. Wat mij opvalt is dat je Vandermeersch als medemens benaderd: .."dat je óók als je je bewust meent te zijn van de risico’s — of misschien wel juist dan? — met AI kunt uitglijden. " ( citaat uit je nieuwsbrief ). Dat vind ik mooi.