Deze hoogleraar factcheckt onzin over AI
Deze hoogleraar factcheckt onzin over AI
Editie #14 van De hype is real, een nieuwsbrief over misinformatie, mediahypes en morele paniek.
Beste lezer,
Het is veel te warm voor lange inleidingen, dus ik houd het kort.
In deze nieuwsbrief:
🎓 Hoogleraar Melanie Mitchell factcheckt onzinverhalen over AI (en: is AI een bubbel?)
⏱️ Kortjes: misinfo over o.a. het effect van smartphones op tieners en een Olympische boksster
📚 Lees-, kijk- en luistertips
🎓 Hoogleraar Melanie Mitchell factcheckt onzinverhalen over AI
2 à 3 minuten leestijd — foto: Adrianna Owens/UC Davis
Noem vooral níét het woord AI. Dat sollicitatie-advies kreeg de Amerikaanse Melanie Mitchell nadat ze in 1990 was gepromoveerd als computerwetenschapper. Toch zette ze door, want AI was haar roeping. Ze groeide uit tot een vooraanstaand hoogleraar.
Dat advies uit 1990 is nu nauwelijks meer voor te stellen. De hype rond AI lijkt geen grenzen te kennen. En opnieuw is Mitchell eigenwijs en verzet ze zich tegen de tijdgeest. Want over AI worden veel overdreven en misleidende uitspraken gedaan. Een greep:
➡️ ChatGPT slaagt voor medisch examen!
➡️ 10% kans dat AI de mensheid zal doen uitsterven, aldus helft van de AI-wetenschappers!
➡️ Chatbot doet zich voor als blind persoon!
➡️ ChatGPT slaagt voor MBA-examen!
Allemaal beweringen die je de afgelopen tijd in het nieuws hebt kunnen tegenkomen. Mitchell factcheckte ze op haar Substack. Voor NRC interviewde ik haar erover.
Mitchell waarschuwt dat wanneer de maatschappij denkt dat AI krachtiger is dan het werkelijk is, men vroeg of laat teleurgesteld zal raken in AI. Een vervelend gevolg daarvan kan zijn dat er vervolgens minder subsidie naar nuttig AI-onderzoek gaat. Ze spreekt in dat kader van ‘AI-winters’.
“We hebben dat door de hele geschiedenis van AI-onderzoek gezien. Door te veel optimisme of overdreven beloftes over waartoe deze systemen in staat zullen zijn, ontstaan AI-winters.”
Lees hier het hele artikel in NRC.
AI: een bubbel? 🫧
Ik vroeg Mitchell ook of ze denkt dat AI behalve een mediahype ook een financiële bubbel is. Het zou niet de eerste keer zijn dat een technologie waar beleggers en investeerders vol op inzetten, een zeepbel blijkt die spectaculair uiteenspat.
Mitchell denkt inderdaad dat bedrijven als OpenAI, de maker van ChatGPT, “over-funded” zijn. Oftewel: dat er meer geld in wordt gestopt dan gerechtvaardigd is.
Iemand die daar nog veel overtuigder van is, is Ed Zitron, in het dagelijks leven pr-adviseur voor Amerikaanse techbedrijven. Zitron stelt dat het nut van veel AI onduidelijk is; dat onduidelijk is hoe het precies werkt en dat weinig bedrijven er momenteel hun bottomline mee verbeteren.
We hebben het dan met name over generatieve AI, zoals ChatGPT en de tool Sora die AI-videobeelden genereert. Zitron schrijft:
“Ik geloof dat een groot deel van de AI-bloei gebakken lucht is, verspreid via (…) meegaande media die maar al te graag verhalen schrijven waarin ze zich voorstellen wat AI kán gaan doen, in plaats van zich te richten op wat het daadwerkelijk doet.”
Over OpenAI-CEO Sam Altman zegt hij:
“Altman probeert je wanhopig te laten geloven dat generatieve AI essentieel en onvermijdelijk zal zijn, want als je dat niet doet, ga je plotseling beseffen dat biljoenen dollars verkwist worden aan iets opmerkelijk middelmatigs.”
Generatieve AI blijft volgens Zitron bijvoorbeeld hardnekkig fouten maken die mensen niet maken. Een recente ervaring die ik met ChatGPT had, ondersteunt dat.
Voorafgaand aan het interview met Melanie Mitchell vroeg ik me af: wat zou zij te zien krijgen als zij ChatGPT vraagt wie die journalist is die haar om een interview mailt? Het antwoord:
Ik heb het gecheckt, maar ik heb geen naamgenoot in de filmwereld. Bij de tweede poging antwoordde ChatGPT zelfs dat ik voor de tienersoap Spangas had gewerkt! Bij de derde poging omschreef ChatGPT me wél netjes als freelance journalist.
Als AI-ontwikkelaars dit soort grilligheid er niet uitkrijgen, worden investeerders en klanten waarschijnlijk inderdaad nerveus.
Of AI ook echt een bubbel is, zal de tijd moeten leren. Dat het een mediahype is, durf ik alvast wel te concluderen.
⏱️ Kortjes: dopamine, tienerbreinen en bokssters
1. Ik las het boekje Het dopamine effect — en voelde me na afloop nogal bekocht. Niet alleen omdat de auteurs een kleine hoeveelheid tekst kunstmatig oprekken tot 104 pagina’s, maar ook door het gebrek aan onderbouwing voor allerlei uitspraken over bijvoorbeeld verbanden tussen dopamine en ADHD en autisme. Lees hier meer.
2. De Britse krant The Telegraph schreef dat de Britse regering techbedrijven wil dwingen ‘fake news’ te verwijderen. Ik was direct kritisch: een overheid die gaat bepalen wat waar en niet waar is…? Maar er blijkt helemaal geen concreet plan om ‘nepnieuws’ te verbieden — dat is speculatie van The Telegraph:
3. Worden tieners verpest door smartphones en sociale media? Negentien Nederlandse hoogleraren en andere experts keerden zich deze week in een open brief tegen die populaire boodschap, op de kaart gezet door de Amerikaanse psycholoog Jonathan Haidt. Zijn boek Generatie Angststoornis vindt al maanden vrij kritiekloos weerklank. Goed dat wetenschappers bij gebrek aan journalistiek tegenwicht dan maar zelf in de pen klimmen. Ze wijzen er onder andere op dat Haidt selectief shopt in wetenschappelijk onderzoek. Hun conclusie: Haidt wakkert een morele paniek aan.
4. Wat ging er de afgelopen tijd veel misinformatie rond over de Olympische boksster Imane Khelif. Zo noemde J.K. Rowling haar ten onrechte een man, en De Telegraaf blunderde door te schrijven dat Khelif en een andere boksster transgender zijn. Het is duidelijk dat Khelif een androgyn uiterlijk heeft, maar er is geen bewijs dat ze geen vrouw is. En al blijkt Khelif wel bijvoorbeeld intersekse: de haat die ze over zich heen kreeg, enkel omdat ze deelnam aan een toernooi waaraan ze gewoon mócht deelnemen, was niet om aan te zien.
5. Er komen 630 schermen in Nederland te staan met koppen van RTL Nieuws. Ik schreef al eens over waarom je dit soort abri’s steeds meer ziet. Ik vind het zorgelijk, want zo gaan mensen hun meningen nóg meer baseren op enkel koppen, zonder verdere inhoud of context.
📚 Lees-, kijk- en luistertips
Filmpje: Nederlands kraanwater is gevaarlijk, aldus influencers die met filterkannen zwaaien. Onnodig: ons drinkwater is hartstikke veilig.
Artikel: ‘De alternatieve waarheid bestaat allang niet meer alleen op sociale media’ — Over hoe in Engeland de verkeerde dader van een steekpartij werd aangewezen. Het zou een moslimmigrant zijn geweest (klopte niet), waarna er een moskee werd aangevallen.
😱 Mythe van de Week
Hoeveel landen zijn er? Vraag het Google, of ChatGPT, en je antwoord is: 195. Want er zijn 195 landen erkend door de VN. Duidelijk, toch?
Niet helemaal, want uiteindelijk is dat een arbitraire maatstaf, legt het geweldige Britse YouTube-duo Map Men uit. Hun explainer is niet alleen interessant maar ook heel grappig.
Vraag, opmerking, tip, foutje gezien? Of samenwerken? Reageer op deze mail of stuur een DM.
Interview met Melanie Mitchell! Wat ontzettend vet. En goed stuk.