De snelle verspreiding van desinformatie en complottheorieën rond de dood van Charlie Kirk, een conservatieve commentator, heeft een kritieke tekortkoming aan het licht gebracht bij het vertrouwen op AI-chatbots voor het laatste nieuws. Na zijn schietpartij op een openbaar evenement in Utah werd het internet al snel overspoeld met niet-geverifieerde claims en speculaties, nog verergerd door onnauwkeurige en misleidende reacties van AI-chatbots. Dit incident onderstreept de beperkingen van kunstmatige intelligentie als het gaat om het nauwkeurig en verantwoord rapporteren over snel evoluerende gebeurtenissen.
De door bot gevoede desinformatie
De eerste berichten over het incident waren chaotisch, met verwarring over de vraag of Kirk nog leefde of dood was. Deze onzekerheid creëerde een vruchtbare voedingsbodem voor online speculatie, en gebruikers wendden zich al snel tot sociale media om niet-geverifieerde informatie te verspreiden en te versterken. AI-chatbots, geïntegreerd in platforms als X en toegankelijk via diensten als Google, verergerden het probleem echter vaak door onnauwkeurige of misleidende informatie te verstrekken.
- Conflicterende rapporten: AI-chatbots boden tegenstrijdige rapporten aan, waarbij sommigen aanvankelijk beweerden dat Kirk was overleden, om de informatie later in te trekken.
- Validatie van complottheorieën: In andere gevallen valideerden chatbots schijnbaar bestaande complottheorieën, inclusief claims van geplande moorden en buitenlandse betrokkenheid, door door AI gegenereerde antwoorden te bieden die deze valse verhalen ondersteunden.
- Misleidende beweringen: Eén chatbot beweerde ten onrechte dat CNN, NYT en Fox News een geregistreerde Democraat als verdachte hadden geïdentificeerd, wat niet waar bleek te zijn. Een andere bot bestempelde een video van de schietpartij als een ‘meme’, ondanks dat beveiligingsexperts de authenticiteit ervan bevestigden.
De rol van algoritmische vooroordelen
De onnauwkeurige rapportage van chatbots komt voort uit verschillende factoren die inherent zijn aan AI-technologie.
- Gebrek aan menselijke verificatie: In tegenstelling tot menselijke journalisten kunnen chatbots geen lokale functionarissen bellen, geen toegang krijgen tot documenten uit de eerste hand of beelden verifiëren – cruciale stappen bij het verifiëren van informatie.
- Echo Chamber Effect: AI-algoritmen hebben de neiging om prioriteit te geven aan informatie die vaak wordt herhaald, waardoor onwaarheden aan kracht winnen en nauwkeurige rapportage worden overstemd.
- Prioriteit geven aan de luidste stemmen: Chatbots zijn vatbaar voor herhaalde claims van websites met weinig betrokkenheid, sociale berichten en door AI gegenereerde inhoudsboerderijen die zijn gezaaid door kwaadwillende actoren.
De bredere trend: veranderende strategieën voor nieuwsverificatie
Dit incident komt doordat grote technologiebedrijven steeds meer afhankelijk zijn van AI en gemeenschapsmoderatie om de nieuwsverificatie te beheren, een verschuiving die zorgen doet rijzen over de toekomst van nieuwsgeletterdheid.
- Minder menselijke factcheckers: Veel bedrijven hebben de investeringen in menselijke factcheckers teruggeschroefd ten gunste van AI-gestuurde contentmoderatie.
- Het “Liar’s Dividend”: AI stelt individuen in staat te beweren dat echte informatie vals is, waardoor verwarring en wantrouwen wordt gezaaid, een fenomeen dat bekend staat als het “Liar’s Dividend”.
- Verminderd vertrouwen in traditionele bronnen: Uit een onderzoek van Pew Research blijkt dat personen die door AI gegenereerde zoekresultaten tegenkomen, minder snel op aanvullende bronnen klikken dan degenen die traditionele zoekmachines gebruiken.
McKenzie Sadeghi, een onderzoeker bij NewsGuard, merkt bondig op: “Algoritmen vragen niet om commentaar”, waarmee hij de onvervangbare rol van menselijk oordeel in verantwoorde nieuwsverslaggeving benadrukt. Deborah Turness, CEO van BBC News en Current Affairs, herhaalde dit sentiment en waarschuwde: “Hoe lang zal het duren voordat een door AI vervormde kop aanzienlijke schade aanricht in de echte wereld?”
De Charlie Kirk-zaak herinnert ons duidelijk aan de noodzaak van voorzichtigheid en scepsis bij het vertrouwen op AI-chatbots voor het laatste nieuws, en benadrukt het voortdurende debat over de rol van kunstmatige intelligentie in een snel evoluerend medialandschap.
De toenemende afhankelijkheid van AI bij het verzamelen van nieuws heeft geleid tot bezorgdheid over de toenemende desinformatie en de impact van AI op nieuws en politiek
