AI-chatbots vullen opnieuw de nieuwsfeed met Russische misinformatie
Kunstmatige intelligentie (AI)-modellen, zoals OpenAI's ChatGPT, verspreiden onbedoeld Russische misinformatie, zo blijkt uit een recente studie.
Een onderzoek uitgevoerd door NewsGuard, een nieuwsmonitoringdienst, werpt nieuw licht op de gevolgen van Russische desinformatie die wordt uitgezonden door prominente AI-modellen.
Het onderzoek richtte zich op populaire chatbots, waaronder ChatGPT-4 van OpenAI, en onthulde verontrustende trends in de verspreiding van valse verhalen. Het onderzoek van NewsGuard testte 10 verschillende chatbots met 57 prompts, ontworpen om hun reacties op bekende Russische desinformatienarratieven te onderzoeken.
De prompts waren gebaseerd op verhalen over John Mark Dougan, een Amerikaanse voortvluchtige die naar verluidt betrokken is bij het verspreiden van misinformatie vanuit Moskou, zoals vermeld door de New York Times.
Volgens de bevindingen herhaalden deze chatbots die wereldwijd steeds vaker worden gebruikt voor informatie, Russische desinformatienarratieven ongeveer 32% van de tijd. Het onderzoek categoriseerde de reacties in expliciete desinformatie, herhaalde valse claims met disclaimers, of reacties die weigerden te reageren of de informatie ontkrachtten.
"Deze deugdelijke cirkel betekent dat onjuistheden worden gegenereerd, herhaald en gevalideerd door AI-platforms," aldus de studie, die een zorgwekkend patroon belicht waarin AI onbedoeld misinformatie versterkt die hetzelf helpt creëren.
SPECIFIEKE VALSE VERHALEN EN REACTIES
NewsGuard identificeerde 19 belangrijke valse verhalen die verband houden met het Russische desinformatienetwerk, inclusief beweringen over corruptie door de Oekraïense president Volodymyr Zelenskyy.
Deze verhalen werden gebruikt als prompts om de chatbots te testen, waarbij verschillende gradaties van vatbaarheid voor misinformatie aan het licht kwamen.
Onder de geteste chatbots bevonden zich ChatGPT-4, Meta AI, en Microsoft’s Copilot, onder andere. Hoewel de studie de prestaties van individueel geteste chatbots niet specifiek vermeldde, gaf het wel voorbeelden van gevallen waarin misinformatie ofwel kritiekloos werd herhaald of juist gepast werd tegengesproken.
REGULERINGSPROBLEMEN EN INDUSTRIERESPONS
De implicaties van AI die misinformatie verspreiden, hebben overheden wereldwijd ertoe aangezet te overwegen regelgevende maatregelen te nemen. Zorgen over de potentiële schade van AI, waaronder bias en misinformatie, hebben geleid tot initiatieven zoals die van NewsGuard, welke zijn bevindingen heeft overhandigd aan regelgevende instanties zoals het Amerikaanse AI Safety Institute en de Europese Commissie.
Als reactie op de bevindingen is er een groeiende roep om transparantie en verantwoording bij de ontwikkeling en inzet van AI. Deze maand startte de Commissie voor Toezicht en Verantwoording van het Amerikaanse Huis van Afgevaardigden zelf een onderzoek naar NewsGuard, en toonde bredere zorgen over de rol van AI in informatieverspreiding en potentiële censuur, zoals gerapporteerd door EuroNews.
In een apart, maar gerelateerd ontwikkeling nam OpenAI recentelijk resoluut actie tegen online desinformatiecampagnes die gebruikmaken van zijn AI-technologie. Volgens een gedetailleerd rapport uitgegeven door het bedrijf, heeft OpenAI vijf verborgen invloedscampagnes geïdentificeerd en stopgezet die werden uitgevoerd door staatsactoren en particuliere bedrijven uit Rusland, China, Iran en Israël.
Het rapport markeert een belangrijke mijlpaal door publiekelijk te beschrijven hoe belangrijke AI-technologieën worden misbruikt voor bedrieglijke doeleinden in geopolitieke contexten. Noemenswaardige campagnes die werden beschreven zijn Rusland's 'Doppelganger' en China's 'Spamouflage', die beide AI-tools hebben gebruikt om hun strategische doelen al jarenlang te bevorderen. Iran en Israël maakten op dezelfde manier gebruik van AI om hun geopolitieke agenda's via online kanalen te bevorderen.
Bekijk hier meer artikelen op AivyPlus.nl om op de hoogte te blijven van de nieuwste ontwikkelingen in AI en tech!
