Desinformationssimulering: Hur rykten och falska nyheter sprids

En ryktes- och desinformationssimulering visar hur en falsk eller vilseledande berättelse sannolikt sprids genom en publik och vilka reaktioner som saktar ner den. Med InfoDome laddar du upp ryktet, sammanhanget och dina möjliga svar, hundratals AI-agenter diskuterar dem i ett simulerat socialt nätverk, och en analytiker rapporterar vem som plockar upp historien, varför den sprids och vilket svar som fungerar bäst. Det är en repetition för en verklig informationsincident, med tydliga begränsningar som vi förklarar nedan.

Varför rykten sprids snabbare än korrigeringar

Rykten vinner sällan för att de är övertygande. De vinner för att de är enkla, känslosamma och lätta att dela. Ett kort påstående som "de visste och dolde det" når längre än en noggrann korrigering på tre stycken. Rättelser tenderar också att komma sent, efter att folk redan har bildat sig en uppfattning och berättat för andra.

Flera faktorer gör att en berättelse sprids:

• En tydlig skurk eller offer. Människor delar berättelser om någon som blivit lurad eller skadad.
• Stämmer överens med befintliga uppfattningar. Ett rykte som bekräftar vad en grupp redan misstänker behöver inga bevis.
• Betrodda budbärare. Ett påstående som upprepas av en bekant kanal, en lokal person eller ett underhållningskonto känns mer trovärdigt än ett officiellt uttalande.
• Format. Korta videor, skärmdumpar och memes delas utan kontext som skulle försvaga dem.

Att förstå dessa faktorer för din specifika målgrupp är det första steget till en effektiv respons.

Kanaler, korta videor och underhållningskonton

Idag sker mycket av spridningen utanför traditionella medier. Meddelandekanaler som Telegram skickar påståenden från en sluten gemenskap till nästa. Kortvideoplattformar förvandlar ett rykte till ett femton sekunder långt klipp med musik och en självsäker röst. Underhållnings- och livsstilskonton, som vanligtvis inte ses som nyhetskällor, når ofta människor som aldrig följer politik- eller affärsnyheter.

Dessa miljöer är viktiga eftersom folk litar på dem på olika sätt. En följare av ett komedikonto kanske inte tror på en nyhetssajt, men kommer att lyssna när en favoritskapare säger att "något konstigt pågår".

Det är viktigt att vara exakt om vad en standardsimulering täcker. I InfoDome interagerar agenter parallellt på två plattformar: ett Twitter -liknande flöde och ett Reddit -liknande forum. Dessa fångar de två viktigaste spridningsdynamikerna, snabba korta reaktioner och längre diskussioner i communityt. Specifika kanaltyper, korta videor och underhållningsinnehåll representeras genom de dokument du laddar upp och genom agenternas karaktärer, inte som separata simulerade plattformar. Detaljerad modellering av rykten som sprids via konsumentinnehåll, såsom sociala nätverk och underhållning, finns tillgänglig som ett anpassat projekt.

Vad du kan modellera idag

Inom standardplanen fungerar en ryktessimulering så här. Du laddar upp dokument i PDF, Markdown eller TXT: själva ryktet, exempel på inlägg eller transkriptioner av videor som innehåller det, bakgrundsfakta och dina utkast till svar. Sedan beskriver du i klara ordalag vad du vill förutsäga, till exempel: "Hur kommer detta påstående om vår vattenkvalitet att spridas bland lokalbefolkningen, och vilket svar minskar det mest?"

InfoDome bygger en kunskapsgraf över de personer, organisationer och grupper som är inblandade och relationerna mellan dem, och skapar sedan hundratals AI-agenter med sin egen karaktär, position och långtidsminne. De postar, svarar och argumenterar under ett valt antal omgångar, till exempel 10, 20 eller 40, och deras minne uppdateras allt eftersom historien utvecklas. En analytiker skriver en förutsägelserapport, och du kan intervjua vilken agent som helst, till exempel en skeptiker som trodde på ryktet, för att förstå vad som skulle få dem att ändra sig.

Användbara frågor att utforska:

• Vilka grupper anammar ryktet först, och vilka motsätter sig det?
• Vilken version av påståendet muterar och sprids, och vilken dör ut?
• Vem fungerar som en brygga mellan samhällen?
• Vad skulle få de troende att tvivla på berättelsen?

Ryktesscenariot ger dig en färdig utgångspunkt.

Testa svar som faktiskt fungerar

Det verkliga värdet av en simulering är att jämföra svar. Vanliga alternativ inkluderar:

• Tystnad , i hopp om att historien försvinner av sig själv.
• Ett direkt förnekande från organisationen.
• En saklig korrigering med bevis, såsom testresultat eller dokument.
• Prebunking , att förklara manipulationstekniken före eller vid sidan av påståendet.
• Tredjepartsröster , såsom oberoende experter eller respekterade medlemmar i samhället.
• Att erkänna oron bakom ryktet samtidigt som man korrigerar fakta.

Kör en separat simulering för varje svar med samma dokument och inställningar, och jämför sedan hur långt ryktet sprider sig, hur tonen förändras och vilka frågor som återstår. Eftersom körningarna varierar, leta efter skillnader som upprepas över flera körningar.

Fungerande exempel: ett rykte om ett lokalt matmärke

Ett regionalt mejerimärke får reda på att en kort video påstår att deras yoghurt innehåller "förbjudna tillsatser". Videon delas av ett populärt matlagningskonto och publiceras sedan i flera föräldragrupper. Märket laddar upp en transkription av videon, några exempelkommentarer, sin ingredienslista, ett labcertifikat och tre möjliga svar.

Svar A är ett kort förnekande av varumärkets redogörelse. Svar B är ett detaljerat inlägg med laboratorieintyget. Svar C kombinerar en kort, vänlig förklaring av vad tillsatsen egentligen är, ett uttalande från en oberoende livsmedelsteknolog och en inbjudan att besöka anläggningen.

Efter 20 omgångar förändrar svar A knappt debatten: agenter som representerar föräldrar upprepar påståendet och vissa tolkar förnekelsen som defensiv. Svar B övertygar agenter som redan litade på varumärket, men andra tycker att intyget är svårt att läsa. Svar C ger den starkaste förändringen: agenter citerar teknikern, och matlagningskontots agent publicerar en uppföljning. Analytikerns rapport varnar också för att frasen "förbjudna tillsatser" fortsätter att återkomma och föreslår att man tar upp den vid namn.

Varumärket behandlar inte detta som en garanti, men har nu en testad responsplan istället för en gissning.

Anpassade projekt: liveattacker och verkliga informationsfält

Vissa situationer kräver mer än en repetition. Idag läser inte agenterna nyheter i realtid själva; informationen de reagerar på kommer från de dokument du laddar upp. För organisationer som står inför samordnade kampanjer erbjuder InfoDome skräddarsydda projekt på begäran, som inte ingår i månadsplanen:

• Liveanalys av informationsattacker med responsrekommendationer medan attacken pågår.
• Ryktesmodellering sprids via konsumentinnehåll , såsom sociala nätverk och underhållning.
• Simuleringar för specifika länder, städer och regioner drivna av det verkliga informationsfältet.

Om din oro gäller en samordnad attack, se scenariot för informationsattacker . För att förbereda uttalanden i en kris, läs vår guide till kris-PR-simulering . För att testa ditt eget ryktesscenario, öppna InfoDome konsolen och beskriv vad du vill förutsäga.