Per testare l’integrità di questi sistemi, abbiamo esaminato come i meccanismi di raccomandazione potrebbero essere manipolati da un attaccante. La nostra ricerca ha tentato di avvelenare i modelli di filtraggio collaborativo utilizzati da molti siti e applicazioni per le raccomandazioni, utilizzando tecniche che potrebbero essere utilizzate per far apparire un pezzo di contenuto in una posizione più alta nella timeline dei social media o nei risultati di ricerca di una persona, agganciandosi ad un altro pezzo di contenuto.

Gli attacchi simulati hanno effettivamente aumentato le possibilità che un utente fosse raccomandato ad un altro utente specifico, sulla base dell’attività di retweet. Anche un numero molto piccolo di retweet era sufficiente a manipolare l’algoritmo di raccomandazione per promuovere gli account il cui contenuto è stato condiviso attraverso i retweet iniettati. Abbiamo scoperto che questi attacchi potrebbero rappresentare meccanismi efficaci per diffondere la disinformazione, o per far crescere anelli di follow-back che coordinano la loro attività al fine di promuovere contenuti specifici.

I nostri risultati suggeriscono anche che i modelli di intelligenza artificiale probabilmente utilizzati da tutte le piattaforme di social media per aumentare l’engagement del sito sono già manipolati da utenti motivati. E queste piattaforme sono vulnerabili a uno sfruttamento molto maggiore da parte di avversari che potrebbero adottare un approccio più sperimentale per testare i modi migliori in cui influenzare l’intelligenza artificiale in questi meccanismi.

I pericoli della disinformazione

YouTube, Facebook, TikTok e Twitter giocano un ruolo fondamentale nell’influenzare il pubblico e modellare l’opinione pubblica. Questi siti possono già essere manipolati in vari modi, che includono:

• servizi che vendono retweet, like, visualizzazioni, sottoscrizioni, ecc.
• gruppi organizzati, come le fabbriche di troll
• gruppi segreti ad hoc che usano attività coordinate per influenzare il discorso politico o diffondere disinformazione

Molti avversari trattano i social media come un gioco di guerra dell’informazione, escogitando continuamente modi per amplificare e diffondere contenuti, spesso raggiungendo l’amplificazione attraverso azioni coordinate eseguite da account falsi. Per fare questo in modo più efficace, spesso aggirano i sistemi progettati per prevenire la manipolazione, la pubblicazione di disinformazione e altre azioni che sono vietate dai termini di servizio di quella piattaforma.

Miliardi di persone in tutto il mondo ottengono le loro notizie dai social media. E la capacità di accelerare la diffusione della disinformazione è particolarmente preoccupante, dato che le falsità sembrano possedere una viralità intrinseca. Uno studio del 2018 pubblicato su Science ha dimostrato che le falsità hanno il 70% di probabilità in più di essere ritwittate su Twitter rispetto alla verità. Uno studio più recente ha rilevato che la disinformazione sul Covid-19 si è diffusa più velocemente della verità. Questo fenomeno potrebbe essere incoraggiato da raccomandazioni che alimentano gli sforzi di gruppi intenti a diffondere volutamente cattive informazioni. Questi esperimenti illustrano la difficoltà di differenziare tra ciò che è la manipolazione intenzionale dei meccanismi di raccomandazione e ciò che è diventato pratica standard degli utenti su queste piattaforme.

Indipendentemente da ciò, questi risultati forniscono un avvertimento su come questi meccanismi potrebbero essere abusati per influenzare l’opinione pubblica, specialmente durante eventi sensibili al tempo, i quali danno ai manipolatori brevi finestre per diffondere efficacemente la disinformazione prima che la loro attività sia rilevata – come nel periodo di tempo che precede un’elezione o quando si cerca di cronometrare l’aumento o il calo del prezzo di un’azione o nel mezzo di una campagna di vaccinazione di massa che si basa sulla conquista della fiducia di una vasta maggioranza della popolazione di un Paese.