Attacco a Meliorator: smantellata la bot farm AI del Cremlino
Recentemente, il Dipartimento di Giustizia degli Stati Uniti, insieme alle autorità canadesi e olandesi, ha smantellato una sofisticata bot farm russa potenziata con intelligenza artificiale, conosciuta come Meliorator. Questo strumento era utilizzato per diffondere propaganda pro-Cremlino sui social media, principalmente su Twitter (X).
Bot farm Meliorator: individuati 968 profili fake
L’operazione contro la bot farm russa Meliorator è stata avviata all’inizio del 2022. Un vicecaporedattore di Russia Today (RT) e un ufficiale dell’FSB erano alla guida di questa bot farm potenziata con AI, che mirava a diffondere disinformazione attraverso account falsi.
Gli account, spesso mascherati da cittadini statunitensi, propagavano narrazioni pro-Russia, contribuendo a seminare discordia e influenzare l’opinione pubblica internazionale. I bot di Meliorator erano in grado di creare profili social apparentemente autentici, diffondendo contenuti che giustificavano l’invasione russa nell’Ucraina e altre narrazioni favorevoli al Cremlino. Durante l’operazione, sono stati identificati e chiusi 968 account Twitter (X) associati a questa campagna di disinformazione.
Gli account utilizzavano domini registrati tramite server email privati, come MLRTR.com e OTANMAIL.com, ora sequestrati dalle autorità.
Dettagli tecnici del bot farm Meliorator
Meliorator è una piattaforma avanzata di gestione dei bot basata sull’intelligenza artificiale.
Questa bot farm è progettata per creare e gestire grandi quantità di profili social falsi, che sembrano autentici grazie a tecniche di deep learning e generazione di testi naturali. La piattaforma utilizza reti neurali per imitare il comportamento umano, creando post, commenti e interazioni che difficilmente possono essere distinti da quelli di utenti reali.
Funzionamento del Software
Generazione di profili: Meliorator crea profili completi utilizzando nomi, foto e biografie generate automaticamente. Le immagini dei profili sono create utilizzando GANs (Generative Adversarial Networks), che combinano caratteristiche facciali di varie persone per generare volti realistici.
Automazione dei Post: utilizzando tecniche di NLP (Natural Language Processing), il software può analizzare e replicare stili di scrittura e toni di vari utenti, permettendo ai bot di interagire in modo credibile su temi politici e sociali.
Gestione centralizzata: un pannello di controllo centrale permette agli operatori di monitorare e dirigere le attività di migliaia di bot simultaneamente. Questo include la possibilità di indirizzare i bot verso specifiche discussioni, hashtag o gruppi di utenti target.
La bot farm russa Meliorator sfruttava server di posta elettronica privati e domini registrati specificamente per evitare tracciabilità. Gli account venivano registrati usando VPN e altri strumenti di anonimizzazione per mascherare l’origine delle connessioni.
Le autorità hanno sequestrato i domini MLRTR.com e OTANMAIL.com, che erano utilizzati per la registrazione e gestione degli account dei bot.
Contromisure tecniche utilizzate
Le autorità statunitensi hanno collaborato con Twitter (X) per sospendere gli account rimanenti e sequestrare i domini con cui la bot farm russa Meliorator era solita operare.
Il Vice Procuratore Generale Lisa Monaco ha sottolineato l’importanza di questa operazione, evidenziando l’impegno del Dipartimento di Giustizia nel contrastare l’uso criminale dell’IA per diffondere disinformazione
Collaborazione Internazionale
La cooperazione tra diverse agenzie internazionali è stata cruciale per il successo dell’operazione. FBI, Cyber National Mission Force (CNMF), Canadian Centre for Cyber Security (CCCS), Netherlands General Intelligence and Security Service (AIVD), Netherlands Military Intelligence and Security Service (MIVD), e la polizia olandese hanno lavorato insieme per identificare e neutralizzare la bot farm.
Sequestro dei domini
Il sequestro dei domini MLRTR.com e OTANMAIL.com ha giocato un ruolo cruciale nel disabilitare l’infrastruttura della bot farm. Questi domini erano utilizzati per registrare nuovi account bot e per gestire le attività dei bot esistenti.
Analisi dei Log e dei Metadati
L’analisi approfondita dei log dei server e dei metadati delle comunicazioni ha permesso agli investigatori di tracciare le operazioni della bot farm russa Meliorator e identificare i modelli di comportamento dei bot. Questo ha aiutato a individuare e chiudere gli account falsi su Twitter (X) .
Uso di strumenti di rilevamento AI
Sono stati impiegati strumenti avanzati di rilevamento basati sull’intelligenza artificiale per identificare attività anomale e schemi di comportamento non umani sui social media. Questi strumenti sono stati in grado di distinguere tra attività autentiche e quelle generate dai bot, facilitando l’individuazione degli account falsi.
L’operazione contro la bot farm Meliorator rappresenta un significativo passo avanti nel contrasto alle campagne di disinformazione che porta avanti il governo russo.
Questo evento evidenzia la crescente sofisticazione degli strumenti di propaganda utilizzati dagli stati nazionali e la necessità di una cooperazione internazionale per affrontare tali minacce. Le indagini sono ancora in corso, e le autorità promettono di continuare a utilizzare tutte le risorse disponibili per proteggere il pubblico dalla disinformazione generata con l’Intelligenza Artificiale.
Lo smantellamento di Meliorator è un esempio di come la tecnologia possa essere utilizzata sia per scopi dannosi che per difendersi da tali minacce.
