I criminali informatici stanno sfruttando nuove tecniche per aggirare le protezioni contro il malvertising sulla piattaforma X, nota precedentemente come Twitter, utilizzando l’intelligenza artificiale Grok. Questo approccio innovativo consente di propagare link malevoli sfruttando la visibilità e l’affidabilità che l’IA di X offre agli utenti, amplificando la diffusione di malware e truffe a milioni di persone.

Tecnica del Grokking

La tecnica, soprannominata Grokking, si basa sulla pubblicazione di post promossi tramite video card con contenuti per adulti come esca. Il link malevolo non viene inserito direttamente nel post, ma nascosto nel campo metadati “From:” sotto il video, una sezione che la piattaforma X non sottopone a scansione di sicurezza come avviene invece per il testo e i media principali. Gli attaccanti poi rispondono ai propri post, taggando Grok e chiedendo, ad esempio, da dove provenga il video. In questo modo, l’IA risponde pubblicando visibilmente il link, che così ottiene una legittimazione e un’ulteriore amplificazione, sia a livello di impression sulla piattaforma, sia in termini di reputazione SEO e dominio.

Impatto e diffusione dei link malevoli

L’effetto di questa catena è devastante: un link che normalmente sarebbe bloccato nei contenuti sponsorizzati viene invece rilanciato da un account considerato affidabile dal sistema, finendo nei feed di milioni di utenti e nei risultati dei motori di ricerca. I link indirizzano verso reti pubblicitarie dubbie, spesso portando l’utente a falsi CAPTCHA, download di malware per il furto di informazioni o altri contenuti sospetti tramite meccanismi di monetizzazione smartlink.

Organizzazione e automazione degli attacchi

Le analisi di aziende di cybersecurity hanno evidenziato come dietro questa strategia ci sia un’organizzazione ben strutturata. Sono stati identificati centinaia di account impegnati in questa attività, ciascuno dei quali pubblica incessantemente centinaia o migliaia di post finché non viene sospeso dalla piattaforma per violazione delle policy. Tuttavia, la natura automatizzata e massiva delle pubblicazioni rende il fenomeno particolarmente insidioso e difficile da arginare.

Obiettivi dei criminali e rischi emergenti

L’obiettivo dei criminali è sfruttare la combinazione di visibilità, automazione e affidabilità apparente di Grok per bypassare i controlli sulle inserzioni pubblicitarie, massimizzando la diffusione di link dannosi. Questo caso rappresenta un chiaro esempio di come le tecnologie di intelligenza artificiale possano essere manipolate per scopi malevoli, costringendo le piattaforme social e le aziende di sicurezza a sviluppare nuove strategie di difesa.