La disinformazione russa sta influendo sul funzionamento dei chatbot AI

Il problema non è il concetto di intelligenza artificiale, ma il suo addestramento. Spesso e volentieri abbiamo sentito parlare di vere e proprie “allucinazioni” da parte dei principali chatbot AI a uso e consumo di tutto. Ma qual è la causa di tutto ciò? Il problema più importante è stato messo in evidenza dalla più recente indagine di NewsGuard: dieci tra i principali chatbot conversazionali (compresi ChatGPT di OpenAI, Gemini di Google, Grok di xAI, Copilot di Microsoft e la neonata Meta AI) sono addestrate anche su siti che fanno disinformazione. Il report si concentra sulle ingerenze filo-russe e ha evidenziato come i chatbot in questione hanno ripetuto collettivamente le false narrazioni di disinformazione russa il 31,75% delle volte e per ben 152 risposte su 570 domande il chatbot aveva restituito dei contenuti esplicitamente riconoscibili come false informazioni.

Chatbot AI influenzati dai siti di fake news russi

Buona parte delle fake news che provocano queste “allucinazioni” AI provengono da un dataset specifico: si tratta di una vera e propria galassia (oltre 167 siti, cresciuti esponenzialmente nell’ultimo mese) coordinata da un americano che – per fuggire da un’indagine nei suoi confronti – ha trovato asilo politico a Mosca. Si chiama John Mark Dougan, meglio conosciuto come “BadVolf”, ed è un ex vice-sceriffo accusato di hacking informatico ed estorsione. Dai suoi portali arriva la maggior parte delle fake news che i chatbot AI utilizzano come fonte per rispondere alle domande degli utenti.

Una dinamica simile arriva anche da un’indagine pubblicata nelle scorse ore dall’Unesco e che riguarda le fake news sull’Olocausto. Interrogando e Gemini su alcuni dei terribili eventi avvenuti prima e durante il secondo conflitto mondiale, i due chatbot hanno – per esempio – inventato completamente le notizie, senza corredarle da testimonianza storiche concrete e affidabili. Per esempio, si sostiene che parte dei prigionieri nei campi di concentramento fossero stati uccisi dai nazisti per annegamento. In altri casi, vengono completamente inventate di sana pianta testimonianza storiche.

• I siti di fake news hanno infestato i chatbot AI
• Chi è John Mark Dougan, l’americano che fa disinformazione per il Cremlino
• Non solo Russia-Ucraina: l’AI generativa ha problemi anche con l’Olocausto
• La ricerca su Google immagini è pesantemente condizionata dall’AI
• Intanto TikTok sdogana gli avatar AI per gli annunci pubblicitari