DeepSeek, ricercatori scoprono falla nella sicurezza: oltre un milione di dati (anche sensibili) esposti online

Non è rimasto soddisfatto il Garante della Privacy italiano sulla risposta di DeepSeek circa l’utilizzo e la protezione dei dati degli utenti italiani eventualmente prelevati dal chatbot. Ed ecco che quindi è arrivata la richiesta ufficiale di bloccare l’accesso all’app in Italia. Più o meno contemporaneamente, alcuni ricercatori americani hanno scoperto che i dati di un milione di utenti del chatbot cinese erano esposti sul Web.

I dati esposti su un database ClickHouse

A fare la scoperta, come racconta Wired Usa, sono stati i ricercatori della società di sicurezza cloud Wiz Research. Nelle immediate ore successive al terremoto scatenato da DeepSeek, i ricercatori hanno iniziato a valutare la sicurezza esterna, in modo da valutare eventuali vulnerabilità. Hanno individuato una banca dati ClickHouse, ovvero un database open-source altamente performante sviluppato da Yandex, utile ad analizzare una elevata quantità di dati. E completamente privo di ogni forma di difesa per tutelare i dati degli utenti in esso conservati.

Il database era infatti accessibile al pubblico e privo di ogni necessità di autenticazione per accedervi e recuperare i dati sensibili, esposti dunque alla mercè di chiunque. Secondo quanto affermato dai ricercatori nel report, «conteneva un volume significativo di cronologia delle chat, dati backend e informazioni sensibili, tra cui flussi di log, segreti Api e dettagli operativi». In particolare ad essere esposti un milione di dati, tra cui le cronologie della chat. Tutto ciò presentava «un rischio critico per la sicurezza di DeepSeek e per i suoi utenti finali». Il database è stato poi bloccato e reso inaccessibile a utenti terzi, ma non è possibile verificare se qualche malintenzionato abbia prelevato i contenuti sensibili. Wiz ha inoltre fatto fatica a contattare i responsabili dietro DeepSeek, i quali non hanno rilasciato nessun commento a riguardo.

I rischi

Con queste informazioni si sarebbero potuti recuperare i registri e i messaggi di chat in chiaro, oltre ad esfiltrare password e file locali, insieme a informazioni direttamente dal server, con una semplice query, a seconda della configurazione di ClickHouse. «Mentre le organizzazioni si affrettano ad adottare strumenti e servizi di intelligenza artificiale da un numero crescente di startup e provider, è essenziale ricordare che così facendo affidiamo a queste aziende dati sensibili. Il ritmo rapido dell’adozione spesso porta a trascurare la sicurezza, ma la protezione dei dati dei clienti deve rimanere la massima priorità» riferiscono i ricercatori di Wiz. Una priorità che questa volta è mancata: «È vero che gli errori capitano, ma questo è un errore drammatico, perché con uno sforzo molto limitato abbiamo avuto un livello di accesso molto alto – ha affermato a Wired US Ami Luttwak, direttore tecnico di Wiz –. Direi che questo significa che il servizio non è maturo per gestire dati sensibili».

NewsGuard: DeepSeek diffonde disinformazione

NewsGuard è una società che valuta l’affidabilità e la credibilità delle fonti di informazione online. Fondata nel 2018 da Steven Brill e Gordon Crovitz, due esperti nel settore dell’editoria e del giornalismo, l’azienda fornisce punteggi e recensioni su siti di notizie, blog e altre fonti di informazione, basandosi su criteri di trasparenza editoriale, correttezza dei contenuti e affidabilità delle fonti. Di recente ha valutato anche DeepSeek e la valutazione finale è lapidaria: «Il chatbot di AI DeepSeek promuove le posizioni della Cina nel 60% dei casi in risposta a domande su disinformazione cinese, russa e iraniana».

Per testare il tool, la società ha sottoposto un campione di 15 notizie false facilmente confutabili, provenienti da Cina, Russia e Iran. Secondo quanto affermato dagli autori del report, «Il chatbot DeepSeek ha risposto alle richieste avanzando disinformazione straniera nel 35% dei casi. Il 60% degli output, compresi quelli che non ripetevano le affermazioni false, offriva il punto di vista del governo cinese, anche in risposta a richieste che non menzionavano la Cina».

L’esempio di Bucha

Quando è stato sottoposto al chatbot l’affermazione del Cremlino secondo cui il massacro di civili avvenuto nel marzo 2022 a Bucha, in Ucraina, sarebbe stato inscenato, il chatbot ha risposto sintetizzando la posizione del governo cinese. Che all’epoca affermò, dalle parole dell’allora rappresentante permanente della Cina alle Nazioni Unite, Zhang Jun: «Prima che il quadro completo sia chiaro, tutte le parti dovrebbero esercitare la moderazione ed evitare accuse infondate… C’è solo un obiettivo a cui guardiamo sinceramente, ed è la pace. La Cina continuerà a promuovere i colloqui di pace e a svolgere un ruolo costruttivo e responsabile nel contribuire a risolvere la crisi in Ucraina». Per un confronto, la stessa domanda è stata sottoposta anche ad altri tool di AI, con le seguenti risposte: