Il boom di DeepSeek, che sconvolge i mercati, potrebbe sconvolgere anche qualcos’altro, di cui sottovalutiamo l’importanza: la nostra privacy, i nostri diritti.
Sì, la startup cinese dell’AI ha causato il tracollo di 600 miliardi di borsa di Nvidia (e fatto calare i titoli di molte big tech); ma è bene soprattutto riflettere sulle implicazioni per i diritti dei cittadini europei, alla luce dell’approccio alle tecnologie ormai consolidato all’interno dell’UE, che vede arrivare l’ennesima possibile minaccia.
Non a caso, a quanto di apprende, il Garante Privacy italiano si prepara a un provvedimento su Deepseek, nelle prossime ore.
Deepseek, le implicazioni per la privacy
Deepseek, per prima cosa, ospita i dati degli utenti su server della Cina.
DeepSeek raccoglie una vasta gamma di dati dagli utenti, tra cui:
- Messaggi e contenuti delle interazioni: Tutte le conversazioni e input forniti dall’utente potrebbero essere registrati.
- Informazioni sul dispositivo: Dati relativi al sistema operativo, tipo di dispositivo e indirizzo IP vengono raccolti per tracciare l’attività.
Non è evidente se DeepSeek sia conforme al GDPR (Regolamento Generale sulla Protezione dei Dati) applicato nell’Unione Europea, che garantisce diritti come l’accesso ai dati, la possibilità di rettifica e la richiesta di cancellazione.
L’architettura di intelligenza artificiale avanzata di DeepSeek, poi, basata sull’accesso a vasti set di dati e su una capacità di elaborazione all’avanguardia, è particolarmente adatta per operazioni di sicurezza informatica offensive su larga scala anche nei confronti di informazioni sensibili.
È altresì progettata per funzionare in ambienti complessi e dinamici, il che la rende potenzialmente superiore in applicazioni come simulazioni militari, analisi geopolitiche e processo decisionale in tempo reale.
Il report Kela Cyber su DeepSeek
Kela ha pubblicato un report dettagliato su DeepSeek.
Il report evidenzia diverse problematiche relative alla privacy e alla sicurezza associate all’utilizzo di DeepSeek:
- Censura e manipolazione dei contenuti: DeepSeek integra meccanismi di censura che limitano la discussione su argomenti sensibili, come le proteste di Tiananmen del 1989, la persecuzione degli uiguri e i diritti umani in Cina. Questa censura potrebbe influenzare la qualità e l’affidabilità delle informazioni fornite dall’IA.
- Rischi per la privacy e la sicurezza dei dati: CI sono preoccupazioni riguardo al trasferimento di dati personali degli utenti verso la Cina e dubbi sulla protezione e sull’uso di tali informazioni da parte del governo cinese.
- Potenziale utilizzo per attività di disinformazione e sorveglianza: Si teme che DeepSeek possa essere impiegata per influenzare opinioni pubbliche estere, diffondere disinformazione o condurre attività di sorveglianza, rappresentando una minaccia per la sicurezza nazionale e la privacy degli utenti.
In risposta a queste preoccupazioni, KELA ha sottolineato l’importanza di monitorare attentamente l’adozione di DeepSeek, soprattutto in contesti sensibili, e ha raccomandato alle organizzazioni di valutare i rischi associati all’utilizzo di questa tecnologia.
Tra le caratteristiche principali di DeepSeek vi sono la sua natura open source, il basso costo rispetto ai competitors statunitensi, e la capacità di funzionare alla perfezione anche in locale grazie a versioni che vanno da 1,5 miliardi a 70 miliardi di parametri adattandosi all’hardware dell’utente.
Un grosso vantaggio per DeepSeek, ma un grosso rischio per la privacy dell’utente. La capacità di DeepSeek di elaborare vasti set di dati, infatti, gli consentirebbe di creare profili completi su individui, aziende e governi, con i dati raccolti e ospitati in Cina.
Ad esempio, cartelle cliniche, dati finanziari e informazioni biometriche rubate in attacchi informatici o raccolti mediante l’utilizzo della piattaforma, potrebbero essere utilizzate per addestrare DeepSeek, migliorandone la capacità di prevedere il comportamento umano e modellare le vulnerabilità perfezionandosi.
Evidentemente, alcune delle possibili applicazioni porterebbero ad usi che in UE sarebbero assolutamente vietati, e il rischio di profilazione degli utenti e di raccolta massiccia di dati per “alimentare” lo sviluppo degli algoritmi è alto.
Peraltro, come noto, la Cina ha una concezione della privacy piuttosto elastica, ed anche un forte controllo del governo sulle Big Tech nazionali. Ciò fa sì che i dati condivisi sulla piattaforma potrebbero essere accessibili al governo cinese, in quanto, in base alle leggi locali sulla sicurezza informatica, quest’ultimo può in ogni caso ordinare alle aziende di fornire i dati in loro possesso.
Insomma, la conta dei rischi per la sicurezza digitale dei cittadini europei diventa preoccupante: raccolta, elaborazione e conservazione massiccia di dati (compresi quelli sensibili) anche mediante attività che in UE sarebbero vietate, utilizzo improprio dei dati per alimentare gli algoritmi, e libera condivisione degli stessi tra le Big Tech cinesi ed il proprio governo. L’UE farebbe bene a preoccuparsi.
DeepSeek è un laboratorio di ricerca sull’intelligenza artificiale emerso da High-Flyer, società di hedge fund fondata nel 2015 e con sede a Hangzhou, in Cina, e che ha acquisito notorietà sfruttando l’informatica avanzata per analizzare i dati finanziari. Dal 2023, ha però reindirizzato le risorse verso la creazione di DeepSeek, aspirando a sviluppare modelli di intelligenza artificiale innovativi, fino ad arrivare al lancio di un proprio modello ha fatto rapidamente parlare di sé nella Silicon Valley e non solo, e la cui app mobile è salita in cima alle classifiche di download per iPhone negli Stati Uniti dalla sua uscita all’inizio di gennaio.
DeepSeek-R1 è un modello di ragionamento avanzato che mira a superare i benchmark esistenti su diverse attività fondamentali. Il modello e le sue varianti, come DeepSeek-R1-Zero, impiegano tecniche di renforcement learning (RL) su larga scala e formazione multifase.
DeepSeek ha anche compiuto un passo notevole rendendo open source non solo i suoi modelli di punta, ma anche sei varianti più piccole, che vanno da 1,5 miliardi a 70 miliardi di parametri capaci di funzionare anche in locale adattandosi all’hardware dell’utente. Questi modelli sono concessi in licenza dal MIT, consentendo a ricercatori e sviluppatori di distillare, perfezionare e commercializzare liberamente il loro lavoro.
La differenza con OpenAI
Ma cosa differenzia questo nuovo modello dai competitor statunitensi come OpenAI? Ebbene, innanzi tutto i costi di addestramento e sviluppo dei modelli di DeepSeek, che sembra essere solo una frazione di quanto richiesto per i migliori prodotti di OpenAI o Meta Platforms Inc. L’efficienza molto migliore del modello mette in discussione la necessità di ingenti spese di capitale per acquisire gli ultimi e più potenti acceleratori di intelligenza artificiale da aziende come Nvidia Corp.
I legami col Governo di Pechino
Come dicevamo, secondo le leggi sulla sicurezza informatica vigenti in Cina, vi è un forte controllo governativo sulle aziende locali, ma c’è di più.
Liang Wenfeng, imprenditore e fondatore di DeepSeek, avrebbe stretti legami con il Partito Comunista Cinese (PCC) e il governo del Paese, condividendone le linee politiche, non solo quelle caratterizzate da una concezione elastica della privacy, ma anche quelle legate all’informazione, in particolare l’inclinazione alla censura.
Sembrerebbe infatti, stando ad alcuni test effettuati, che, se interrogato su argomenti politicamente sensibili, DeepSeek tenda spesso a non dare risposte fondate sulla verità storica dei fatti, bensì quelle filtrate dal controllo governativo. In altri termini, se l’utente prova a chiedere notizie riguardanti fatti storici particolarmente delicati secondo il governo cinese, non riporta la verità storica nota a tutti in Occidente, bensì riscontri basati sulla versione della “verità” che il potere politico del Paese vuole dare.
Questo comportamento suggerisce che gli algoritmi di DeepSeek siano in qualche modo “arricchiti” da meccanismi di censura in netto contrasto con il principio della libertà di informazione che invece è tra i principi fondamentali dell’UE, degli Stati membri e, più in generale, dei Paesi occidentali.
DeepSeek alla prova dei diritti fondamentali europei
Sin dalla pubblicazione del Libro bianco sull’Intelligenza Artificiale ad opera della Commissione europea avvenuta quasi 5 anni fa, è stato messo in chiaro che non solo l’UE intendeva adottare un proprio approccio all’AI, ma anche quali fossero i suoi contenuti e principi fondanti.
D’altronde il “metodo europeo” per governare il futuro era già cristallizzato nel Regolamento UE 2016/679 (GDPR) che, lo ricordiamo, tutela le persone fisiche rispetto al trattamento dei dati personali, collocando cioè il cittadino al centro, a costo di imporre importanti limiti all’utilizzo delle tecnologie da parte delle aziende e delle autorità pubbliche.
Con la pubblicazione della proposta di Regolamento sull’IA AI ACT e la sua approvazione, nulla è cambiato, anzi. La posizione dell’UE rispetto all’IA era ed è incentrata sui valori europei e sulla collocazione del cittadino e dei suoi diritti al centro, valori ritenuti il faro della strategia europea.
Tale impostazione, come noto, risulta ancor più evidente se si pensa all’approccio basato sul rischio ed alla classificazione degli strumenti basati sull’IA, che vede addirittura l’individuazione di strumenti a rischio inaccettabile, banditi in assoluto poiché eccessivamente rischiosi per i diritti fondamentali dei cittadini, e contrastanti con i principi alla base dell’UE e comuni agli Stati membri.
E’ tutto quest’impianto, a noi chiaro, che stride fortemente con Deepseek.
Deepseek e i dazi USA
Il boom di Deepseek pone naturalmente l’attenzione sui limiti imposti dagli USA all’esportazione dei semiconduttori avanzati in Cina, limiti che erano destinati a impedire una svolta del tipo che DeepSeek sembra invece rappresentare.
Nell’ottobre 2022, infatti, il governo degli Stati Uniti aveva vietato l’esportazione di tecnologie di fascia alta come i semiconduttori GPU in Cina, inclusi i chip H100 di Nvidia, nel tentativo di bloccare i progressi del paese nell’intelligenza artificiale, la frontiera chiave nella competizione tra Stati Uniti e Cina per la supremazia tecnologica. Ma i progressi di DeepSeek suggeriscono che gli ingegneri cinesi dell’intelligenza artificiale abbiano aggirato le restrizioni, concentrandosi su una maggiore efficienza con risorse limitate. Mentre infatti DeepSeek iniziava con una scorta di 10.000 H100, è diventato rapidamente evidente che ne sarebbero serviti di più per competere con leader globali come OpenAI e Meta.
Con un accesso limitato ai chip avanzati a causa delle restrizioni all’esportazione, le aziende tecnologiche cinesi hanno spesso dato priorità allo sviluppo incentrato sulle applicazioni piuttosto che alla ricerca sull’intelligenza artificiale.
DeepSeek, tuttavia, ha sfidato questa tendenza ripensando l’architettura di base dell’intelligenza artificiale e ottimizzando l’efficienza delle risorse a disposizione. Una scelta rivelatasi azzeccata, ed un duro colpo per le politiche statunitensi volte a preservare la propria leadership.
***** l’articolo pubblicato è ritenuto affidabile e di qualità*****
Visita il sito e gli articoli pubblicati cliccando sul seguente link