Microsoft fa causa ad un gruppo hacker che sfrutta Azure AI

Microsoft ha rivelato di aver intrapreso un’azione legale contro un “gruppo di malintenzionati con sede all’estero” per aver gestito un’infrastruttura di hacking-as-a-service progettata per aggirare intenzionalmente i controlli di sicurezza dei suoi servizi di intelligenza artificiale generativa (AI) e produrre contenuti offensivi e dannosi.

Microsoft e la sfida contro questo gruppo di hacker malintenzionati

L’unità Digital Crimes Unit (DCU) del colosso tecnologico ha affermato di aver osservato i malintenzionati “sviluppare software sofisticati che sfruttavano credenziali di clienti esposte e raccolte da siti web pubblici” e “cercare di identificare e accedere illegalmente ad account con determinati servizi di intelligenza artificiale generativa, alterandone deliberatamente le capacità.”

I malintenzionati hanno successivamente utilizzato questi servizi, come l’Azure OpenAI Service, monetizzando l’accesso vendendolo ad altri criminali informatici e hanno anche fornito istruzioni dettagliate su come utilizzare questi strumenti personalizzati per generare contenuti dannosi. Microsoft ha dichiarato di aver scoperto questa attività nel luglio 2024.

Il produttore di Windows ha affermato di aver revocato l’accesso al gruppo di criminali informatici, implementato nuove contromisure e rafforzato le sue protezioni per prevenire il ripetersi di tali attività ed ha anche ottenuto un’ordinanza del tribunale per sequestrare un sito web (“aitism[.]net”) centrale per le operazioni criminali del gruppo.

L’uso improprio delle popolari intelligenze artificiali

La popolarità di strumenti di intelligenza artificiale come OpenAI ChatGPT ha portato anche al loro utilizzo abusivo da parte di malintenzionati vari per intenti illeciti, tra cui la produzione di contenuti proibiti e lo sviluppo di malware, pertanto Microsoft e OpenAI hanno ripetutamente rivelato che gruppi provenienti da diversi paesi come Cina, Iran, Corea del Nord e Russia stanno utilizzando i loro servizi per attività di ricognizione, traduzione e campagne di disinformazione.

Documenti giudiziari mostrano che almeno tre individui sconosciuti sono dietro questa operazione, utilizzando chiavi API di Azure rubate e informazioni di autenticazione di Entra ID dei clienti per violare i sistemi Microsoft e creare immagini dannose utilizzando DALL-E, in violazione della sua politica d’uso accettabile; e quindi si ritiene che altre sette persone abbiano utilizzato i servizi e gli strumenti forniti da questi per scopi simili.

Il mistero di furto delle chiavi API

Il modo in cui le chiavi API sono state raccolte non è ancora noto, ma Microsoft ha dichiarato che i responsabili si sono impegnati in un “furto sistematico di chiavi API” da parte di più clienti, inclusi diversi negli Stati Uniti, con alcune aziende localizzate in Pennsylvania e New Jersey.

“Utilizzando chiavi API Microsoft rubate appartenenti a clienti Microsoft con sede negli Stati Uniti, i responsabili hanno creato uno schema di hacking-as-a-service – accessibile tramite infrastrutture come i domini ‘rentry.org/de3u’ e ‘aitism.net’ – progettato specificamente per abusare dell’infrastruttura e del software Azure di Microsoft,” ha dichiarato l’azienda in una deposizione.

Secondo un repository GitHub ora rimosso, de3u è stato descritto come una “interfaccia frontend di DALL-E 3 con supporto per proxy inverso.”, e l’account GitHub in questione è stato creato l’8 novembre 2023.

Si dice che i malintenzionati abbiano preso provvedimenti per “coprire le proprie tracce, incluso il tentativo di eliminare alcune pagine di Rentry.org, il repository GitHub per lo strumento de3u e parti dell’infrastruttura di proxy inverso” dopo il sequestro di “aitism[.]net.”

Microsoft ha osservato che i malintenzionati hanno utilizzato de3u e un servizio di proxy inverso personalizzato, chiamato oai reverse proxy, per effettuare chiamate API all’Azure OpenAI Service utilizzando le chiavi API rubate, generando illegalmente migliaia di immagini dannose tramite richieste testuali. Non è chiaro che tipo di immagini offensive siano state create.

Il servizio di proxy inverso oai, eseguito su un server, è progettato per canalizzare le comunicazioni dai computer degli utenti di de3u attraverso un tunnel Cloudflare nel servizio Azure OpenAI e trasmettere le risposte ai dispositivi degli utenti.

“Il software de3u consente agli utenti di inviare chiamate API Microsoft per generare immagini utilizzando il modello DALL-E tramite un’interfaccia utente semplice che sfrutta le API di Azure per accedere al servizio Azure OpenAI“, ha spiegato Microsoft e ha successivamente puntualizzato che “L’applicazione de3u dei responsabili comunica con i computer di Azure utilizzando API di rete Microsoft non documentate per inviare richieste progettate per imitare le richieste API legittime del servizio OpenAPI di Azure. Queste richieste sono autenticate utilizzando chiavi API rubate e altre informazioni di autenticazione.“

L’illecito dei proxy per accedere abusivamente a modelli di linguaggio (LLM)

Vale la pena notare che l’uso di servizi proxy per accedere illegalmente ai servizi di modelli linguistici di grandi dimensioni (LLM) è stato evidenziato da Sysdig a maggio 2024 in relazione a una campagna di attacco LLMjacking che ha preso di mira le offerte di AI di Anthropic, AWS Bedrock, Google Cloud Vertex AI, Microsoft Azure, Mistral e OpenAI utilizzando credenziali cloud rubate e vendendo l’accesso ad altri criminali informatici.

“I responsabili hanno condotto le operazioni dell’Azure Abuse Enterprise attraverso un modello coordinato e continuo di attività illegali per raggiungere i loro comuni scopi illeciti,” ha affermato Microsoft e ha così concluso: “Il modello di attività illegale dei responsabili non si limita agli attacchi contro Microsoft. Le prove raccolte da Microsoft fino ad oggi indicano che l’Azure Abuse Enterprise ha preso di mira e colpito anche altri fornitori di servizi AI.“