Shadow AI, il rischio invisibile nell’era dell’intelligenza artificiale aziendale

Un dipendente, una scadenza, uno strumento non autorizzato

Immaginate la scena: un collaboratore sommerso di scadenze scopre uno strumento AI gratuito online. In pochi secondi automatizza un lavoro che avrebbe richiesto ore. Non chiede autorizzazioni, non legge policy aziendali. Incolla dati sensibili nel prompt e preme invio.

In quell’istante, informazioni riservate dell’azienda hanno lasciato il perimetro aziendale verso una piattaforma che nessuno conosce, nessuno monitora e nessuno governa. È questo il volto concreto della Shadow AI: un rischio che non nasce dalla malevolenza, ma dalla pressione quotidiana verso la produttività.

Il fenomeno è tutt’altro che marginale. Quasi la metà dei dipendenti dichiara di utilizzare strumenti AI non approvati dall’IT, e oltre il 51% collega questi tool a sistemi aziendali senza alcuna autorizzazione. Il costo medio degli incidenti di sicurezza nelle organizzazioni con un elevato utilizzo di Shadow AI supera i 670.000 dollari, secondo i dati IBM.

Cos’è la Shadow AI e perché è diversa dalla Shadow IT

La Shadow AI non è semplicemente la versione moderna della vecchia “Shadow IT”, ovvero l’uso di software non autorizzato in azienda. Presenta caratteristiche che la rendono strutturalmente più difficile da rilevare e governare.

Con la Shadow IT tradizionale, un dipendente installava un’applicazione sul proprio dispositivo o si registrava a un servizio cloud. Le tracce erano relativamente visibili: traffico verso endpoint noti, nuovi account nei log, applicazioni identificabili.

Con la Shadow AI, il confine tra utilizzo legittimo e non autorizzato si fa molto più sfumato. Gli strumenti AI sono spesso incorporati all’interno di piattaforme già approvate — suite di produttività, plugin per browser, estensioni per editor di testo. Un dipendente può interagire con un modello linguistico esterno senza mai uscire da un’applicazione che l’IT ha formalmente autorizzato. Le conversazioni viaggiano all’interno di sessioni di navigazione cifrate, invisibili agli strumenti di monitoraggio tradizionale.

I limiti della visibilità tradizionale

Le organizzazioni che cercano di affrontare la Shadow AI con gli strumenti classici si trovano di fronte a una serie di ostacoli strutturali.

Le liste di blocco non bastano. Il ritmo di introduzione di nuovi strumenti AI supera di gran lunga la velocità con cui le policy di sicurezza vengono aggiornate. Nuovi assistenti, plugin e funzionalità AI compaiono continuamente all’interno di piattaforme già esistenti, spesso senza che gli utenti ne siano consapevoli. Mantenere una lista accurata di cosa bloccare e cosa consentire è un lavoro di Sisifo.

Il traffico cifrato nasconde i comportamenti. Molto del traffico verso servizi AI avviene attraverso connessioni HTTPS all’interno di sessioni browser già fidate. I tradizionali strumenti di Network Detection, DLP e application allowlisting non dispongono del contesto necessario per distinguere l’uso legittimo di un’applicazione SaaS dall’invio di dati aziendali a un servizio AI non autorizzato integrato nella stessa interfaccia.

L’attenzione è spesso concentrata sull’infrastruttura gestita. Molte organizzazioni si focalizzano sulla rilevazione della Shadow AI attraverso gateway, endpoint e soluzioni SASE, trascurando l’infrastruttura ibrida, i data center on-premise e i cloud non completamente gestiti. È proprio in questi ambienti meno presidiati che i flussi di dati verso agenti autonomi e server MCP (Model Context Protocol) possono passare inosservati.

Due livelli di visibilità: scoperta e comportamento

Affrontare il problema della Shadow AI richiede di distinguere due livelli di visibilità che troppo spesso vengono confusi o sovrapposti.

Il primo livello riguarda la scoperta e il monitoraggio delle interazioni: capire quali strumenti AI sono attivi nell’ambiente, chi li utilizza, quali unità di business vi fanno ricorso, se dati sensibili o regolamentati vengono esposti attraverso prompt e flussi di lavoro. Questo livello è fondamentale per la governance e risponde a domande essenziali come “cosa stiamo usando?” e “i nostri dati sono al sicuro?”.

Il secondo livello, spesso assente nei prodotti di AI security più elementari, riguarda la comprensione delle dipendenze e degli esiti operativi. Non basta sapere che un dipendente ha interagito con uno strumento AI: occorre capire quali sistemi quell’interazione ha coinvolto, se l’agente AI ha operato oltre i permessi previsti, se una singola azione apparentemente innocua può generare conseguenze ad alto rischio a valle del flusso di lavoro.

La differenza tra questi due livelli è cruciale: il primo permette di identificare la Shadow AI, il secondo di capire cosa fa davvero.

Il problema dei comportamenti ambigui

Uno dei paradossi della Shadow AI è che molto dell’attività rischiosa sembra, in isolamento, perfettamente legittima.

Un dipendente che incolla dati in un assistente AI all’interno di un browser approvato, un workflow che chiama diverse API in sequenza, un agente che accede a risorse cloud per completare un’automazione: ognuno di questi comportamenti, considerato singolarmente, può rientrare nell’ordinario. È solo osservando il contesto più ampio — chi ha fatto cosa, quando, rispetto a quale baseline comportamentale — che emerge la deviazione dal normale.

Questo significa che l’approccio basato su regole e firme è intrinsecamente inadeguato. Serve un’analisi comportamentale che comprenda il pattern normale di ogni utente e sistema, e sia in grado di identificare anomalie che le regole predefinite non potrebbero mai codificare.

Come Darktrace affronta la Shadow AI

Darktrace affronta il problema della Shadow AI con un approccio che integra governance, visibilità comportamentale e risposta autonoma, attraverso la sua piattaforma Darktrace / SECURE AI.

Rilevazione senza agenti, su tutta l’infrastruttura

A differenza di soluzioni che dipendono esclusivamente da agenti installati sugli endpoint, Darktrace opera passivamente a livello di rete e si integra via API per la sicurezza di email e identità. Questo consente una visibilità che va oltre i dispositivi gestiti, coprendo l’infrastruttura on-premise, ibrida, cloud e i data center, ovvero proprio gli ambienti dove il traffico verso agenti autonomi e server MCP rischia di passare inosservato agli strumenti tradizionali.

Individuazione dell’utilizzo non sanzionato

La piattaforma identifica l’attività AI non autorizzata nel momento in cui compare, distinguendo l’uso improprio di strumenti legittimi dai servizi non approvati. Include la capacità di rilevare connessioni verso client e server MCP, di tracciare i flussi di dati verso piattaforme AI esterne e di applicare policy per contenere l’esposizione dei dati, guidando al tempo stesso gli utenti verso le alternative sanzionate dall’organizzazione.

Analisi comportamentale contestuale

Il cuore dell’approccio di Darktrace è la comprensione del comportamento normale di ogni entità nell’ambiente — utente, dispositivo, applicazione — e la capacità di identificare deviazioni significative anche quando queste non corrispondono a pattern di attacco noti. Un’applicazione AI non è intrinsecamente rischiosa: lo può diventare in funzione di come utenti o sistemi interagiscono con essa, di quali dati vi transitano, di quali azioni vengono attivate a monte e a valle.

Risposta autonoma

Quando viene rilevata un’anomalia, Darktrace può intervenire in modo autonomo per contenere il rischio — bloccando connessioni sospette, applicando restrizioni comportamentali al dispositivo o all’utente coinvolto, interrompendo flussi di esfiltrazione di dati — senza richiedere l’intervento manuale del team di sicurezza. Questo è particolarmente rilevante nelle organizzazioni con team IT ridotti, dove la velocità di risposta è spesso il fattore critico.

Shadow AI, governance e certificazioni

La rilevazione della Shadow AI non è solo una questione tecnica: è una componente fondamentale della governance dell’intelligenza artificiale a livello aziendale.

Gli AI Risk/Governance Board stanno rapidamente includendo la Shadow AI tra le priorità da monitorare su base continuativa. Parallelamente, la corsa alle certificazioni — come lo standard ISO 42001 per i sistemi di gestione dell’intelligenza artificiale — richiede alle organizzazioni una visibilità completa su tutto ciò che viene adottato, dall’uso aziendale allo sviluppo interno.

La visibilità sulla Shadow AI fornisce le informazioni necessarie per prendere decisioni di governance consapevoli: portare uno strumento non autorizzato all’interno dell’ambiente gestito per ridurre i rischi di data loss, oppure stabilire policy esplicite che ne limitino o vietino l’uso. In entrambi i casi, l’alternativa — l’ignoranza — è la scelta più costosa.

Una strategia a strati per un rischio multidimensionale

La Shadow AI è una delle manifestazioni di un rischio più ampio legato all’adozione dell’intelligenza artificiale in azienda. Affrontarla in modo isolato non è sufficiente.

Una strategia di sicurezza AI efficace deve coprire più livelli: dalla visibilità e governance, al controllo delle identità umane e degli agenti, alla sicurezza dei dati e della privacy, alle pipeline MLOps/LLMOps, fino alla sicurezza runtime, al rilevamento basato sul comportamento e alla risposta autonoma.

La Shadow AI è il punto di partenza — il primo strato di visibilità da conquistare. Ma è solo l’inizio di un percorso che, man mano che gli agenti autonomi diventano parte integrante dei processi aziendali, richiederà un approccio sempre più sofisticato e interdisciplinare.

La vera domanda che le organizzazioni devono porsi non è “abbiamo Shadow AI nel nostro ambiente?”. La risposta è quasi certamente sì. La domanda giusta è: “sappiamo cosa sta facendo, e siamo in grado di governarla?”