Shadow AI: quando l’intelligenza artificiale entra nei processi aziendali senza essere governata

Indice

Introduzione
Che cosa si intende per Shadow AI
Perché il fenomeno si sviluppa così facilmente
Dal rischio sulle informazioni al rischio sui processi
Quando l’AI diventa parte del processo
L’IA è uno strumento, non un collega
Gli scenari di rischio
Gli effetti di una carenza di controllo
Perché vietare non basta
Governare la Shadow AI
Una governance che deve restare nel tempo
Conclusioni

Introduzione

Fino a pochi anni fa un’organizzazione poteva ragionevolmente ritenere di conoscere gli strumenti informatici utilizzati dai propri dipendenti. L’introduzione di un nuovo applicativo richiedeva normalmente un’installazione, un account, un contratto oppure, quantomeno, l’intervento della funzione IT. Con i servizi di intelligenza artificiale generativa questo presupposto non è più necessariamente valido perché per iniziare a utilizzare uno strumento può essere sufficiente aprire una pagina web, creare un account personale oppure attivare una funzione già disponibile all’interno di un prodotto utilizzato quotidianamente.

La questione diventa ancora meno evidente quando le funzionalità basate su modelli di intelligenza artificiale vengono incorporate nei sistemi di videoscrittura, nelle piattaforme collaborative, negli strumenti di sviluppo software, nei motori di ricerca, nei CRM e, più in generale, nei servizi SaaS già adottati dall’organizzazione. In questi casi l’AI può entrare nell’operatività aziendale senza che sia stato avviato un progetto specifico, senza che sia stato effettuato un nuovo acquisto e, soprattutto, senza che l’organizzazione abbia necessariamente avuto occasione di valutarne preventivamente modalità di utilizzo e rischi.

È in questo contesto che si colloca il fenomeno comunemente definito Shadow AI; il termine richiama quello, più noto, di Shadow IT, ma le due situazioni non sono del tutto sovrapponibili. Nel caso dello Shadow IT il problema nasce principalmente dall’utilizzo di tecnologie, applicazioni o infrastrutture non approvate dall’organizzazione, mentre con la Shadow AI il confine è meno netto poiché lo strumento può essere perfettamente legittimo e, in alcuni casi, persino formalmente autorizzato. Ciò che può sfuggire al controllo è il modo in cui viene utilizzato, le informazioni che gli vengono affidate e il ruolo che progressivamente assume all’interno dei processi aziendali.

Il rischio, pertanto, non coincide soltanto con la possibilità che un dipendente inserisca informazioni riservate all’interno di un servizio esterno, ma comprende anche le conseguenze di una carenza di governance, per effetto della quale l’organizzazione può perdere progressivamente visibilità sui modi attraverso i quali le proprie informazioni vengono elaborate e, in alcuni casi, sui criteri attraverso i quali vengono assunte decisioni operative.

Che cosa si intende per Shadow AI

Il fenomeno descritto non dipende dunque dalla natura dello strumento utilizzato, ma dal fatto che il suo impiego nell’ambito delle attività aziendali non sia stato adeguatamente censito, valutato e ricondotto ai meccanismi di controllo dell’organizzazione. La definizione deve essere considerata nel più ampio senso del termine poiché il fenomeno non riguarda soltanto il dipendente che utilizza autonomamente un servizio pubblico di AI generativa attraverso un account personale, ma comprende anche situazioni nelle quali strumenti formalmente autorizzati vengono utilizzati con modalità o finalità differenti rispetto a quelle inizialmente valutate.

Lo stesso problema può manifestarsi anche quando una funzione aziendale integra un modello tramite API all’interno di uno script o di un flusso di lavoro senza coinvolgere l’IT. Può inoltre riguardare le funzionalità AI introdotte dai fornitori nelle applicazioni già presenti nel sistema informativo poiché la conoscenza del prodotto utilizzato non comporta necessariamente una conoscenza altrettanto precisa del modo in cui le nuove funzionalità elaborano le informazioni.

Per questo motivo la Shadow AI non dovrebbe essere identificata con un mero elenco di prodotti vietati, ma considerata piuttosto come una carenza di visibilità e di governo sull’impiego dell’intelligenza artificiale, che può manifestarsi tanto nell’adozione di strumenti esterni quanto nell’utilizzo inatteso o non valutato di sistemi già presenti nell’organizzazione.

Perché il fenomeno si sviluppa così facilmente

In primo luogo, molti di questi strumenti sono estremamente accessibili e possono essere utilizzati direttamente dal browser, senza richiedere installazioni, privilegi amministrativi o competenze particolari. Dal punto di vista dell’utente, la distanza tra l’idea di utilizzare l’AI e la sua effettiva applicazione a un’attività lavorativa può ridursi a pochi minuti.

A questo si aggiunge un incentivo concreto, perché in numerose attività l’utilizzo dell’AI può ridurre il tempo necessario per predisporre una prima bozza, sintetizzare documentazione, analizzare grandi quantità di testo, produrre codice, tradurre contenuti oppure organizzare informazioni. Quando il vantaggio operativo è immediatamente percepibile, mentre il processo interno per ottenere l’approvazione di uno strumento è lento, poco chiaro o non esiste affatto, è prevedibile che una parte degli utenti scelga autonomamente la soluzione che ritiene più efficace.

La Shadow AI può quindi essere favorita dalla tecnologia, ma spesso trova terreno fertile nelle carenze dei processi aziendali. Un’organizzazione che si limita a vietare determinati strumenti senza mettere a disposizione alternative adeguate, senza chiarire quali utilizzi siano consentiti e senza definire modalità efficaci per la valutazione di nuovi casi d’uso crea una distanza tra l’operatività formalmente prevista e quella effettivamente svolta. Quando questa distanza aumenta, il problema non è più soltanto il mancato rispetto di una regola interna, ma la progressiva perdita di conoscenza su come determinate attività vengano realmente eseguite.

Dal rischio sulle informazioni al rischio sui processi

La divulgazione impropria di informazioni rappresenta uno degli scenari più immediatamente comprensibili. Un utente può copiare all’interno di un sistema di AI un contratto, una relazione interna, un estratto di un database, una porzione di codice sorgente oppure informazioni relative a clienti, dipendenti o fornitori. Da quel momento l’organizzazione dovrebbe essere in grado di comprendere dove tali informazioni siano state trasferite, secondo quali condizioni contrattuali vengano trattate, per quanto tempo siano conservate e quali soggetti possano accedervi.

La criticità è evidente, ma fermarsi alla riservatezza significa osservare soltanto una parte del fenomeno perché occorre considerare anche l’integrità delle informazioni prodotte, l’affidabilità degli output, la possibilità di ricostruire il processo che ha portato a una determinata conclusione, la gestione delle identità utilizzate per accedere ai servizi, la continuità operativa delle attività che iniziano a dipendere da tali strumenti e il rapporto con i fornitori coinvolti.

Se un sistema di AI viene utilizzato per produrre una prima bozza di un testo che sarà successivamente verificato da una persona competente, il suo impiego può incidere in misura più limitata sul processo, almeno per quanto riguarda l’affidabilità del risultato prodotto. La situazione cambia quando lo stesso sistema viene impiegato per effettuare classificazioni, estrarre elementi da contratti, assegnare priorità a segnalazioni, predisporre configurazioni tecniche, elaborare valutazioni su clienti o fornitori oppure suggerire decisioni che l’utente tende ad accettare senza una verifica sostanziale. In questi casi l’attenzione deve spostarsi dallo strumento al processo nel quale lo strumento è stato inserito.

Quando l’AI diventa parte del processo

Un utilizzo occasionale dell’intelligenza artificiale può rimanere un’attività individuale, mentre un utilizzo ripetuto tende progressivamente a modificare il processo nel quale viene inserito. Si pensi, ad esempio, a un ufficio che utilizzi un modello generativo per riassumere documenti particolarmente lunghi: inizialmente il servizio può essere considerato un semplice ausilio, ma se nel tempo il personale smette di leggere sistematicamente la documentazione originale e basa le proprie attività sulle sintesi prodotte dal modello, l’AI diventa a tutti gli effetti una componente del processo, anche qualora la procedura formalmente descritta dall’organizzazione non ne riporti l’esistenza.

Lo stesso può accadere quando un tecnico utilizza un sistema generativo per predisporre configurazioni, quando un ufficio legale lo impiega per analizzare clausole contrattuali, quando una funzione HR lo utilizza per effettuare una prima valutazione dei curricula oppure quando un operatore si affida all’AI per classificare una segnalazione di sicurezza. In tutti questi casi la domanda non è più soltanto se lo strumento utilizzato sia sicuro, ma quale funzione gli sia stata attribuita, quali informazioni riceva, quale affidabilità sia richiesta al risultato, chi sia responsabile della verifica e quali conseguenze possano derivare da un errore. Quando tali elementi non sono stati chiaramente definiti e formalizzati, siamo in presenza di un problema di governance.

Questo aspetto merita particolare attenzione perché un processo può cambiare senza che vi sia stata una decisione esplicita in tal senso. Una nuova modalità operativa può nascere dall’abitudine, consolidarsi nel tempo e diventare indispensabile prima ancora che l’organizzazione ne abbia preso coscienza. A quel punto la documentazione descrive un processo, mentre nella pratica il personale ne esegue un altro.

L’IA è uno strumento, non un collega

A rendere questa riflessione ancora più importante contribuisce un’ulteriore evoluzione nell’impiego dell’intelligenza artificiale, rappresentata dalla diffusione dei cosiddetti agenti. Quando un sistema generativo si limita a produrre una risposta, l’utente rimane normalmente il punto di passaggio tra il modello e l’azione successiva, con la possibilità di leggere il risultato, decidere se utilizzarlo e, almeno in linea teorica, verificarlo prima di procedere. Un agente introduce invece un livello ulteriore poiché può essere configurato per concatenare attività, consultare fonti, utilizzare strumenti, interrogare applicazioni e compiere azioni sulla base dell’obiettivo che gli è stato assegnato.

Dal punto di vista operativo questa possibilità è certamente interessante, soprattutto quando viene presentata come un modo per automatizzare attività ripetitive e ridurre il lavoro manuale. Tuttavia, occorre evitare un equivoco che rischia di diventare culturale prima ancora che tecnologico: l’IA è uno strumento, non un collega. Ad attribuirle caratteristiche quasi personali, come se potesse ricevere una delega e gestirla autonomamente secondo un proprio giudizio, si rischia di perdere di vista il fatto che ogni azione compiuta dal sistema deriva comunque da autorizzazioni, informazioni, istruzioni e possibilità operative definite da qualcuno.

La differenza non è soltanto terminologica perché delegare un’attività a una persona significa poter fare affidamento su responsabilità, competenze, obblighi e capacità di valutare il contesto che appartengono alla persona stessa; consentire a un agente di operare significa, invece, predisporre un sistema che esegue azioni entro il perimetro tecnico che gli è stato concesso. Se quel perimetro è troppo ampio, se le informazioni disponibili non sono adeguatamente governate o se manca una verifica proporzionata alle conseguenze dell’azione, l’automazione può amplificare molto rapidamente un errore che, in un utilizzo tradizionale, sarebbe rimasto circoscritto alla singola risposta.

Il tema diventa particolarmente rilevante nella Shadow AI perché un agente può essere introdotto anche attraverso strumenti già autorizzati o attraverso automazioni costruite direttamente dalle funzioni operative. In tal caso non cambia soltanto il modo in cui un’informazione viene elaborata, ma può cambiare il soggetto tecnico che esegue materialmente una parte del processo. L’organizzazione deve quindi mantenere chiara la distinzione tra supporto e delega, ricordando che l’autonomia concessa al sistema non può tradursi in una corrispondente diluizione della responsabilità umana.

Gli scenari di rischio

Gli scenari riconducibili alla Shadow AI possono essere molto differenti fra loro e non avrebbe senso attribuire a tutti lo stesso livello di rischio. L’utilizzo occasionale di un servizio esterno per riformulare un testo privo di informazioni aziendali ha caratteristiche molto diverse rispetto all’impiego sistematico di un modello per analizzare documenti riservati o supportare una decisione. Per questo motivo la valutazione dovrebbe partire dal contesto d’uso e non dal semplice fatto che sia presente un sistema di intelligenza artificiale.

Un primo scenario riguarda l’utilizzo occasionale di servizi non autorizzati, nel qual caso il rischio dipende soprattutto dal contenuto fornito al sistema e dall’impiego successivo dell’output. Un testo completamente privo di informazioni aziendali può presentare criticità limitate, mentre la situazione cambia qualora vengano inserite informazioni interne o riservate, oppure contenuti soggetti a particolari vincoli. Anche in questo scenario apparentemente semplice deve essere considerato il rischio di affidamento sul risultato perché un output plausibile non è necessariamente corretto e la qualità formale della risposta può indurre l’utente ad attribuirgli un livello di affidabilità superiore a quello effettivo.

Un secondo scenario riguarda il trattamento di informazioni aziendali su servizi esterni, nel quale occorre tenere presente che le informazioni non hanno tutte lo stesso valore né richiedono le stesse cautele poiché inserire in un sistema esterno una procedura già pubblicata sul sito aziendale è evidentemente differente dall’inserire una relazione riservata, dati personali, informazioni finanziarie non pubbliche, documentazione tecnica interna o proprietà intellettuale. La governance dell’AI dovrebbe quindi appoggiarsi alla classificazione delle informazioni già adottata dall’organizzazione e, qualora questa classificazione non esista o non sia conosciuta dagli utenti, il problema è evidentemente più ampio della sola Shadow AI.

Il rischio cresce ulteriormente quando l’utilizzo diventa sistematico perché un’attività ripetuta crea dipendenza, genera prassi operative e tende progressivamente a essere considerata normale dal personale. Se non viene formalizzata, può nascere un processo parallelo a quello ufficialmente approvato, con conseguenze sulla formazione dei nuovi addetti, sulla sostituzione del personale, sulla gestione delle anomalie e sulla continuità operativa.

Una particolare attenzione deve essere dedicata all’impiego dell’AI come supporto a valutazioni e decisioni. Non è necessario che il sistema assuma autonomamente una decisione per influenzarla in maniera sostanziale poiché un modello che assegna priorità, evidenzia anomalie, suggerisce una classificazione oppure propone una conclusione può comunque orientare il lavoro dell’utente. In questo contesto la semplice presenza di una persona nel processo non costituisce di per sé una garanzia perché il controllo umano può essere efficace soltanto se chi lo esercita dispone delle competenze, delle informazioni e del tempo necessari per mettere realmente in discussione il risultato prodotto.

Vi sono poi scenari meno visibili, ma non per questo meno rilevanti, come l’utilizzo di API, plugin, agenti e automazioni non censite. Una funzione aziendale può realizzare autonomamente una piccola applicazione o un workflow che invia informazioni a un modello esterno e ne utilizza la risposta per proseguire un’elaborazione; un agente può fare un passo ulteriore, utilizzando strumenti e servizi ai quali gli sono stati concessi accessi per completare in autonomia una sequenza di attività. Una volta automatizzato, il trattamento può essere eseguito centinaia o migliaia di volte senza che vi sia più un’interazione diretta da parte dell’utente, introducendo dipendenze e modalità di trattamento che possono restare sconosciute alle funzioni di controllo.

Infine, occorre considerare le funzionalità AI incorporate nei prodotti già autorizzati perché un software presente da anni nell’organizzazione può ricevere, attraverso un normale aggiornamento, nuove funzioni capaci di accedere a documenti, messaggi, riunioni, database o altre informazioni già presenti nel sistema informativo. Il fatto che il prodotto sia stato precedentemente valutato non significa che ogni nuova modalità di trattamento possa essere considerata automaticamente ricompresa nella valutazione originaria. La differenza diventa ancora più significativa quando l’aggiornamento non aggiunge soltanto una funzione di assistenza, ma introduce capacità agentiche o possibilità di interazione autonoma con documenti, applicazioni e informazioni già presenti nell’ambiente aziendale.

Gli effetti di una carenza di controllo

Una governance insufficiente può produrre effetti differenti e, in alcuni casi, difficili da ricondurre immediatamente all’uso dell’intelligenza artificiale. Il primo riguarda certamente la riservatezza delle informazioni poiché l’organizzazione può non essere in grado di sapere quali informazioni siano state comunicate a servizi esterni e, di conseguenza, potrebbe avere difficoltà a valutarne le conseguenze.

Esiste però anche un problema di integrità perché informazioni inesatte prodotte da un sistema possono essere incorporate in documenti, procedure, configurazioni o decisioni successive e, se il risultato non viene verificato e viene a sua volta utilizzato come input per ulteriori elaborazioni, l’errore può propagarsi senza essere immediatamente riconoscibile.

Un ulteriore impatto riguarda la tracciabilità poiché lo svolgimento di un’attività attraverso strumenti non censiti potrebbe rendere difficoltoso ricostruire quali informazioni siano state utilizzate, quale modello abbia prodotto un determinato risultato, quali istruzioni gli siano state fornite e quali verifiche siano state effettuate prima di utilizzare l’output. Questa carenza diventa particolarmente rilevante nel momento in cui sia necessario spiegare una decisione, gestire una contestazione oppure ricostruire le cause di un incidente.

Occorre poi considerare la dipendenza operativa, che può emergere quando un processo utilizza sistematicamente uno strumento esterno e arriva a dipendere dalla sua disponibilità, dai costi, dalle modalità di autenticazione e dalle scelte commerciali del fornitore. Se tale dipendenza non è conosciuta, difficilmente sarà considerata nelle analisi di continuità operativa. Può così accadere che un servizio non formalmente presente nell’architettura aziendale diventi, nei fatti, essenziale per l’esecuzione di un processo.

A tutto questo si aggiunge un effetto organizzativo più generale perché, se diverse funzioni adottano autonomamente strumenti e metodologie differenti, l’organizzazione può perdere uniformità nei criteri utilizzati per svolgere attività simili. Due uffici possono elaborare la stessa informazione attraverso modelli differenti, con istruzioni differenti e con controlli differenti, arrivando magari a risultati non omogenei senza che vi sia consapevolezza di questa divergenza.

Perché vietare non basta

Di fronte a questi rischi, una delle reazioni più immediate può essere quella di vietare l’utilizzo dei servizi di intelligenza artificiale non espressamente autorizzati. Una regola di questo tipo può certamente avere una funzione, ma da sola non risolve il problema; se gli utenti percepiscono un vantaggio concreto nell’utilizzo dell’AI e l’organizzazione non fornisce strumenti alternativi o modalità efficaci per sottoporre nuovi casi d’uso a valutazione, il divieto rischia semplicemente di spostare l’attività al di fuori della visibilità delle funzioni di controllo. Il risultato può essere apparentemente ordinato dal punto di vista formale e molto meno governato dal punto di vista sostanziale.

Una governance efficace deve quindi distinguere ciò che non è ammesso da ciò che può essere utilizzato a determinate condizioni, mantenendo regole sufficientemente chiare da poter essere comprese anche da chi non possiede competenze specialistiche. Non è realistico aspettarsi che ogni dipendente valuti autonomamente termini contrattuali, modalità di conservazione delle informazioni, localizzazione dei trattamenti, architettura del modello e caratteristiche di sicurezza del fornitore. È invece realistico metterlo nelle condizioni di utilizzare consapevolmente questi strumenti, chiarendo quali possano essere impiegati, con quali informazioni e in quali circostanze sia necessario coinvolgere le funzioni competenti.

Governare la Shadow AI

Una governance efficace dovrebbe inserirsi nei processi di gestione già esistenti, evitando di costruire un sistema separato che rischierebbe di aggiungere complessità senza migliorare realmente il controllo. Le organizzazioni dispongono normalmente, con livelli differenti di maturità, di processi per la gestione degli asset, dei fornitori, delle identità, della sicurezza delle informazioni, del rischio, della protezione dei dati personali, delle modifiche e degli incidenti. L’intelligenza artificiale introduce nuovi elementi da valutare, ma non rende inutili questi meccanismi; il punto di partenza non dovrebbe essere soltanto sapere quali prodotti siano utilizzati, ma comprendere per quali finalità vengano utilizzati e all’interno di quali processi. Lo stesso servizio potrebbe essere impiegato da una funzione per tradurre documentazione pubblica e da un’altra per analizzare informazioni riservate. Dal punto di vista del rischio si tratta di due situazioni profondamente differenti e, per questo motivo, un inventario di strumenti autorizzati è necessario, ma non sufficiente.

La valutazione dovrebbe tenere conto della natura delle informazioni trattate, della rilevanza del processo interessato, della possibilità che l’output influenzi decisioni, del grado di autonomia attribuito al sistema, della possibilità di verificare il risultato, dell’impatto di eventuali errori e della dipendenza che si viene a creare nei confronti del fornitore. Questi elementi consentono di distinguere utilizzi ordinari da casi che richiedono un’analisi più approfondita, evitando sia un approccio eccessivamente permissivo sia un meccanismo di autorizzazione tanto complesso da essere sistematicamente aggirato.

La classificazione delle informazioni mantiene un ruolo centrale perché gli utenti devono poter comprendere quali contenuti possano essere inseriti negli strumenti autorizzati, quali richiedano particolari cautele e quali non debbano essere trasferiti a sistemi esterni. È preferibile che queste regole siano coerenti con la classificazione delle informazioni già adottata dall’organizzazione perché creare categorie completamente nuove soltanto per l’intelligenza artificiale aumenta la complessità e rischia di ridurre l’efficacia delle regole.

Inoltre, deve essere chiaro chi mantiene la responsabilità dell’attività poiché l’utilizzo di un sistema generativo, e ancor più l’impiego di un agente al quale siano state concesse capacità operative, non trasferisce automaticamente al fornitore o al modello la responsabilità per il risultato prodotto. Se un documento viene approvato, una configurazione viene applicata, un’azione viene eseguita oppure una decisione viene assunta sulla base di un output generato dall’AI, deve essere identificabile il soggetto responsabile della relativa verifica e deve essere chiaro entro quali limiti il sistema fosse autorizzato a operare.

Anche il cosiddetto controllo umano deve essere considerato in termini sostanziali perché prevedere genericamente che l’output venga verificato da una persona non è sufficiente se non è chiaro cosa debba essere verificato, quale livello di competenza sia necessario e in quali casi il risultato non possa essere utilizzato senza un controllo indipendente. Una verifica puramente formale non riduce in maniera significativa il rischio e, di contro, può creare una percezione di controllo che non corrisponde alla realtà.

Una governance che deve restare nel tempo

La governance non può concludersi con l’approvazione iniziale di uno strumento o di un caso d’uso poiché i servizi di intelligenza artificiale possono cambiare rapidamente. Possono essere introdotti nuovi modelli, modificate funzionalità, condizioni economiche, modalità di trattamento delle informazioni e possibilità di integrazione. Allo stesso modo, può cambiare il comportamento degli utenti e un impiego inizialmente marginale può diventare parte integrante di un processo senza che vi sia una decisione formale in tal senso.

Per questo motivo il riesame dovrebbe riguardare non soltanto i fornitori, ma anche gli utilizzi che nel tempo si sono consolidati. Il monitoraggio, dove tecnicamente possibile e proporzionato al rischio, dovrebbe consentire di individuare l’introduzione di nuovi strumenti, l’aumento significativo del loro impiego, l’accesso attraverso account personali, eventuali trasferimenti di informazioni non compatibili con le regole definite e la comparsa di automazioni non censite.

Anche il logging deve essere valutato in funzione del contesto poiché non tutte le interrogazioni richiedono necessariamente una conservazione puntuale, mentre per i processi più rilevanti può essere necessario disporre di elementi sufficienti a ricostruire il modello utilizzato, l’input, l’output e le verifiche effettuate. Lo stesso vale per la gestione degli incidenti, che dovrebbe comprendere anche situazioni nelle quali il problema non deriva da un malfunzionamento del sistema, ma dall’inserimento improprio di informazioni, dall’utilizzo di un output errato, dall’introduzione di codice vulnerabile, dall’uso di un modello non autorizzato oppure dall’impossibilità di ricostruire una decisione rilevante.

La formazione completa questo quadro, ma non dovrebbe limitarsi a trasferire una serie di divieti, perché il punto centrale è la consapevolezza; dire genericamente agli utenti di non inserire informazioni sensibili all’interno di un sistema di AI serve a poco se non viene chiarito cosa debba essere considerato sensibile nel contesto dell’organizzazione, quali strumenti possano essere utilizzati, quali conseguenze possa avere l’affidamento di determinate informazioni a un sistema esterno e come comportarsi quando emerge un’esigenza non prevista. L’obiettivo non è trasformare ogni dipendente in uno specialista di intelligenza artificiale, anche se in alcune funzioni saranno certamente necessarie competenze più approfondite, ma renderlo consapevole dello strumento che sta utilizzando, delle informazioni che gli sta affidando e delle conseguenze che possono derivare dal suo impiego. Un uso consapevole significa anche riconoscere i limiti del risultato prodotto e comprendere quando l’attività rientra in un perimetro già definito e quando, invece, richiede una valutazione ulteriore.

Conclusioni

La Shadow AI non nasce necessariamente da comportamenti imprudenti o dalla volontà di aggirare le regole aziendali. Può nascere più semplicemente dalla combinazione tra strumenti estremamente accessibili, vantaggi operativi immediati e processi di governance che non si sono ancora adattati alla rapidità con cui queste tecnologie possono essere introdotte nelle attività quotidiane.

Considerare il fenomeno esclusivamente come un problema di sicurezza delle informazioni porta a una visione incompleta. La divulgazione impropria di informazioni costituisce certamente uno degli scenari da gestire, ma una carenza di controllo può avere conseguenze anche sull’integrità delle informazioni, sulla tracciabilità delle attività, sulla continuità operativa, sulla gestione dei fornitori e, soprattutto, sulla conoscenza che l’organizzazione mantiene dei propri processi.

Il punto più delicato si manifesta quando l’intelligenza artificiale smette di essere uno strumento occasionale e diventa, senza una decisione formale, una componente necessaria per svolgere un’attività. In quel momento l’organizzazione può continuare a rappresentare un processo in un modo, mentre il processo reale viene eseguito in maniera differente, con strumenti, passaggi e dipendenze che non risultano formalmente censiti.

Una governance efficace deve quindi partire dalla conoscenza degli utilizzi reali, delle informazioni trattate, del ruolo attribuito ai sistemi e delle responsabilità coinvolte, ma deve anche creare consapevolezza in chi utilizza questi strumenti, affinché il vantaggio operativo non faccia perdere di vista limiti, conseguenze e responsabilità. Allo stesso tempo deve mantenere nel tempo la capacità di verificare se ciò che è stato autorizzato corrisponda ancora a ciò che avviene nella pratica. Solo a partire da questi elementi è possibile decidere consapevolmente quali utilizzi possano essere accettati, quali debbano essere sottoposti a condizioni specifiche e quali presentino un livello di rischio non compatibile con gli obiettivi dell’organizzazione.

La questione, in definitiva, non consiste nel decidere se utilizzare o meno l’intelligenza artificiale, ma nel fare in modo che l’organizzazione sappia dove viene utilizzata, perché viene utilizzata, con quali informazioni e sotto la responsabilità di chi.