Sicurezza dell’AI: quali dati non condividere con l’intelligenza artificiale?

Quali dati non inserire nell’AI?

Nei modelli accessibili al pubblico è essenziale non inserire le seguenti categorie di dati:

• dati personali – nomi, cognomi, indirizzi, codici fiscali, numeri di telefono e indirizzi e-mail, propri o di clienti e dipendenti;
• documentazione medica – anamnesi, referti e diagnosi dei pazienti, soggetti a rigorose norme di tutela, come il GDPR e l’HIPAA;
• informazioni aziendali riservate – bilanci non pubblicati, strategie di marketing, database dei clienti e piani di fusione, acquisizione o licenziamento;
• segreti commerciali – codice sorgente, formule di produzione, algoritmi proprietari e documentazione tecnica interna dell’azienda;
• password e credenziali – chiavi API, dati di accesso, token di autorizzazione, dati delle carte di pagamento e chiavi di crittografia di qualsiasi tipo;
• materiali protetti dal diritto d’autore – testi integrali di libri, articoli scientifici a pagamento o copioni per i quali non si possiedono le licenze necessarie;
• contenuti illegali – materiali che incitano alla violenza o all’odio e istruzioni per compiere attività contrarie alla legge.

Che cosa succede ai dati inseriti nell’intelligenza artificiale?

I dati inviati ai fornitori di servizi cloud vengono elaborati e analizzati in più fasi. Il loro ciclo di vita non si limita alla generazione di una risposta.

Addestramento dei modelli

I dati inseriti nelle versioni consumer standard degli strumenti di AI generativa vengono spesso utilizzati per addestrare ulteriormente i modelli. Ciò significa che le informazioni fornite possono influenzare i pesi della rete neurale e, in teoria, comparire in futuro in una risposta destinata a un altro utente.

Revisione manuale e moderazione

Oltre all’elaborazione automatica, i sistemi di AI impiegano filtri di sicurezza. Se un algoritmo considera sospetta una richiesta, per esempio perché potrebbe violare le condizioni d’uso, la conversazione può essere segnalata e sottoposta a revisione manuale. I dipendenti del fornitore o revisori esterni, detti data labeler, potrebbero quindi leggere direttamente i contenuti inseriti per migliorare i meccanismi di moderazione.

Conservazione dei dati e copie di backup

I fornitori di AI conservano le conversazioni sui propri server per garantire la continuità del servizio, diagnosticare gli errori e mantenere il contesto per le sessioni future. È importante sapere che eliminare una chat dall’interfaccia raramente comporta la cancellazione immediata delle informazioni dai server. I dati restano nei sistemi di backup del fornitore per un certo periodo, aumentando il rischio che informazioni riservate vengano esposte in caso di attacco informatico riuscito all’infrastruttura cloud.

Account personali e aziendali: le differenze nella protezione dei dati

Gli account personali standard, gratuiti o a pagamento, di molti servizi diffusi utilizzano per impostazione predefinita le informazioni inviate anche per l’addestramento. Se vengono condivisi contenuti riservati, ogni sessione comporta quindi il rischio che escano dal controllo dell’utente.

Negli ambienti aziendali ed enterprise (per esempio gli account Enterprise o i servizi distribuiti in cloud privati tramite le API di fornitori come Microsoft Azure, AWS e Google Cloud), gli standard di protezione sono più rigorosi. I fornitori garantiscono la conformità a standard e normative di sicurezza (ISO 27001, SOC 2, GDPR) e dichiarano nei contratti (SLA/DPA) che i dati dei clienti non vengono usati per addestrare i modelli pubblici di base. In questi ambienti le restrizioni sui dati inseriti possono essere meno severe, ma restano necessarie politiche di gestione del rischio e controllo degli accessi.

Quali contenuti si possono inserire nell’AI con maggiore sicurezza?

Nonostante le numerose restrizioni, esistono molti contenuti che si possono inserire nell’AI con un rischio minore. Tra questi rientrano:

• materiali pubblicamente accessibili – articoli da fonti aperte, post di blog, rapporti di mercato pubblici, testi di legge e contenuti di siti web come Wikipedia;
• informazioni non riservate – istruzioni generali, domande su concetti teorici, regole grammaticali e ortografiche, equazioni matematiche o quesiti lessicali;
• estratti di documenti anonimizzati – modelli di lettere e contratti o frammenti di codice da cui siano stati completamente rimossi identificatori univoci, chiavi, nomi dei clienti e dettagli dell’architettura interna;
• testi creativi propri – bozze di e-mail, post per i social media, scalette di presentazioni o articoli che non contengano dati aziendali sensibili;
• dataset aperti – dati sintetici o statistiche provenienti da archivi pubblici, utilizzati per esercitarsi nell’analisi e nella formattazione.

Come anonimizzare messaggi e dati prima di inviarli all’AI?

Sostituzione degli identificatori e tokenizzazione

In questo contesto, la tokenizzazione consiste nel sostituire i dati sensibili con identificatori fittizi. Per esempio, si può sostituire il nome «Mario Rossi» con «[Cliente_1]» o «Azienda Alfa» con «[Organizzazione_A]». Il modello linguistico conserva così la struttura, la sintassi e il contesto del documento senza conoscere l’identità del soggetto originale.

Tecniche di mascheramento delle informazioni sensibili

Il mascheramento nasconde direttamente le sequenze di caratteri critiche, di solito sostituendole con caratteri speciali (per esempio, il numero di carta 4532 **** **** ****). Un’altra tecnica efficace è la generalizzazione: invece di indicare un valore esatto, come uno stipendio di 3.200 EUR, si usa una fascia, per esempio «stipendio compreso tra 3.000 e 4.000 EUR». Questo riduce il rischio di reidentificazione.

Automatizzare il processo con strumenti DLP e RegEx

La rimozione manuale delle informazioni dai testi lunghi può lasciare sfuggire dettagli importanti. Negli ambienti professionali si usano script basati su espressioni regolari (RegEx) o sistemi DLP (Data Loss Prevention). Questi strumenti possono analizzare automaticamente un prompt prima dell’invio, rilevando e bloccando o sostituendo sequenze che corrispondono al formato di codici fiscali, partite IVA, indirizzi e-mail o numeri di conto bancario.

Dati condivisi con l’AI: come disattivare l’addestramento dei modelli?

Per ridurre i rischi legati ai dati inseriti nell’AI è utile configurare anche lo strumento utilizzato. La maggior parte dei fornitori offre un’opzione per escludere i propri contenuti dall’addestramento dei modelli (opt-out).

• ChatGPT (OpenAI) – nelle impostazioni dell’account (Settings), alla voce «Data controls», è disponibile l’opzione «Improve the model for everyone». Disattivandola, si impedisce l’uso dei nuovi contenuti inseriti per addestrare il modello. Nell’attuale versione dell’interfaccia, questa scelta non elimina le conversazioni dalla vista dell’utente: la cronologia delle chat resta disponibile. L’impostazione non esclude la conservazione temporanea dei log sui server di OpenAI per finalità di sicurezza e monitoraggio degli abusi.
• Gemini (Google) – nelle impostazioni della privacy occorre disattivare «Gemini Apps Activity». Le nuove conversazioni non vengono così salvate nell’attività dell’account Google né utilizzate per addestrare i modelli. La modifica, tuttavia, non comporta la cancellazione immediata dei log dall’infrastruttura del fornitore: Google può conservarli per un massimo di 72 ore per garantire la sicurezza del servizio.
• Claude (Anthropic) – nelle versioni consumer gratuite e standard, le impostazioni predefinite prevedono attualmente l’utilizzo dei contenuti inseriti per migliorare i modelli. Si tratta di un cambiamento rispetto al periodo iniziale, quando Anthropic dichiarava di non usare le conversazioni degli utenti per l’addestramento. Per disattivare questa funzione, bisogna accedere alla sezione dedicata alla privacy nelle impostazioni dell’account e disabilitare «Help improve Claude».

È importante ricordare che le modifiche alle impostazioni della privacy e la disattivazione dell’addestramento valgono solo per il futuro. Non eliminano retroattivamente le informazioni inviate in precedenza che siano già state utilizzate per addestrare un modello.