Negli ultimi mesi molte imprese hanno scelto una strada precisa per adottare l’intelligenza artificiale senza violare il GDPR: evitare i servizi cloud pubblici e scaricare modelli open-weight (modelli con pesi aperti eseguibili sui propri server) per elaborare contratti, dati dei clienti e informazioni interne in un perimetro controllato.
🛡️ La tua azienda è protetta contro i cyber attacchi?
Richiedi un'analisi preliminare delle vulnerabilità per mettere al sicuro i tuoi dati operativi.
L’idea di base è corretta dal punto di vista della Privacy by Design, ma nasconde un’insidia sottovalutata. Il CERT-AgID ha lanciato un allarme specifico sulla diffusione di backdoor nei modelli open-weight disponibili su repository pubbliche.
Se un’azienda implementa un modello compromesso, l’illusione di sicurezza cade: i dati personali e le informazioni riservate trattate dall’AI possono finire direttamente nelle mani di soggetti terzi, provocando un vero e proprio Data Breach ai sensi dell’Art. 33 del GDPR.
Nei software tradizionali il codice malevolo è leggibile e individuabile tramite scansioni antivirus. Nei modelli di intelligenza artificiale, invece, una backdoor può essere incorporata direttamente nei pesi della rete neurale durante la fase di addestramento (data poisoning).
Il modello si comporta in modo del tutto normale durante l’uso quotidiano, ma quando riceve una specifica parola chiave o tratta determinati input (ad esempio codici fiscali, documenti contabili o formati di testo sensibili):
Altera le risposte per fornire istruzioni errate o dannose;
Innesca chiamate di rete nascoste che esfiltrano i prompt verso server remoti;
Elude i filtri di moderazione e sicurezza predisposti dall’azienda.
Sotto il profilo normativo, il GDPR impone al titolare del trattamento l’obbligo di verificare l’affidabilità di ogni strumento impiegato (Art. 32 sulla sicurezza del trattamento). Trattare dati personali con un modello AI privo di tracciabilità sull’origine e sull’integrità espone l’azienda a contestazioni dirette da parte del Garante Privacy.
Per i dettagli tecnici sulla vulnerabilità, è possibile consultare la segnalazione ufficiale del CERT-AgID sulle backdoor nei modelli open-weight.
Adottare modelli open-source resta una scelta valida, a patto di applicare un processo di verifica prima di immettere qualsiasi modello in produzione:
Non scaricare pesi o file di modello da account sconosciuti o repository non ufficiali. Utilizza solo modelli rilasciati da organizzazioni verificate e confronta sempre gli hash crittografici (SHA-256) per escludere manomissioni durante il download.
I server che eseguono modelli linguistici non devono avere accesso indiscriminato a internet o all’intera rete aziendale. Se il modello necessita solo di rispondere alle interrogazioni interne, blocca le connessioni in uscita a livello di firewall per impedire qualsiasi esfiltrazione di dati.
Prima di alimentare un modello AI con dati personali di dipendenti o clienti, l’Art. 35 del GDPR richiede una Valutazione d’Impatto sulla Protezione dei Dati (DPIA). La valutazione deve mappare dove transitano i dati, come vengono memorizzati i log e quali controlli di sicurezza sono attivi sui pesi del modello.
Il personale tecnico e i collaboratori non devono poter scaricare e testare modelli liberamente sui sistemi dell’azienda (il cosiddetto Shadow AI). Serve un regolamento interno chiaro che autorizzi solo gli strumenti preventivamente verificati e validati dall’IT e dal DPO.
Introdurre l’AI in azienda senza rischi richiede un allineamento rigoroso tra infrastruttura tecnica e conformità normativa. Per strutturare una valutazione dei rischi sui tuoi sistemi o verificare le procedure di sicurezza, scopri i servizi di consulenza GDPR e sicurezza di SecurityLab.
L’uso di modelli open-weight offre un grande potenziale di personalizzazione e tutela della privacy, ma non esonera l’azienda dai controlli sull’intera filiera del software. L’integrità del modello è il presupposto per garantire che la conformità dichiarata sulla carta corrisponda a una reale protezione dei dati.