Attacchi e difese dell'AI

Aspetti legali: quando puoi testare un'AI

Red teaming e test di sicurezza delle AI: cosa puoi fare sui tuoi modelli e cosa serve per i servizi di terzi.

La lettura vocale non è disponibile su questo browser.

Testare la sicurezza di un modello di AI che non è tuo, o del servizio di un fornitore, richiede le stesse cautele di qualsiasi test di sicurezza.

📖 Le parole in breve
Autorizzazione scritta
un documento in cui il titolare del sistema ti dà il permesso di testarlo, con limiti chiari.
Perimetro
l'elenco preciso di cosa puoi testare (e cosa no).
Responsible disclosure
segnalare una vulnerabilità al responsabile in modo riservato, senza sfruttarla né renderla pubblica.

⚖️ La regola di base

Puoi testare la sicurezza solo di sistemi tuoi oppure con un'autorizzazione scritta di chi ne è responsabile. Testare sistemi altrui senza consenso — anche solo una scansione — è un reato, a prescindere dalle buone intenzioni.

🧪 Nel laboratorio sei libero

Nel tuo ambiente isolato (macchine virtuali, applicazioni di prova che hai installato tu) puoi provare qualsiasi tecnica: è tuo e non raggiunge nessun altro. È il motivo per cui si impara in laboratorio.

📄 Sui sistemi reali serve l'autorizzazione

Per testare un sistema reale serve un documento scritto che indichi almeno:

  • Chi autorizza (e deve avere davvero l'autorità su quei sistemi).
  • Il perimetro: cosa puoi testare e cosa è escluso.
  • Le finestre temporali e i limiti (per esempio niente interruzioni di servizio).
  • Gli obblighi di riservatezza su ciò che scopri.

Sui modelli e le app che costruisci tu sei libero di fare red teaming. Attenzione ai dati: non usare dati personali o reali nei test. Per testare un'AI di terzi serve l'autorizzazione del fornitore.

🔐 I riferimenti di legge (Italia)

Le norme principali che puoi violare testando senza permesso:

  • Accesso abusivo a un sistema informatico o telematico (art. 615-ter c.p.).
  • Danneggiamento di informazioni, dati e programmi (art. 635-bis e seguenti).
  • Frode informatica (art. 640-ter).
  • Protezione dei dati personali (GDPR — Reg. UE 2016/679).

☁️ Servizi di terzi

I modelli e le API dei fornitori di AI (quelli dietro gli assistenti più noti) hanno condizioni d'uso che vietano certi test; alcuni offrono programmi ufficiali di red teaming. I servizi in cloud e le API hanno termini d'uso propri: testarli richiede l'autorizzazione del fornitore. Molti offrono programmi ufficiali (bug bounty) con regole precise.

📩 Se scopri una vulnerabilità per caso

Non sfruttarla e non renderla pubblica: segui la responsible disclosure, cioè avvisa il responsabile in modo riservato e dagli il tempo di correggere.

Avvertenza. Questa è una guida divulgativa generale, non consulenza legale. Per casi concreti rivolgiti a un professionista e, per un incarico, fatti sempre firmare un'autorizzazione.
Livio Bollini
Walter Livio Bollini

Matematico & Informatico · Intelligenza Artificiale · Sviluppo Web

Articoli correlati