Se costruisci sistemi di AI (assistenti, agenti, RAG) o ti occupi di sicurezza, qui trovi una guida pratica per capire come gli LLM vengono attaccati e, soprattutto, come proteggerli. Con le 10 vulnerabilità OWASP, dove provarle e con quali strumenti testare le AI che sviluppi.
Per chi sviluppa AI Per professionisti della sicurezza Attacco + Difesa OWASP Top 10 LLM
Perché usarla
Gli LLM introducono rischi nuovi, diversi da quelli del software tradizionale. Qui ogni vulnerabilità è spiegata insieme alla sua difesa, così puoi proteggere le AI che costruisci prima di metterle in produzione e verificarle dopo.
Le 10 vulnerabilità degli LLM (OWASP) e come difendersi
| Vulnerabilità | Come difendersi |
|---|---|
| LLM01 Prompt injection | input/output guard, system prompt robusto |
| LLM02 Divulgazione di informazioni sensibili | niente segreti nel prompt, filtrare l'output |
| LLM03 Supply chain | provenienza e verifica dei componenti |
| LLM04 Avvelenamento di dati e modello | dati di provenienza verificata |
| LLM05 Gestione insicura dell'output | trattare l'output come input non fidato |
| LLM06 Autonomia eccessiva | privilegio minimo, conferma umana |
| LLM07 Fuga del system prompt | niente segreti nel prompt |
| LLM08 Vettori ed embedding (RAG) | controllo accessi sui documenti |
| LLM09 Disinformazione | ancorare alle fonti, verifica umana |
| LLM10 Consumo incontrollato | limiti, quote, monitoraggio costi |
Dove testare e come testare le tue AI
Dove: allestisci un laboratorio isolato e usa app volutamente vulnerabili (come DVWA, ma per l'AI).
Come: verifica le AI che costruisci con strumenti reali — garak (scanner), promptfoo e PyRIT/Giskard (test automatici) — e proteggile in produzione con LLM Guard/Rebuff.
Nota etica: testa solo modelli e applicazioni tuoi, o con autorizzazione scritta. Il red teaming su servizi di terzi va concordato.