Blog

Attacchi e difese dell'AI: la guida per chi costruisce e protegge AI

Le 10 vulnerabilità degli LLM con la difesa, dove testarle e con quali strumenti. Per chi sviluppa AI e per i professionisti della sicurezza.

La lettura vocale non è disponibile su questo browser.

Se costruisci sistemi di AI (assistenti, agenti, RAG) o ti occupi di sicurezza, qui trovi una guida pratica per capire come gli LLM vengono attaccati e, soprattutto, come proteggerli. Con le 10 vulnerabilità OWASP, dove provarle e con quali strumenti testare le AI che sviluppi.

Per chi sviluppa AI Per professionisti della sicurezza Attacco + Difesa OWASP Top 10 LLM

Perché usarla

Gli LLM introducono rischi nuovi, diversi da quelli del software tradizionale. Qui ogni vulnerabilità è spiegata insieme alla sua difesa, così puoi proteggere le AI che costruisci prima di metterle in produzione e verificarle dopo.

Le 10 vulnerabilità degli LLM (OWASP) e come difendersi

VulnerabilitàCome difendersi
LLM01 Prompt injectioninput/output guard, system prompt robusto
LLM02 Divulgazione di informazioni sensibiliniente segreti nel prompt, filtrare l'output
LLM03 Supply chainprovenienza e verifica dei componenti
LLM04 Avvelenamento di dati e modellodati di provenienza verificata
LLM05 Gestione insicura dell'outputtrattare l'output come input non fidato
LLM06 Autonomia eccessivaprivilegio minimo, conferma umana
LLM07 Fuga del system promptniente segreti nel prompt
LLM08 Vettori ed embedding (RAG)controllo accessi sui documenti
LLM09 Disinformazioneancorare alle fonti, verifica umana
LLM10 Consumo incontrollatolimiti, quote, monitoraggio costi

Dove testare e come testare le tue AI

Dove: allestisci un laboratorio isolato e usa app volutamente vulnerabili (come DVWA, ma per l'AI).

Come: verifica le AI che costruisci con strumenti reali — garak (scanner), promptfoo e PyRIT/Giskard (test automatici) — e proteggile in produzione con LLM Guard/Rebuff.

⚖️ Note legali. Usa queste tecniche solo su sistemi, siti, modelli o dati tuoi, oppure con autorizzazione scritta. Approfondisci negli aspetti legali della categoria.

Nota etica: testa solo modelli e applicazioni tuoi, o con autorizzazione scritta. Il red teaming su servizi di terzi va concordato.

Livio Bollini
Walter Livio Bollini

Matematico & Informatico · Intelligenza Artificiale · Sviluppo Web