Attacchi e difese dell'AI

Un'app LLM vulnerabile da attaccare

Bersagli volutamente deboli per esercitarsi sulle 10 vulnerabilità degli LLM, come DVWA per il web.

La lettura vocale non è disponibile su questo browser.

Come DVWA per i siti web, servono applicazioni di AI volutamente deboli su cui esercitarsi senza fare danni.

Cosa sono

Sono app con difetti voluti: system prompt che si fa rivelare, guard aggirabili, troppa autonomia, memoria avvelenabile. Permettono di provare gli attacchi in modo controllato.

Dove esercitarsi

  • Gandalf (Lakera): livelli crescenti per imparare la prompt injection.
  • PortSwigger Web LLM: laboratori sugli attacchi agli LLM dentro le app web.
  • Progetti \"vulnerable LLM / LLM CTF\" da installare nel tuo laboratorio locale.

Come usarli

Prova ogni vulnerabilità dell'OWASP Top 10 (vedi il modulo Le 10 vulnerabilità degli LLM), poi applica la difesa e verifica che l'attacco non funzioni più.

Solo in laboratorio o su piattaforme pensate per l'addestramento.
Livio Bollini
Walter Livio Bollini

Matematico & Informatico · Intelligenza Artificiale · Sviluppo Web

Articoli correlati