Come DVWA per i siti web, servono applicazioni di AI volutamente deboli su cui esercitarsi senza fare danni.
Cosa sono
Sono app con difetti voluti: system prompt che si fa rivelare, guard aggirabili, troppa autonomia, memoria avvelenabile. Permettono di provare gli attacchi in modo controllato.
Dove esercitarsi
- Gandalf (Lakera): livelli crescenti per imparare la prompt injection.
- PortSwigger Web LLM: laboratori sugli attacchi agli LLM dentro le app web.
- Progetti \"vulnerable LLM / LLM CTF\" da installare nel tuo laboratorio locale.
Come usarli
Prova ogni vulnerabilità dell'OWASP Top 10 (vedi il modulo Le 10 vulnerabilità degli LLM), poi applica la difesa e verifica che l'attacco non funzioni più.