Attacchi e difese dell'AI

Allestire un laboratorio per testare gli LLM

Un ambiente isolato dove provare in sicurezza le vulnerabilità degli LLM, senza rischi né costi.

La lettura vocale non è disponibile su questo browser.

Per provare gli attacchi agli LLM serve un ambiente isolato: non si rischia di toccare sistemi reali e si tengono sotto controllo i costi delle chiamate.

📖 Le parole in breve
LLM
Large Language Model: il modello linguistico (es. quelli dietro gli assistenti AI).
API
il modo in cui un programma chiama un modello remoto, di solito a pagamento per ogni richiesta.
Guardrail
le difese (input/output guard) messe attorno al modello per filtrarne ingressi e uscite.

Cosa ti serve

  • Un modello su cui provare: uno locale (es. con Ollama) per non spendere, oppure una chiave API di test con budget limitato.
  • Una piccola app di prova che riceve un messaggio, aggiunge un system prompt e risponde — così puoi testare i guard che le metti attorno.
  • Dati finti: mai dati reali o sensibili in laboratorio.

Come si monta

# un modello locale, gratis e offline\nollama run llama3\n\n# oppure un'app Python che chiama un modello e applica i guard da testare

Perché locale/isolato

Controlli tutto, non spendi, e soprattutto non invii dati reali a un servizio esterno mentre fai esperimenti.

Testa solo modelli e app tuoi, o con autorizzazione. Il \"red teaming\" su servizi di terzi va concordato.
Livio Bollini
Walter Livio Bollini

Matematico & Informatico · Intelligenza Artificiale · Sviluppo Web