Per provare gli attacchi agli LLM serve un ambiente isolato: non si rischia di toccare sistemi reali e si tengono sotto controllo i costi delle chiamate.
📖 Le parole in breve
- LLM
- Large Language Model: il modello linguistico (es. quelli dietro gli assistenti AI).
- API
- il modo in cui un programma chiama un modello remoto, di solito a pagamento per ogni richiesta.
- Guardrail
- le difese (input/output guard) messe attorno al modello per filtrarne ingressi e uscite.
Cosa ti serve
- Un modello su cui provare: uno locale (es. con
Ollama) per non spendere, oppure una chiave API di test con budget limitato. - Una piccola app di prova che riceve un messaggio, aggiunge un system prompt e risponde — così puoi testare i guard che le metti attorno.
- Dati finti: mai dati reali o sensibili in laboratorio.
Come si monta
# un modello locale, gratis e offline\nollama run llama3\n\n# oppure un'app Python che chiama un modello e applica i guard da testarePerché locale/isolato
Controlli tutto, non spendi, e soprattutto non invii dati reali a un servizio esterno mentre fai esperimenti.