Attacchi e difese dell'AI

promptfoo: test ripetibili e red teaming dei prompt

Definire casi di test e controlli, e verificare che il modello si comporti bene anche sotto attacco.

La lettura vocale non è disponibile su questo browser.

promptfoo serve a testare i prompt come si testa il codice: definisci dei casi, dei controlli attesi, e verifichi a ogni modifica.

A cosa serve

  • Confrontare prompt e modelli diversi sugli stessi casi.
  • Controllare che il modello non ceda a prompt injection e non riveli dati.
  • Inserire i test nella pipeline, così ogni modifica viene verificata in automatico.

Come si usa

# definisci i casi in un file e lancia\nnpx promptfoo eval
🛡 È il modo per rendere la sicurezza del tuo assistente AI ripetibile, non un controllo una tantum.
Livio Bollini
Walter Livio Bollini

Matematico & Informatico · Intelligenza Artificiale · Sviluppo Web