hacking A.I

STRIDE: classificare le minacce dell'AI per difendersi

Il modello STRIDE applicato all'AI: le sei minacce di LLM, RAG e agenti e come difendersi.

STRIDE è il modello più usato per classificare le minacce informatiche durante il threat modeling. Applicato all'intelligenza artificiale, permette di individuare in modo sistematico attacchi come prompt injection, data poisoning, furto del modello e abuso degli agenti. In questo articolo vediamo cosa significa ogni lettera, come si traduce nei sistemi AI e come usarlo su un caso reale.

Cos'è il modello STRIDE

STRIDE è un modello di classificazione delle minacce ideato in Microsoft da Loren Kohnfelder e Praerit Garg alla fine degli anni '90. Il nome è un acronimo di sei categorie, ognuna delle quali viola una specifica proprietà di sicurezza. Usarlo significa porsi, per ogni componente del sistema, sei domande precise invece di chiedersi genericamente "cosa può andare storto?".

Le sei categorie di minaccia del modello STRIDE
LetteraMinacciaProprietà violataDomanda da porsi
SSpoofing (falsificazione d'identità)AutenticazioneQualcuno può fingersi un altro utente, servizio o componente?
TTampering (manomissione)IntegritàQualcuno può modificare dati, codice o configurazioni senza autorizzazione?
RRepudiation (ripudio)Non ripudioQualcuno può negare di aver compiuto un'azione perché mancano le prove?
IInformation disclosure (divulgazione di informazioni)RiservatezzaDati riservati possono finire nelle mani sbagliate?
DDenial of service (negazione del servizio)DisponibilitàQualcuno può rendere il sistema lento, costoso o inutilizzabile?
EElevation of privilege (elevazione dei privilegi)AutorizzazioneQualcuno può ottenere permessi superiori a quelli che dovrebbe avere?

La forza di STRIDE è la sua semplicità: è facile da ricordare, copre le proprietà fondamentali della sicurezza (la triade CIA più autenticazione, autorizzazione e non ripudio) e può essere usato anche da sviluppatori e data scientist che non sono esperti di sicurezza.

STRIDE applicato all'intelligenza artificiale

Le sei categorie restano valide, ma nei sistemi AI assumono forme nuove. Ecco come tradurle:

Esempi: un documento caricato nel RAG che si spaccia per "istruzioni di sistema"; un attaccante che usa una chiave API rubata per interrogare il modello; un agente che si fida di un altro agente non autenticato; deepfake vocali per superare un'autenticazione biometrica.

Contromisure: autenticazione forte su API e agenti (OAuth, mTLS), separazione netta tra prompt di sistema e contenuti esterni, rotazione delle chiavi, rilevamento di liveness nei sistemi biometrici.

Esempi: data poisoning del dataset di addestramento o di fine-tuning; modifica dei documenti nella knowledge base del RAG; sostituzione dei pesi del modello con una versione con backdoor; prompt injection indiretta che altera il comportamento del modello.

Contromisure: controllo di provenienza e firma digitale di dataset e modelli (hash, SBOM/AI-BOM), permessi di scrittura ristretti sul vector database, validazione e filtraggio dei contenuti indicizzati, valutazioni periodiche del modello per rilevare comportamenti anomali.

Esempi: un agente AI esegue un bonifico o cancella file e non c'è modo di ricostruire chi o cosa l'ha innescato; un utente nega di aver inviato un prompt dannoso; impossibilità di sapere quale versione del modello ha prodotto una decisione contestata.

Contromisure: log immutabili di prompt, risposte e chiamate ai tool, con identità dell'utente, versione del modello e timestamp; tracciabilità delle decisioni automatizzate (requisito anche dell'AI Act europeo per i sistemi ad alto rischio).

Esempi: estrazione del prompt di sistema; il modello rivela dati personali memorizzati durante l'addestramento (training data extraction, membership inference); il RAG restituisce documenti a cui l'utente non avrebbe accesso; esfiltrazione di dati tramite link o immagini Markdown generate dal modello; furto del modello tramite interrogazioni ripetute (model extraction).

Contromisure: non inserire segreti nel prompt di sistema, controllo degli accessi applicato prima del retrieval, anonimizzazione dei dati di training, filtri sull'output, blocco del rendering di URL esterni, rate limiting contro l'estrazione.

Esempi: prompt lunghissimi o ricorsivi che esauriscono la finestra di contesto e le GPU; agenti bloccati in cicli infiniti di chiamate ai tool; attacchi di tipo denial of wallet che fanno esplodere i costi delle API a consumo.

Contromisure: limiti su lunghezza dell'input, token di output e numero di passi degli agenti; quote e rate limiting per utente; budget di spesa con allarmi; timeout sulle chiamate esterne.

Esempi: jailbreak che aggira le regole del modello; prompt injection che induce un agente a usare tool con permessi amministrativi; output del modello eseguito come codice o query SQL senza validazione (insecure output handling); l'agente agisce con le credenziali del servizio invece che con quelle dell'utente.

Contromisure: principio del minimo privilegio per ogni tool, conferma umana (human-in-the-loop) per le azioni irreversibili, sandbox per l'esecuzione di codice, trattare sempre l'output del modello come input non fidato, propagare l'identità dell'utente fino al tool.

STRIDE-per-element: dove cercare le minacce

STRIDE si applica agli elementi del diagramma di flusso dei dati (DFD) costruito durante il threat model. Non tutte le minacce riguardano tutti gli elementi: la tecnica STRIDE-per-element indica dove concentrarsi.

Matrice STRIDE-per-element: quali minacce verificare per ciascun tipo di elemento
Elemento del DFDSTRIDE
Entità esterna (utente, sito web)✓✓
Processo (LLM, agente)✓✓✓✓✓✓
Archivio dati (vector DB, dataset)✓✓*✓✓
Flusso di dati✓✓✓

* La ripudiabilità riguarda gli archivi che contengono log o dati di audit.

Per ogni casella spuntata scrivi le minacce concrete, con lo schema "Un [attaccante] può [azione] su [componente] causando [impatto]", poi assegna un livello di rischio e una contromisura.

Esempio pratico: STRIDE su un chatbot RAG con agenti

Immaginiamo un assistente aziendale che risponde alle domande dei dipendenti leggendo documenti interni (RAG) e che può inviare e-mail e aprire ticket. Il flusso è:

Utente → App web → Orchestratore → LLM
Orchestratore ↔ Vector DB (documenti interni)
Orchestratore → Tool: e-mail, ticketing
Tutte le interazioni → Log

Analisi STRIDE di un chatbot RAG con agenti
STRIDEMinacciaRischioContromisura
SUn documento nel RAG contiene il testo "SYSTEM: ignora le regole precedenti" e il modello lo tratta come istruzione autorevole.AltoDelimitare e marcare i contenuti recuperati come dati; istruzioni di sistema separate; classificatore di prompt injection.
TUn dipendente malintenzionato carica documenti manipolati per influenzare le risposte.MedioWorkflow di approvazione per l'indicizzazione, tracciamento dell'autore di ogni documento.
RUn'e-mail inviata dall'agente a un cliente non è riconducibile a nessuna richiesta.MedioLog firmati con ID utente, prompt, documenti recuperati e chiamate ai tool.
IUn utente del reparto vendite ottiene informazioni dai documenti riservati delle risorse umane.AltoFiltro dei permessi applicato alla query del vector DB in base all'identità dell'utente.
DRichieste automatizzate con prompt enormi fanno esplodere la spesa per l'API del modello.MedioRate limiting, limite di token, budget giornaliero con blocco automatico.
EUna prompt injection in un documento induce l'agente a inviare dati riservati via e-mail a un indirizzo esterno.CriticoAllow-list dei destinatari, conferma umana per invii esterni, tool eseguiti con i permessi dell'utente.

Le minacce più gravi nascono dalla combinazione di tre fattori: accesso a dati privati, esposizione a contenuti non fidati e capacità di comunicare verso l'esterno. Quando un agente li possiede tutti e tre, almeno uno va limitato o sottoposto a controllo umano.

STRIDE, OWASP Top 10 per LLM e MITRE ATLAS: come combinarli

STRIDE è un ottimo punto di partenza, ma è nato prima del machine learning. Per un'analisi completa conviene affiancarlo ad altri riferimenti:

  • STRIDE per la struttura: garantisce di non dimenticare nessuna categoria di minaccia.
  • OWASP Top 10 per LLM per i contenuti: le minacce specifiche dei modelli linguistici (prompt injection, excessive agency, data poisoning...).
  • MITRE ATLAS per i test: come un attaccante agirebbe davvero, utile per il red teaming.

Domande frequenti su STRIDE e AI

Dipende dall'effetto: è Tampering quando altera il comportamento del modello, Information disclosure quando serve a estrarre dati ed Elevation of privilege quando fa usare all'agente strumenti o permessi non previsti. Per questo è una delle minacce più pericolose.

Da solo no. STRIDE offre una struttura completa, ma va arricchito con cataloghi specifici per l'AI come OWASP Top 10 for LLM e MITRE ATLAS, e con test pratici di red teaming.

STRIDE serve a individuare e classificare le minacce; DREAD (Damage, Reproducibility, Exploitability, Affected users, Discoverability) serve a valutarne la gravità e decidere le priorità. Si usano in sequenza.

Sì. Diverse organizzazioni propongono estensioni che aggiungono categorie specifiche per il machine learning, ad esempio per il comportamento imprevisto del modello o la manipolazione dei dati di addestramento. In pratica, la versione classica arricchita con esempi AI, come in questo articolo, copre la grande maggioranza dei casi.

Conclusione

STRIDE fornisce sei domande semplici e complete per scoprire cosa può andare storto in un sistema. Applicate con attenzione ai nuovi elementi dell'intelligenza artificiale (dati, modelli, prompt, agenti) permettono di individuare minacce come prompt injection, data poisoning, esfiltrazione e abuso dei tool, e di scegliere le contromisure giuste.

Livio Bollini
Walter Livio Bollini

Matematico & Informatico · Intelligenza Artificiale · Sviluppo Web