STRIDE è il modello più usato per classificare le minacce informatiche durante il threat modeling. Applicato all'intelligenza artificiale, permette di individuare in modo sistematico attacchi come prompt injection, data poisoning, furto del modello e abuso degli agenti. In questo articolo vediamo cosa significa ogni lettera, come si traduce nei sistemi AI e come usarlo su un caso reale.
Cos'è il modello STRIDE
STRIDE è un modello di classificazione delle minacce ideato in Microsoft da Loren Kohnfelder e Praerit Garg alla fine degli anni '90. Il nome è un acronimo di sei categorie, ognuna delle quali viola una specifica proprietà di sicurezza. Usarlo significa porsi, per ogni componente del sistema, sei domande precise invece di chiedersi genericamente "cosa può andare storto?".
| Lettera | Minaccia | Proprietà violata | Domanda da porsi |
|---|---|---|---|
| S | Spoofing (falsificazione d'identità) | Autenticazione | Qualcuno può fingersi un altro utente, servizio o componente? |
| T | Tampering (manomissione) | Integrità | Qualcuno può modificare dati, codice o configurazioni senza autorizzazione? |
| R | Repudiation (ripudio) | Non ripudio | Qualcuno può negare di aver compiuto un'azione perché mancano le prove? |
| I | Information disclosure (divulgazione di informazioni) | Riservatezza | Dati riservati possono finire nelle mani sbagliate? |
| D | Denial of service (negazione del servizio) | Disponibilità | Qualcuno può rendere il sistema lento, costoso o inutilizzabile? |
| E | Elevation of privilege (elevazione dei privilegi) | Autorizzazione | Qualcuno può ottenere permessi superiori a quelli che dovrebbe avere? |
La forza di STRIDE è la sua semplicità: è facile da ricordare, copre le proprietà fondamentali della sicurezza (la triade CIA più autenticazione, autorizzazione e non ripudio) e può essere usato anche da sviluppatori e data scientist che non sono esperti di sicurezza.
STRIDE applicato all'intelligenza artificiale
Le sei categorie restano valide, ma nei sistemi AI assumono forme nuove. Ecco come tradurle:
Esempi: un documento caricato nel RAG che si spaccia per "istruzioni di sistema"; un attaccante che usa una chiave API rubata per interrogare il modello; un agente che si fida di un altro agente non autenticato; deepfake vocali per superare un'autenticazione biometrica.
Contromisure: autenticazione forte su API e agenti (OAuth, mTLS), separazione netta tra prompt di sistema e contenuti esterni, rotazione delle chiavi, rilevamento di liveness nei sistemi biometrici.
Esempi: data poisoning del dataset di addestramento o di fine-tuning; modifica dei documenti nella knowledge base del RAG; sostituzione dei pesi del modello con una versione con backdoor; prompt injection indiretta che altera il comportamento del modello.
Contromisure: controllo di provenienza e firma digitale di dataset e modelli (hash, SBOM/AI-BOM), permessi di scrittura ristretti sul vector database, validazione e filtraggio dei contenuti indicizzati, valutazioni periodiche del modello per rilevare comportamenti anomali.
Esempi: un agente AI esegue un bonifico o cancella file e non c'è modo di ricostruire chi o cosa l'ha innescato; un utente nega di aver inviato un prompt dannoso; impossibilità di sapere quale versione del modello ha prodotto una decisione contestata.
Contromisure: log immutabili di prompt, risposte e chiamate ai tool, con identità dell'utente, versione del modello e timestamp; tracciabilità delle decisioni automatizzate (requisito anche dell'AI Act europeo per i sistemi ad alto rischio).
Esempi: estrazione del prompt di sistema; il modello rivela dati personali memorizzati durante l'addestramento (training data extraction, membership inference); il RAG restituisce documenti a cui l'utente non avrebbe accesso; esfiltrazione di dati tramite link o immagini Markdown generate dal modello; furto del modello tramite interrogazioni ripetute (model extraction).
Contromisure: non inserire segreti nel prompt di sistema, controllo degli accessi applicato prima del retrieval, anonimizzazione dei dati di training, filtri sull'output, blocco del rendering di URL esterni, rate limiting contro l'estrazione.
Esempi: prompt lunghissimi o ricorsivi che esauriscono la finestra di contesto e le GPU; agenti bloccati in cicli infiniti di chiamate ai tool; attacchi di tipo denial of wallet che fanno esplodere i costi delle API a consumo.
Contromisure: limiti su lunghezza dell'input, token di output e numero di passi degli agenti; quote e rate limiting per utente; budget di spesa con allarmi; timeout sulle chiamate esterne.
Esempi: jailbreak che aggira le regole del modello; prompt injection che induce un agente a usare tool con permessi amministrativi; output del modello eseguito come codice o query SQL senza validazione (insecure output handling); l'agente agisce con le credenziali del servizio invece che con quelle dell'utente.
Contromisure: principio del minimo privilegio per ogni tool, conferma umana (human-in-the-loop) per le azioni irreversibili, sandbox per l'esecuzione di codice, trattare sempre l'output del modello come input non fidato, propagare l'identità dell'utente fino al tool.
STRIDE-per-element: dove cercare le minacce
STRIDE si applica agli elementi del diagramma di flusso dei dati (DFD) costruito durante il threat model. Non tutte le minacce riguardano tutti gli elementi: la tecnica STRIDE-per-element indica dove concentrarsi.
| Elemento del DFD | S | T | R | I | D | E |
|---|---|---|---|---|---|---|
| Entità esterna (utente, sito web) | ✓ | ✓ | ||||
| Processo (LLM, agente) | ✓ | ✓ | ✓ | ✓ | ✓ | ✓ |
| Archivio dati (vector DB, dataset) | ✓ | ✓* | ✓ | ✓ | ||
| Flusso di dati | ✓ | ✓ | ✓ |
* La ripudiabilità riguarda gli archivi che contengono log o dati di audit.
Per ogni casella spuntata scrivi le minacce concrete, con lo schema "Un [attaccante] può [azione] su [componente] causando [impatto]", poi assegna un livello di rischio e una contromisura.
Esempio pratico: STRIDE su un chatbot RAG con agenti
Immaginiamo un assistente aziendale che risponde alle domande dei dipendenti leggendo documenti interni (RAG) e che può inviare e-mail e aprire ticket. Il flusso è:
Utente → App web → Orchestratore → LLM
Orchestratore ↔ Vector DB (documenti interni)
Orchestratore → Tool: e-mail, ticketing
Tutte le interazioni → Log
| STRIDE | Minaccia | Rischio | Contromisura |
|---|---|---|---|
| S | Un documento nel RAG contiene il testo "SYSTEM: ignora le regole precedenti" e il modello lo tratta come istruzione autorevole. | Alto | Delimitare e marcare i contenuti recuperati come dati; istruzioni di sistema separate; classificatore di prompt injection. |
| T | Un dipendente malintenzionato carica documenti manipolati per influenzare le risposte. | Medio | Workflow di approvazione per l'indicizzazione, tracciamento dell'autore di ogni documento. |
| R | Un'e-mail inviata dall'agente a un cliente non è riconducibile a nessuna richiesta. | Medio | Log firmati con ID utente, prompt, documenti recuperati e chiamate ai tool. |
| I | Un utente del reparto vendite ottiene informazioni dai documenti riservati delle risorse umane. | Alto | Filtro dei permessi applicato alla query del vector DB in base all'identità dell'utente. |
| D | Richieste automatizzate con prompt enormi fanno esplodere la spesa per l'API del modello. | Medio | Rate limiting, limite di token, budget giornaliero con blocco automatico. |
| E | Una prompt injection in un documento induce l'agente a inviare dati riservati via e-mail a un indirizzo esterno. | Critico | Allow-list dei destinatari, conferma umana per invii esterni, tool eseguiti con i permessi dell'utente. |
Le minacce più gravi nascono dalla combinazione di tre fattori: accesso a dati privati, esposizione a contenuti non fidati e capacità di comunicare verso l'esterno. Quando un agente li possiede tutti e tre, almeno uno va limitato o sottoposto a controllo umano.
STRIDE, OWASP Top 10 per LLM e MITRE ATLAS: come combinarli
STRIDE è un ottimo punto di partenza, ma è nato prima del machine learning. Per un'analisi completa conviene affiancarlo ad altri riferimenti:
- STRIDE per la struttura: garantisce di non dimenticare nessuna categoria di minaccia.
- OWASP Top 10 per LLM per i contenuti: le minacce specifiche dei modelli linguistici (prompt injection, excessive agency, data poisoning...).
- MITRE ATLAS per i test: come un attaccante agirebbe davvero, utile per il red teaming.
Domande frequenti su STRIDE e AI
Conclusione
STRIDE fornisce sei domande semplici e complete per scoprire cosa può andare storto in un sistema. Applicate con attenzione ai nuovi elementi dell'intelligenza artificiale (dati, modelli, prompt, agenti) permettono di individuare minacce come prompt injection, data poisoning, esfiltrazione e abuso dei tool, e di scegliere le contromisure giuste.