MITRE ATLAS: la Piattaforma per Mappare gli Attacchi all'Intelligenza Artificiale

MITRE ATLAS (Adversarial Threat Landscape for Artificial-Intelligence Systems) è una knowledge base pubblica che raccoglie le tattiche e le tecniche realmente utilizzate dagli attaccanti per colpire sistemi di Intelligenza Artificiale e Machine Learning. È realizzata da MITRE Corporation, la stessa organizzazione che cura il celebre framework MITRE ATT&CK per la cyber security tradizionale, e ne eredita la struttura e la filosofia.

🌐 1) Dove trovare MITRE ATLAS

La piattaforma è consultabile online all'indirizzo ufficiale atlas.mitre.org. Da qui si accede a:

• La matrice interattiva delle tattiche e delle tecniche.
• ATLAS Navigator: il tool visuale per creare mappe personalizzate delle minacce.
• Case Studies: attacchi reali documentati contro sistemi AI in produzione.
• Arsenal: strumenti open source collegati alle singole tecniche.
• Il repository GitHub ufficiale del progetto, dove tutti i dati sono pubblicati in formato aperto (STIX/JSON).

💰 2) È gratuita? Quali sono i costi?

MITRE ATLAS è completamente gratuita e open source. Non richiede licenza, registrazione né abbonamento: ricercatori, aziende e studenti possono consultare la matrice, scaricare i dati o usare l'ATLAS Navigator senza alcun costo. Il progetto è sostenuto da MITRE Corporation, ente statunitense non-profit, insieme a partner del settore come Microsoft, Bosch, NVIDIA e IBM, che contribuiscono con dati su attacchi reali osservati sul campo.

🛡️ 3) Uso difensivo, non offensivo

È importante chiarire un punto: ATLAS non è uno strumento per lanciare attacchi, ma un framework di conoscenza usato da AI red team e blue team per capire in che modo un avversario potrebbe colpire un sistema AI, così da progettare difese, condurre AI penetration test in ambienti autorizzati e preparare piani di risposta. È lo stesso approccio con cui, nell'ethical hacking tradizionale, si studia MITRE ATT&CK per capire le tecniche degli attaccanti e proteggersi meglio.

⚙️ 4) Le funzionalità principali

• Matrice Tattiche/Tecniche: organizza gli attacchi in tattiche come Reconnaissance, ML Model Access, Initial Access, ML Attack Staging, Exfiltration e Impact, con decine di tecniche e sotto-tecniche, ciascuna identificata da un codice (es. AML.T0051).
• Case Studies: oltre 30 casi reali documentati, come attacchi di evasion contro filtri antispam o di data poisoning su sistemi di raccomandazione.
• ATLAS Navigator: tool grafico, basato sull'ATT&CK Navigator, per creare heat map personalizzate del proprio threat model AI.
• Arsenal: raccolta di strumenti collegati alle tecniche, tra cui Adversarial Robustness Toolbox (ART), Counterfit di Microsoft e PyRIT, usati per simulare attacchi in ambiente controllato e verificare la robustezza dei modelli.
• Mitigazioni: per ogni tecnica sono indicate le contromisure consigliate, come input sanitization, rate limiting, model monitoring e adversarial training.

💻 5) Esempio di utilizzo pratico

Un team di sicurezza deve valutare un chatbot aziendale basato su un Large Language Model (LLM) esposto pubblicamente. Un possibile percorso con ATLAS:

1. Apre l'ATLAS Navigator e seleziona la matrice completa.
2. Individua la tecnica LLM Prompt Injection (AML.T0051), che descrive come istruzioni nascoste nel prompt possano far ignorare al modello le regole di sistema.
3. Consulta il Case Study collegato per vedere un esempio reale già documentato di un attacco simile subito da un altro sistema.
4. Nell'ambito di un test autorizzato, usa uno degli strumenti indicati nell'Arsenal (es. PyRIT di Microsoft) per verificare se le difese attuali del chatbot (filtri, guardrail) resistono a tentativi di prompt injection.
5. Applica le mitigazioni suggerite da ATLAS: validazione e sanificazione dell'input, separazione netta tra istruzioni di sistema e contenuto dell'utente, logging e monitoraggio delle risposte anomale.

Tattica: LLM Prompt Injection (AML.T0051)
Tool di test: PyRIT (Python Risk Identification Tool)
Mitigazione: input sanitization + system prompt isolation

MITRE ATLAS diventa così la mappa di riferimento per capire, testare in modo etico e proteggere qualsiasi sistema basato su Intelligenza Artificiale, dai modelli di computer vision ai chatbot conversazionali.