Ogni richiesta a un LLM costa tempo e denaro. Senza limiti, un attaccante può far esplodere i costi o rendere il servizio indisponibile.
| Cosa cerca l'attaccante | Far costare o bloccare il servizio con richieste pesanti. |
|---|---|
| Come si trova | Prompt enormi o ripetuti, cicli, richieste volutamente costose. |
| Cosa ottiene | Costi altissimi o servizio indisponibile (una forma di negazione del servizio). |
| Quanto è grave | Media o alta (costi e disponibilità). |
| Come ci si difende | Limiti di frequenza e dimensione, quote e monitoraggio dei costi. |
Come funziona
Input molto lunghi, molte richieste in poco tempo o catene di chiamate possono consumare enormi risorse. Il risultato è una bolletta fuori controllo o un servizio che non risponde più.
🛡 Come difendersi
Si mettono limiti e si tiene d'occhio la spesa:
- Limiti di frequenza (rate limiting) e quote per utente.
- Limiti sulla lunghezza di input e output, e timeout.
- Monitoraggio dei costi con allarmi di budget.