29/09/2026
Il vero bersaglio di un LLM Red Teaming non è necessariamente il modello.
Spesso sono le assunzioni di sicurezza costruite intorno al modello.
Un documento recuperato dal RAG viene trattato come dato o può diventare un’istruzione?
Un agente può selezionare autonomamente un tool?
Le sue credenziali rispettano il principio del minimo privilegio?
Esiste una separazione reale tra utenti, contesti e autorizzazioni?
Ed è proprio concatenando queste debolezze che una semplice prompt injection può trasformarsi in qualcosa di molto più serio:
contenuto ostile → modello manipolato → tool selezionato → privilegio utilizzato → conseguenza sul sistema.
Ho provato a strutturare il problema come dovrebbe essere affrontato in un assessment reale.
Come si struttura un LLM Red Teaming: scope, threat modeling, test avversariali, finding, exploitability, mitigazione e retest dei sistemi AI