Strumenti limitati e verifica degli argomenti
Strumenti limitati e verifica degli argomenti — Sicurezza degli agenti AI e prompt injection. Permesso sul singolo oggetto; Argomenti strutturati invece di comandi shell; Autorizzazione di breve durata. Esercitazione pratica: Strumenti limitati e verifica degli argomenti.
Versione demo. I materiali sono in fase di revisione editoriale.
Argomenti trattati
- Permesso sul singolo oggetto
- Argomenti strutturati invece di comandi shell
- Autorizzazione di breve durata
Permesso sul singolo oggetto
Il permesso di leggere documenti non permette di leggerli tutti. Nell’archivio didattico, l’utente A possiede contract-A e l’utente B possiede payroll-B. L’agente A potrebbe ricavare il secondo ID da una pagina web. Il server deve verificare il proprietario a ogni chiamata read_document, senza fidarsi dell’elenco mostrato nel menu. Ricava l’identità dalla sessione verificata, mai da un argomento prodotto dal modello. Cerca poi il documento nell’insieme autorizzato e restituisci solo i campi necessari. Il rifiuto non deve rivelare il contenuto altrui. Prova entrambi i casi: contract-A disponibile e payroll-B negato. Controllare soltanto l’ID corretto nasconderebbe un errore d’isolamento. Il controllo funziona anche quando il modello non riconosce l’attacco.
Argomenti strutturati invece di comandi shell
Uno strumento run_command può fare molto più di quanto serva per leggere un PDF. Sostituiscilo con extract_text, che accetta fileId, numero massimo di pagine e timeout. Il dispatcher verifica lo schema: rifiuta campi sconosciuti, richiede un fileId autorizzato e limita il valore numerico. Non costruire comandi shell usando nomi trovati nel documento. Nella chiamata didattica fileId=contract-A e maxPages=5, restituisci al massimo cinque pagine oppure un avviso esplicito di troncamento. Se il file contiene 40 pagine, presentare silenziosamente le prime cinque come contratto completo produce un errore fattuale. Comunica al modello il limite dell’estrazione e consenti di proseguire entro i permessi. Un’interfaccia limitata riduce l’autorità e rende prevedibili gli errori.
Autorizzazione di breve durata
Anche uno strumento limitato richiede confini di tempo e ambito. Concedi la lettura di contract-A per un solo riepilogo, senza scrittura né accesso ad altre cartelle. Il completamento o l’annullamento del compito chiude l’accesso. Separa le credenziali di lettura da quelle d’invio: la perdita delle prime non deve consentire automaticamente le seconde. Nel protocollo didattico indica scope=document:contract-A:read e task=active. Due chiamate ripetute dopo task=closed devono essere negate, anche se un vecchio messaggio contiene l’ID corretto. La scadenza non giustifica un token permanente più ampio. Ripristina soltanto il permesso necessario per un nuovo incarico autorizzato. Questo test rileva autorità residue invisibili durante una sessione riuscita. Nel rapporto registra la categoria del rifiuto, senza valori delle credenziali.
Esercitazione pratica
Strumenti limitati e verifica degli argomenti
Vai alla lezione