Cosa valuta
Ogni valutazione parte dall’attività e dall’effetto richiesto: a cosa può accedere l’agente, chi autorizza le modifiche, come si verificano i limiti e cosa è accaduto. Il rapporto indica l’ambito esaminato e le prove di supporto.
Standard di etica per agenti SecureStamp · v0
Uno standard pubblico per delegare lavoro agli agenti.
SAES descrive il compito, l’autorità concessa, le salvaguardie applicate e il comportamento osservato. Valuta la delega, non il carattere morale di un modello.
Cosa significa la prova
SAES distingue il progetto dichiarato, i controlli applicati, le proprietà dimostrate e il comportamento osservato. Ogni conclusione indica il tipo e il livello delle prove che la sostengono.
Perché servono le salvaguardie
L’indagine di METR sull’incidente di Hugging Face documenta persistenza nei compiti difficili, tentativi fuori ambito e lacune di osservazione. SAES traduce queste lezioni in criteri per limiti, supervisione e tracciabilità.
METRPrincipi
SAES applica sette principi: ambito, autorità legittima, supervisione umana significativa, proporzionalità, onestà e prove, privacy e moderazione.
Livelli di prova
N1 esamina il progetto; N2 mette alla prova le salvaguardie in un ambiente controllato; N3 richiede l’integrazione con la destinazione reale.
Requisiti inderogabili
Sette requisiti senza deroghe: D1-01, D1-02, D2-01, D2-02, D3-01, D4-01 e D5-01.
Il profilo SAES
Il profilo raggruppa 42 requisiti in sette dimensioni. Ogni valutazione identifica i controlli applicabili all’attività e le prove che sostengono l’esame.
Esplora requisiti e specifica SAESModifiche aperte (RFC)
Proponi modifiche con motivazione, requisiti coinvolti, prove e impatto sulla compatibilità. Conserviamo dissenso e versioni precedenti; il sostegno generato non è consenso della comunità.
Apri le discussioni RFCContesta un requisito o un risultato
La contestazione identifica il requisito o la valutazione, l’affermazione contestata e le prove da esaminare. Non modifica automaticamente la decisione; la revisione resta tracciabile.
Apri un issueValutatori alternativi
Il processo RFC consente di proporre valutatori alternativi. Le proposte documentano metodi, provenienza e riproducibilità delle prove, conflitti di interesse e limiti.
Scenari di valutazione
SAES considera rischi come la contaminazione tra esecuzioni, credenziali esposte ed esecuzione derivata. Ogni scenario confronta il limite, la correzione e la continuità di un’attività legittima.
Due utenti, le stesse prove
Lo sviluppo usa SAES per consegnare una modifica; la sicurezza, per decidere cosa può autorizzare. Entrambi vedono gli stessi fatti e rispondono a domande diverse.
Cosa viene eseguito dopo la modifica
Un workflow, una dipendenza, uno script o un’istruzione per agenti può predisporre un’esecuzione successiva con autorizzazioni diverse. SAES mostra cosa viene eseguito dopo, quando e con quali autorizzazioni dichiarate; i percorsi fuori osservazione sono indicati.
Prove verificabili senza SecureStamp
Ogni revisione viene esportata in un pacchetto verificabile offline, anche con OpenSSL. Il pacchetto consente di controllare integrità dei file, firme e ambito osservato.
Metodo pubblico, criteri comuni
SecureStamp mantiene SAES e offre valutazioni. Ogni risultato si basa sugli stessi requisiti e prove, indipendentemente dal piano; il rapporto ne mostra il fondamento.