Norme d’éthique des agents SecureStamp · v0
SAES décrit la tâche, l’autorité accordée, les garanties appliquées et le comportement observé. Elle évalue la délégation, pas le caractère moral d’un modèle.
Chaque évaluation part de la tâche et de l’effet demandé : ce à quoi l’agent peut accéder, qui autorise les changements, comment les limites sont testées et ce qui s’est passé. Le rapport précise le périmètre examiné et les preuves associées.
SAES distingue la conception déclarée, les contrôles appliqués, les propriétés démontrées et le comportement observé. Chaque conclusion indique la nature et le niveau des preuves qui la soutiennent.
L’enquête de METR sur l’incident Hugging Face décrit la persistance face aux tâches difficiles, des tentatives hors périmètre et des lacunes d’observation. SAES transforme ces enseignements en critères de limites, de supervision et de traçabilité.
METRSAES applique sept principes : périmètre, autorité légitime, supervision humaine réelle, proportionnalité, honnêteté et preuves, vie privée et modération.
N1 examine la conception ; N2 teste les protections dans un environnement contrôlé ; N3 exige une intégration à la destination réelle.
Sept exigences sans dérogation : D1-01, D1-02, D2-01, D2-02, D3-01, D4-01 et D5-01.
Le profil regroupe 42 exigences en sept dimensions. Chaque évaluation indique les contrôles applicables à la tâche et les preuves qui fondent l’examen.
Explorer les exigences et la spécification SAESProposez des changements avec leurs motifs, exigences concernées, preuves et effets sur la compatibilité. Le désaccord et les versions antérieures sont conservés ; des avis générés ne constituent pas un consensus.
Ouvrir les discussions RFCUne contestation indique l’exigence ou l’évaluation, l’affirmation contestée et les preuves à examiner. Elle ne modifie pas automatiquement la décision ; l’examen doit rester traçable.
Ouvrir un ticketLe processus RFC permet de proposer des évaluateurs alternatifs. Les propositions précisent la méthode, la provenance et la reproductibilité des preuves, les conflits d’intérêts et les limites.
SAES couvre des risques tels que la contamination entre exécutions, l’exposition d’identifiants et l’exécution dérivée. Chaque scénario examine la limite, la correction et la continuité d’une tâche légitime.
Le développement utilise SAES pour livrer un changement ; la sécurité, pour décider de ce qu'elle peut autoriser. Les deux voient les mêmes faits et répondent à des questions différentes.
Un workflow, une dépendance, un script ou une instruction pour un agent peut préparer une exécution ultérieure avec d’autres autorisations. SAES indique ce qui s’exécute ensuite, quand et avec quelles autorisations déclarées ; les chemins hors observation sont signalés.
Chaque examen est exporté dans un paquet vérifiable hors ligne, y compris avec OpenSSL. Le paquet permet de contrôler l’intégrité des fichiers, les signatures et le périmètre observé.
SecureStamp maintient SAES et propose des évaluations. Chaque résultat repose sur les mêmes exigences et preuves, quel que soit le forfait ; le rapport en indique le fondement.