Qué evalúa
Cada evaluación parte de la tarea y el efecto solicitado: qué puede alcanzar el agente, quién autoriza cambios, cómo se prueban los límites y qué ocurrió. El informe identifica el alcance revisado y la evidencia que lo respalda.
Estándar de Ética de Agentes SecureStamp · v0
Un estándar público para delegar trabajo en agentes.
SAES describe la tarea, la autoridad concedida, las salvaguardas aplicadas y la conducta observada. Evalúa la delegación, no el carácter moral de un modelo.
Qué significa la evidencia
SAES separa lo declarado, lo aplicado, lo demostrado y la conducta observada. Cada conclusión muestra el tipo y el nivel de evidencia que la respalda.
Por qué importan las salvaguardas
La investigación de METR sobre Hugging Face documenta persistencia ante tareas difíciles, intentos fuera del alcance asignado y brechas de observación. SAES convierte esas lecciones en criterios para revisar límites, supervisión y trazabilidad.
METRPrincipios
SAES aplica siete principios: alcance, autoridad legítima, supervisión humana significativa, proporcionalidad, honestidad y evidencia, privacidad y moderación.
Niveles de evidencia
N1 revisa el diseño; N2 pone a prueba las salvaguardas en un entorno controlado; N3 exige integración con el destino real.
Knockouts
Siete requisitos sin excepción: D1-01, D1-02, D2-01, D2-02, D3-01, D4-01 y D5-01.
El perfil SAES
El perfil organiza 42 requisitos en siete dimensiones. Cada evaluación muestra los controles aplicables a la tarea y la evidencia que respalda la revisión.
Consultar requisitos y especificación de SAESCambios abiertos (RFC)
Propón cambios con su motivo, requisitos afectados, evidencia e impacto de compatibilidad. Conservamos el disenso y las versiones anteriores; el respaldo generado no cuenta como consenso comunitario.
Abrir debates de RFCImpugnar un requisito o resultado
La impugnación debe identificar el requisito o evaluación, la afirmación cuestionada y la evidencia que se debe revisar. No cambia automáticamente la decisión; la revisión y su resultado deben quedar trazables.
Abrir una incidenciaEvaluadores alternativos
El proceso RFC permite proponer evaluadores alternativos. Las propuestas documentan método, procedencia y reproducibilidad de la evidencia, conflictos de interés y límites.
Escenarios de evaluación
SAES contempla riesgos como la contaminación entre ejecuciones, la exposición de credenciales y las ejecuciones derivadas. Cada escenario contrasta el límite, la corrección y la continuidad de una tarea legítima.
Dos usuarios, la misma evidencia
Desarrollo usa SAES para entregar un cambio; seguridad, para decidir qué puede autorizar. Ven los mismos hechos y responden preguntas distintas.
Lo que se ejecuta después del cambio
Un workflow, una dependencia, un script o una instrucción para agentes puede habilitar otra ejecución con permisos distintos. SAES muestra qué se ejecuta después, cuándo y con qué permisos declarados; las rutas fuera de observación aparecen señaladas.
Evidencia que se verifica sin SecureStamp
Cada revisión se exporta en un paquete verificable sin conexión, incluso con OpenSSL. El paquete permite comprobar la integridad de los archivos, las firmas y el alcance observado.
Un método público, criterios comunes
SecureStamp mantiene SAES y ofrece evaluaciones. Cada resultado se basa en los mismos requisitos y evidencia, cualquiera sea el plan; el informe muestra qué respalda la conclusión.