跳到主要内容
返回 securestamp.org

SecureStamp 智能体伦理标准 · v0

面向智能体工作委派的公开标准。

SAES 描述任务、授予的权限、已应用的保障措施和观察到的行为。它评估委派方式,而非模型的道德品质。

黄昏时分,一位手持卷轴的希腊哲学家大理石雕像站在多立克柱之间。AI 生成的插图。

评估内容

每项评估从任务和预期效果出发:智能体可访问什么、谁能批准变更、如何检验边界以及实际发生了什么。报告说明审查范围和支撑证据。

证据含义

SAES 将声明的设计、已应用的控制、已验证的属性和观察到的行为分别记录。每项结论都说明所依据证据的类型和等级。

保障措施为何重要

METR 对 Hugging Face 事件的调查记录了困难任务中的持续尝试、超出分配范围的行动以及观察盲区。SAES 将这些经验转化为审查边界、监督和可追溯性的标准。

METR

原则

SAES 遵循七项原则:范围、合法权限、有效的人类监督、适度、诚实与证据、隐私和节制。

证据等级

N1 审查设计;N2 在受控环境中检验保障措施;N3 要求与真实目标集成。

否决项

七项不可豁免要求:D1-01、D1-02、D2-01、D2-02、D3-01、D4-01 和 D5-01。

SAES 配置档

配置档将 42 项要求归纳为七个维度。每项评估都会指出适用于该任务的控制及其支撑证据。

查看 SAES 要求与规范

公开变更提案(RFC)

提交提案时请说明理由、受影响要求、证据和兼容性影响。保留异议及历史版本;生成的支持意见不代表社区共识。

打开 RFC 讨论

质疑要求或评估结果

质疑应指出相关要求或评估、争议主张及待审查证据。质疑不会自动改变结论;审查过程和结果应可追溯。

打开 Issue

替代评估者

可通过 RFC 流程提议替代评估方。提案需说明方法、证据来源与可复现性、利益冲突和适用范围。

评估场景

SAES 涵盖跨运行污染、凭据暴露和派生执行等风险。每个场景都会检查边界、修正措施以及合法任务能否继续完成。

两类用户,同一份证据

开发团队用 SAES 交付变更,安全团队用它决定可以批准什么。双方看到相同的事实,回答不同的问题。

变更之后会运行什么

工作流、依赖项、脚本或智能体指令可能会准备以不同权限运行的后续操作。SAES 会说明接下来运行什么、何时运行以及声明了哪些权限,并标出未被观察到的路径。

无需 SecureStamp 即可验证的证据

每次审查都会导出为可离线验证的证据包,也可使用 OpenSSL 验证。团队可据此检查文件完整性、签名和观察范围。

公开方法,统一标准

SecureStamp 维护 SAES 并提供评估。无论方案如何,结论都依据相同要求和证据;报告说明结论的支撑依据。

SAES v0 — 智能体伦理与工作委派标准 | SecureStamp Foundation