跳到主要內容
返回 securestamp.org

SecureStamp 智慧代理倫理標準 · v0

智慧代理工作委派的公開標準。

SAES 描述任務、授予的權限、已套用的保障措施及觀察到的行為。它評估委派方式,而非模型的道德品格。

黃昏時分,一位手持卷軸的希臘哲學家大理石雕像站在多立克柱之間。AI 生成的插圖。

評估內容

每項評估從任務與預期效果出發:智慧代理可存取什麼、誰能核准變更、如何檢驗界線,以及實際發生了什麼。報告會說明審查範圍與佐證。

證據的意義

SAES 分別記錄宣告的設計、已套用的控制、已驗證的屬性與觀察到的行為。每項結論都會指出所依據證據的類型與等級。

保障措施的重要性

METR 對 Hugging Face 事件的調查記錄了困難任務中的持續嘗試、超出指派範圍的行動與觀察盲點。SAES 將這些經驗轉化為檢視界線、監督與可追溯性的準則。

METR

原則

SAES 遵循七項原則:範圍、正當權限、有效的人類監督、適度、誠實與證據、隱私及節制。

證據等級

N1 審查設計;N2 在受控環境中檢驗保障措施;N3 要求與真實目標整合。

否決項

七項不可豁免要求:D1-01、D1-02、D2-01、D2-02、D3-01、D4-01 及 D5-01。

SAES 設定檔

設定檔將 42 項要求歸納為七個面向。每項評估都會指出適用於該任務的控制及其佐證。

查看 SAES 要求與規格

公開變更提案(RFC)

提案請說明理由、受影響要求、證據及相容性影響。保留異議和歷史版本;生成的支持意見不代表社群共識。

開啟 RFC 討論

質疑要求或評估結果

質疑應指出相關要求或評估、爭議主張及要審查的證據。質疑不會自動改變結論;審查過程與結果應可追蹤。

開啟 Issue

替代評估者

可透過 RFC 流程提議替代評估方。提案需說明方法、證據來源與可重現性、利益衝突及適用範圍。

評估情境

SAES 涵蓋跨執行污染、憑證暴露與衍生執行等風險。每個情境都會檢視界線、修正措施,以及合法任務能否持續完成。

兩類使用者,同一份證據

開發團隊用 SAES 交付變更,資安團隊用它決定可以核准什麼。雙方看到相同的事實,回答不同的問題。

變更之後會執行什麼

工作流程、相依項目、指令碼或智慧代理指示可能會準備以不同權限執行的後續操作。SAES 會說明接下來執行什麼、何時執行以及宣告了哪些權限,並標示未納入觀察的路徑。

無需 SecureStamp 即可驗證的證據

每次審查都會匯出為可離線驗證的證據套件,也可使用 OpenSSL 驗證。團隊可據此檢查檔案完整性、簽章與觀察範圍。

公開方法,統一準則

SecureStamp 維護 SAES 並提供評估。無論方案為何,結論都依據相同要求與證據;報告會說明結論的佐證。

SAES v0 — 智慧代理倫理與工作委派標準 | SecureStamp Foundation