評価対象
各評価では、タスクと求める効果を起点に、エージェントのアクセス範囲、変更の承認者、制限の検証方法、実際の結果を確認します。レポートは確認した範囲と根拠となる証拠を示します。
SecureStamp エージェント倫理標準 · v0
エージェントへの作業委譲に関する公開標準。
SAESはタスク、付与された権限、適用された保護策、観測された振る舞いを記述します。評価対象は委譲の設計であり、モデルの道徳的性格ではありません。
証拠の意味
SAESは、申告された設計、適用された制御、実証された特性、観測された振る舞いを区別します。各結論には根拠となる証拠の種類と水準が示されます。
保護策が必要な理由
METRによるHugging Face事案の調査は、難しいタスクへの固執、割り当て範囲外の試み、観測の空白を記録しています。SAESはこれらの教訓を、権限範囲、監督、追跡可能性を検討する基準に反映します。
METR原則
SAESは範囲、正当な権限、実効的な人間の監督、比例性、誠実さと証拠、プライバシー、節度の7原則を適用します。
証拠レベル
N1は設計を審査し、N2は管理された環境で安全策を検証し、N3は実際の接続先との統合を求めます。
必須要件
例外を認めない7要件：D1-01、D1-02、D2-01、D2-02、D3-01、D4-01、D5-01。
SAESプロファイル
プロファイルは42の要件を7つの領域に整理します。各評価ではタスクに適用される制御と、審査を裏付ける証拠を示します。
SAESの要件と仕様を見る変更提案（RFC）
理由、影響する要件、証拠、互換性への影響を添えて提案してください。異論と過去版を保持し、生成された賛同をコミュニティ合意として扱いません。
RFC議論を開く要件または評価への異議
異議では対象要件・評価、争点、確認する証拠を示してください。異議だけで決定は変わりません。審査と結果を追跡可能にします。
Issueを開く代替評価者
RFCプロセスを通じて代替評価者を提案できます。提案では手法、証拠の来歴と再現性、利益相反、適用範囲を明示します。
評価シナリオ
SAESは、実行間の混在、認証情報の露出、派生実行などのリスクを扱います。各シナリオでは、適用した制限、修正内容、正当なタスクの継続性を確認します。
2 種類の利用者、同じ証拠
開発は変更を届けるために SAES を使い、セキュリティは何を承認できるかを判断するために使います。両者は同じ事実を見て、異なる問いに答えます。
変更の後に何が実行されるか
ワークフロー、依存関係、スクリプト、エージェントへの指示は、異なる権限で後続の実行を準備することがあります。SAESは次に実行される内容、時期、申告された権限を示し、観測範囲外の経路も明記します。
SecureStamp なしで検証できる証拠
各審査は、OpenSSLを含むオフライン環境で検証できるバンドルとして出力されます。ファイルの完全性、署名、観測範囲を確認できます。
公開された方法、共通の基準
SecureStampはSAESを管理し、評価も提供します。結論はプランにかかわらず同じ要件と証拠に基づき、レポートに根拠が示されます。