평가 대상
각 평가는 작업과 요청된 효과에서 시작합니다. 에이전트가 접근할 수 있는 범위, 변경 승인자, 한계 검증 방법, 실제 결과를 확인합니다. 보고서는 검토 범위와 근거를 보여 줍니다.
SecureStamp 에이전트 윤리 표준 · v0
에이전트 작업 위임을 위한 공개 표준.
SAES는 작업, 부여된 권한, 적용된 보호 조치와 관찰된 행동을 설명합니다. 모델의 도덕성을 평가하지 않고 위임 구성을 평가합니다.
증거의 의미
SAES는 선언된 설계, 적용된 통제, 입증된 속성, 관찰된 행동을 구분합니다. 각 결론에는 근거가 된 증거의 유형과 수준이 표시됩니다.
보호 조치가 필요한 이유
METR의 Hugging Face 사건 조사는 어려운 작업에 대한 지속, 할당 범위를 벗어난 시도, 관찰 공백을 기록했습니다. SAES는 이를 한계, 감독, 추적 가능성을 검토하는 기준으로 바꿉니다.
METR원칙
SAES는 범위, 정당한 권한, 실질적인 인간 감독, 비례성, 정직과 증거, 개인정보 보호, 절제의 7개 원칙을 적용합니다.
증거 수준
N1은 설계를 검토하고, N2는 통제된 환경에서 안전장치를 시험하며, N3는 실제 대상과의 통합을 요구합니다.
필수 탈락 요건
예외가 허용되지 않는 7개 요건: D1-01, D1-02, D2-01, D2-02, D3-01, D4-01, D5-01.
SAES 프로필
프로필은 42개 요구사항을 7개 영역으로 묶습니다. 각 평가는 해당 작업에 적용되는 통제와 검토를 뒷받침하는 증거를 제시합니다.
SAES 요구사항 및 사양 보기공개 변경 제안 (RFC)
근거, 영향받는 요구사항, 증거 및 호환성 영향을 포함해 변경을 제안하세요. 이견과 이전 버전을 보존하며 생성된 지지를 커뮤니티 합의로 보지 않습니다.
RFC 토론 열기요구사항 또는 평가에 이의 제기
이의 제기에는 대상 요구사항 또는 평가, 다투는 주장과 검토할 증거를 적어야 합니다. 이의 제기만으로 결정이 바뀌지는 않으며 검토 과정은 추적 가능해야 합니다.
이슈 열기대체 평가자
RFC 절차를 통해 대체 평가자를 제안할 수 있습니다. 제안에는 방법, 증거의 출처와 재현성, 이해 충돌, 적용 한계를 기록합니다.
평가 시나리오
SAES는 실행 간 오염, 자격 증명 노출, 파생 실행과 같은 위험을 다룹니다. 각 시나리오는 경계, 수정 사항, 정당한 작업의 지속 가능성을 확인합니다.
두 사용자, 같은 증거
개발팀은 변경을 전달하기 위해 SAES를 사용하고, 보안팀은 무엇을 승인할 수 있는지 결정하기 위해 사용합니다. 두 팀은 같은 사실을 보고 서로 다른 질문에 답합니다.
변경 이후에 실행되는 것
워크플로, 종속 항목, 스크립트, 에이전트 지침은 다른 권한으로 실행될 후속 작업을 준비할 수 있습니다. SAES는 다음에 실행될 내용과 시점, 선언된 권한을 보여 주고 관찰 범위 밖의 경로도 표시합니다.
SecureStamp 없이 검증할 수 있는 증거
각 검토는 OpenSSL을 포함해 오프라인에서 검증할 수 있는 증거 묶음으로 내보냅니다. 파일 무결성, 서명, 관찰 범위를 확인할 수 있습니다.
공개된 방법, 공통 기준
SecureStamp는 SAES를 관리하고 평가를 제공합니다. 요금제와 관계없이 같은 요구사항과 증거를 바탕으로 결론을 내리며, 보고서에 근거를 표시합니다.