Lewati ke konten utama
Kembali ke securestamp.org

Standar Etika Agen SecureStamp · v0

Standar terbuka untuk mendelegasikan pekerjaan kepada agen.

SAES menjelaskan tugas, kewenangan yang diberikan, perlindungan yang diterapkan, dan perilaku yang diamati. Yang dinilai adalah cara pendelegasian, bukan watak moral model.

Patung marmer seorang filsuf Yunani berdiri di antara pilar Doria, memegang gulungan naskah, saat senja. Ilustrasi buatan AI.

Yang dievaluasi

Setiap evaluasi dimulai dari tugas dan dampak yang diminta: apa yang dapat diakses agen, siapa yang mengizinkan perubahan, bagaimana batas diuji, dan apa yang terjadi. Laporan menjelaskan cakupan yang ditinjau dan bukti pendukungnya.

Arti bukti

SAES memisahkan desain yang dinyatakan, kontrol yang diterapkan, properti yang dibuktikan, dan perilaku yang diamati. Setiap kesimpulan menunjukkan jenis dan tingkat bukti yang mendasarinya.

Mengapa perlindungan diperlukan

Investigasi METR atas insiden Hugging Face mencatat kegigihan pada tugas sulit, upaya di luar cakupan, dan celah pengamatan. SAES mengubah pelajaran itu menjadi kriteria untuk meninjau batas, pengawasan, dan keterlacakan.

METR

Prinsip

SAES menerapkan tujuh prinsip: lingkup, kewenangan yang sah, pengawasan manusia yang bermakna, proporsionalitas, kejujuran dan bukti, privasi, serta pembatasan diri.

Tingkat bukti

N1 meninjau desain; N2 menguji pengamanan di lingkungan terkendali; N3 mensyaratkan integrasi dengan tujuan nyata.

Persyaratan knockout

Tujuh persyaratan tanpa pengecualian: D1-01, D1-02, D2-01, D2-02, D3-01, D4-01, dan D5-01.

Profil SAES

Profil mengelompokkan 42 persyaratan dalam tujuh dimensi. Setiap evaluasi menunjukkan kontrol yang berlaku untuk tugas dan bukti yang mendukung peninjauan.

Jelajahi persyaratan dan spesifikasi SAES

Usulan perubahan terbuka (RFC)

Ajukan perubahan beserta alasan, persyaratan terdampak, bukti, dan dampak kompatibilitas. Pertahankan perbedaan pendapat dan versi lama; dukungan yang dihasilkan mesin bukan konsensus komunitas.

Buka diskusi RFC

Gugat persyaratan atau hasil

Keberatan harus menyebut persyaratan atau evaluasi, klaim yang dipersoalkan, dan bukti yang perlu ditinjau. Keberatan tidak otomatis mengubah keputusan; proses dan hasilnya harus dapat ditelusuri.

Buka issue

Evaluator alternatif

Proses RFC menerima usulan evaluator alternatif. Usulan menjelaskan metode, asal dan reproduksibilitas bukti, konflik kepentingan, serta batasan.

Skenario evaluasi

SAES mencakup risiko seperti kontaminasi antarproses, kredensial yang terekspos, dan eksekusi turunan. Setiap skenario memeriksa batas, perbaikan, dan kelanjutan tugas yang sah.

Dua pengguna, bukti yang sama

Tim pengembangan memakai SAES untuk mengirim perubahan; tim keamanan, untuk memutuskan apa yang boleh diotorisasi. Keduanya melihat fakta yang sama dan menjawab pertanyaan yang berbeda.

Apa yang berjalan setelah perubahan

Workflow, dependensi, skrip, atau instruksi agen dapat menyiapkan eksekusi berikutnya dengan izin berbeda. SAES menunjukkan apa yang berjalan selanjutnya, kapan, dan dengan izin yang dideklarasikan; jalur di luar pengamatan juga ditandai.

Bukti yang dapat diverifikasi tanpa SecureStamp

Setiap peninjauan diekspor sebagai paket yang dapat diverifikasi secara offline, termasuk dengan OpenSSL. Paket ini membantu memeriksa integritas file, tanda tangan, dan cakupan pengamatan.

Metode publik, kriteria yang sama

SecureStamp memelihara SAES dan menyediakan evaluasi. Setiap hasil memakai persyaratan dan bukti yang sama di semua paket; laporan menunjukkan dasar kesimpulannya.

SAES v0 — standar etika agen untuk delegasi kerja | SecureStamp Foundation