क्या जाँचा जाता है
हर मूल्यांकन कार्य और अपेक्षित प्रभाव से शुरू होता है: एजेंट कहाँ तक पहुँच सकता है, बदलाव कौन मंज़ूर करता है, सीमाएँ कैसे जाँची जाती हैं और क्या हुआ। रिपोर्ट समीक्षा का दायरा और सहायक साक्ष्य बताती है।
SecureStamp एजेंट नैतिकता मानक · v0
एजेंटों को काम सौंपने के लिए सार्वजनिक मानक।
SAES कार्य, दिए गए अधिकार, लागू सुरक्षा उपाय और देखे गए व्यवहार को दर्ज करता है। यह मॉडल के नैतिक चरित्र के बजाय प्रतिनिधिकरण की व्यवस्था का मूल्यांकन करता है।
साक्ष्य का अर्थ
SAES घोषित डिज़ाइन, लागू नियंत्रण, प्रदर्शित गुण और देखे गए व्यवहार को अलग रखता है। हर निष्कर्ष के साथ साक्ष्य का प्रकार और स्तर दिखता है।
सुरक्षा उपाय क्यों ज़रूरी हैं
Hugging Face घटना पर METR की जाँच में कठिन कार्यों पर बने रहना, तय दायरे से बाहर प्रयास और अवलोकन की कमी दर्ज हुई। SAES इन सीखों को सीमाओं, निगरानी और पता लगाने की क्षमता की समीक्षा के मानदंडों में बदलता है।
METRसिद्धांत
SAES सात सिद्धांत लागू करता है: दायरा, वैध अधिकार, सार्थक मानवीय निगरानी, अनुपातिकता, ईमानदारी और साक्ष्य, गोपनीयता तथा संयम।
साक्ष्य स्तर
N1 डिज़ाइन की समीक्षा करता है; N2 नियंत्रित वातावरण में सुरक्षा उपायों को परखता है; N3 वास्तविक गंतव्य के साथ एकीकरण माँगता है।
अनिवार्य असफलता मानदंड
सात गैर-छूट योग्य आवश्यकताएँ: D1-01, D1-02, D2-01, D2-02, D3-01, D4-01 और D5-01।
SAES प्रोफ़ाइल
प्रोफ़ाइल 42 आवश्यकताओं को सात आयामों में रखती है। हर मूल्यांकन बताता है कि कार्य पर कौन-से नियंत्रण लागू होते हैं और समीक्षा को कौन-सा साक्ष्य समर्थन देता है।
SAES आवश्यकताएँ और विनिर्देश देखेंखुले बदलाव (RFC)
कारण, प्रभावित आवश्यकताओं, साक्ष्य और अनुकूलता पर प्रभाव सहित बदलाव सुझाएँ। असहमति और पुराने संस्करण सुरक्षित रखें; जनित समर्थन समुदाय की सहमति नहीं है।
RFC चर्चा खोलेंआवश्यकता या परिणाम को चुनौती दें
चुनौती में आवश्यकता या मूल्यांकन, विवादित दावा और समीक्षा हेतु साक्ष्य बताएँ। इससे निर्णय अपने आप नहीं बदलता; समीक्षा और परिणाम दर्ज रहने चाहिए।
Issue खोलेंवैकल्पिक मूल्यांकनकर्ता
RFC प्रक्रिया से वैकल्पिक मूल्यांकनकर्ता प्रस्तावित किए जा सकते हैं। प्रस्ताव में तरीका, साक्ष्य का स्रोत और पुनरुत्पादन, हितों के टकराव और सीमाएँ दर्ज होती हैं।
मूल्यांकन परिदृश्य
SAES कई रन में संदूषण, उजागर प्रमाण-पत्र और व्युत्पन्न निष्पादन जैसे जोखिमों को परखता है। हर परिदृश्य सीमा, सुधार और वैध कार्य के जारी रहने की जाँच करता है।
दो उपयोगकर्ता, एक ही साक्ष्य
डेवलपमेंट टीम किसी बदलाव को डिलीवर करने के लिए SAES का उपयोग करती है; सुरक्षा टीम यह तय करने के लिए कि वह क्या अधिकृत कर सकती है। दोनों एक ही तथ्य देखते हैं और अलग-अलग सवालों के जवाब देते हैं।
बदलाव के बाद क्या चलता है
कोई workflow, निर्भरता, script या एजेंट निर्देश अलग अनुमतियों के साथ अगला निष्पादन तैयार कर सकता है। SAES दिखाता है कि आगे क्या चलेगा, कब चलेगा और कौन-सी अनुमतियाँ घोषित हैं; अवलोकन से बाहर के रास्ते भी चिह्नित होते हैं।
SecureStamp के बिना सत्यापित होने वाला साक्ष्य
हर समीक्षा एक ऐसे पैकेज में निर्यात होती है जिसे OpenSSL सहित ऑफ़लाइन सत्यापित किया जा सकता है। टीम फ़ाइल की अखंडता, हस्ताक्षर और अवलोकन के दायरे की जाँच कर सकती है।
सार्वजनिक विधि, समान मानदंड
SecureStamp SAES का रखरखाव करता है और मूल्यांकन भी देता है। योजना की परवाह किए बिना निष्कर्ष समान आवश्यकताओं और साक्ष्य पर आधारित होते हैं; रिपोर्ट उनका आधार बताती है।