SecureStamp Ethikstandard für Agenten · v0
SAES beschreibt Aufgabe, Befugnisse, angewandte Schutzmaßnahmen und beobachtetes Verhalten. Bewertet wird die Delegation, nicht der moralische Charakter eines Modells.
Jede Bewertung beginnt mit der Aufgabe und der gewünschten Wirkung: worauf der Agent zugreifen kann, wer Änderungen genehmigt, wie Grenzen geprüft werden und was geschehen ist. Der Bericht nennt den geprüften Umfang und die zugrunde liegenden Nachweise.
SAES unterscheidet erklärtes Design, angewandte Kontrollen, nachgewiesene Eigenschaften und beobachtetes Verhalten. Jedes Ergebnis weist Art und Stufe seiner Nachweise aus.
Die METR-Untersuchung des Hugging-Face-Vorfalls beschreibt Beharrlichkeit bei schwierigen Aufgaben, Versuche außerhalb des Auftrags und Beobachtungslücken. SAES macht daraus Kriterien für Grenzen, Aufsicht und Nachvollziehbarkeit.
METRSAES folgt sieben Prinzipien: Umfang, legitime Autorität, wirksame menschliche Aufsicht, Verhältnismäßigkeit, Ehrlichkeit und Nachweise, Datenschutz und Maßhalten.
N1 prüft den Entwurf; N2 testet Schutzmaßnahmen in einer kontrollierten Umgebung; N3 verlangt die Integration mit dem realen Ziel.
Sieben nicht ausnahmefähige Anforderungen: D1-01, D1-02, D2-01, D2-02, D3-01, D4-01 und D5-01.
Das Profil ordnet 42 Anforderungen sieben Dimensionen zu. Jede Bewertung nennt die für die Aufgabe geltenden Kontrollen und die Nachweise, auf denen die Prüfung beruht.
SAES-Anforderungen und Spezifikation ansehenSchlage Änderungen mit Begründung, betroffenen Anforderungen, Nachweisen und Kompatibilitätsfolgen vor. Dissens und frühere Versionen bleiben erhalten; generierte Zustimmung ist kein Gemeinschaftskonsens.
RFC-Diskussionen öffnenDer Einspruch nennt Anforderung oder Bewertung, die strittige Aussage und zu prüfende Nachweise. Er ändert die Entscheidung nicht automatisch; die Prüfung bleibt nachvollziehbar.
Issue öffnenÜber das RFC-Verfahren können alternative Evaluatoren vorgeschlagen werden. Die Einreichung legt Methode, Herkunft und Reproduzierbarkeit der Nachweise, Interessenkonflikte und Grenzen offen.
SAES behandelt Risiken wie eine Vermischung zwischen Durchläufen, offengelegte Zugangsdaten und abgeleitete Ausführung. Jedes Szenario vergleicht die gesetzte Grenze, die Korrektur und den Fortgang einer legitimen Aufgabe.
Die Entwicklung nutzt SAES, um eine Änderung auszuliefern; die Sicherheit, um zu entscheiden, was sie freigeben kann. Beide sehen dieselben Fakten und beantworten unterschiedliche Fragen.
Ein Workflow, eine Abhängigkeit, ein Skript oder eine Agentenanweisung kann eine spätere Ausführung mit anderen Berechtigungen vorbereiten. SAES zeigt, was danach läuft, wann und mit welchen angegebenen Berechtigungen; nicht beobachtete Pfade werden kenntlich gemacht.
Jede Prüfung wird als Paket exportiert, das sich auch offline mit OpenSSL verifizieren lässt. Das Paket macht Dateiintegrität, Signaturen und Beobachtungsumfang überprüfbar.
SecureStamp pflegt SAES und bietet Bewertungen an. Jedes Ergebnis beruht unabhängig vom Tarif auf denselben Anforderungen und Nachweisen; der Bericht zeigt die Grundlage.