Anthropic gewährt gemeinnütziger METR Zugang auf Mitarbeiterebene für KI-Sicherheitsaufsicht
Das Unternehmen für künstliche Intelligenz Anthropic (NASDAQ:ANTHROPIC) hat seine Sicherheitsbewertungen durch Dritte erweitert, indem es METR, einer gemeinnützigen Organisation, die Spitzen-KI-Modelle bewertet, Zugang auf Mitarbeiterebene gewährt hat. Im Rahmen der Vereinbarung hat Anthropic sechs METR-Mitarbeiter eingearbeitet und ihnen interne Werkzeuge, Systeme, Unternehmens-Hardware und dedizierte Büroräume zur Verfügung gestellt, um tiefgehende Sicherheitsbewertungen durchzuführen.
Die Initiative ermöglicht es externen Prüfern, technische Details zu überprüfen, die aufgrund kommerzieller Sensibilität oder Sicherheitsrisiken nicht öffentlich gemacht werden können, wie etwa Trainingsverfahren und Rechenressourcen. METR wird unabhängig Berichte über Risikostufen, Vorfälle und Praktiken veröffentlichen. Anthropic kann die Veröffentlichung nicht mit einem Veto belegen, behält sich jedoch begrenzte Schwärzungsrechte für geschützte Kategorien vor, und es steht METR frei, öffentlich zu hinterfragen, ob diese Schwärzungen gerechtfertigt waren.
Anthropic arbeitet außerdem an Evaluierungsbemühungen mit SecureBio und Accenture Plc Class A (NYSE:ACN), deren Aktien heute um 4,88 % auf $225,40 stiegen. Darüber hinaus führt Anthropic Gespräche über eine mögliche Evaluierungskooperation mit Hugging Face.
Das Wichtigste
- Anthropic gewährte sechs Mitarbeitern des gemeinnützigen Prüfers METR vollständigen Zugang zu internen Systemen, Hardware und Büroräumen.
- METR wird Risiko- und Sicherheitsbewertungen veröffentlichen, ohne dass Anthropic ein Vetorecht hinsichtlich der Ergebnisse hat.
- Anthropic kann begrenzte Schwärzungen für sensible Trainings- und Rechendaten verlangen, die METR öffentlich bewerten kann.
- Anthropic arbeitet auch mit Accenture und SecureBio zusammen und führt Gespräche über Evaluierungsbemühungen mit Hugging Face.
Von unserer KI aus unserem englischen Artikel übersetzt, der auf Marktquellen von Experten im Web beruht. Fehler sind möglich: Prüfe die Fakten, bevor du handelst. Zusammenfassungen mit der kostenlosen KI-API von FreeTheAI.org
Wie wir schreibenHaftungsausschlussFragen und Antworten
Welchen Zugang hat Anthropic METR für KI-Sicherheitsbewertungen gewährt?
Anthropic hat sechs METR-Mitarbeiter mit Unternehmens-Hardware, Büroräumen und Zugang zu internen Werkzeugen und Systemen zur Modellbewertung aufgenommen.
Kann Anthropic die Veröffentlichung von METR-Sicherheitsberichten mit einem Veto belegen?
Anthropic kann die Veröffentlichung nicht mit einem Veto belegen, kann aber begrenzte Schwärzungen für sensible Informationen verlangen, die METR öffentlich kritisieren kann.
Welche anderen Organisationen arbeiten mit Anthropic im Bereich Sicherheit zusammen?
Anthropic arbeitet mit SecureBio und Accenture Plc Class A zusammen und führt Gespräche mit Hugging Face über Sicherheitsbemühungen.