Technology · 2026-10-19 · Morgenausgabe
Anthropic gewährt Sicherheitswächter „mitarbeiterähnlichen“ Zugang
Das Unternehmen für künstliche Intelligenz Anthropic hat einem externen Gutachter „mitarbeiterähnlichen Zugang“ zu seinen Modellen und Systemen gewährt, um katastrophale Risiken zu bewerten. Dieser Schritt erfüllt ein Versprechen von CEO Dario Amodei vom September, das von Konkurrenten bei OpenAI und SpaceX unterstützt wurde, Drittprüfer in führende KI-Labore einzubetten.
Die gemeinnützige Überwachungsorganisation METR hat nun ein Team in den Büros von Anthropic, das Zugang zu deren Hardware hat. Das Unternehmen arbeitet auch mit der Firma SecureBio zusammen, um Risiken biologischer Waffen zu überprüfen, und hat eine Partnerschaft mit Accenture, bei der sich beide dazu verpflichtet haben, mindestens 1 Milliarde Dollar für die Einrichtung neuer Sicherheitsvorkehrungen bereitzustellen. METR wird von philanthropischen Organisationen und Regierungsstellen, einschließlich des britischen AI Security Institute, finanziert.
Die Maßnahmen erfolgen, während Anthropic Berichten zufolge einen Börsengang mit einer Bewertung von über 2 Billionen Dollar vorbereitet und wesentliche Teile der jüngsten Investorenpräsentationen seinen Sicherheitspraktiken gewidmet hat. Das Unternehmen verglich die freiwillige Aufsicht damit, wie Dritte Banken prüfen, und argumentierte, dass jeder Entwickler von Frontier-KI dasselbe tun sollte.
Zusammenfassung von Cup of News mit KI aus den unten genannten Quellen. Den vollständigen Beitrag finden Sie im Original.
Quellen lesen
- Anthropic grants outside evaluator METR employee-level access in AI safety push
- Anthropic Grants METR Employee-Level Access for Independent Safety Evaluation
- Anthropic Onboards Six METR Evaluators With Employee-Like Access
- Anthropic grants METR employee-like access for safety evals
- Anthropic Gives AI Safety Evaluators Insider Access
Zehn Meldungen, zweimal am Tag. Ruhig, ohne Benachrichtigungen.
App holenWeitere Meldungen dieser Ausgabe
- Russische Raketenwellen töten eine Person, verletzen acht in Kiew
- Weit verbreitete Unruhen in Frankreich führen zu 2.000 Verhaftungen
- Vier Tote, 39 Verletzte bei Brand auf kanadischer Militärbasis
- WFP kürzt Gaza-Nahrungsmittelhilfe wegen 450-Millionen-Dollar-Defizit
- Proteste in Neu-Delhi halbieren Festtagsverkäufe um zwei Drittel
- JPMorgan bietet US-Dollar-Einlagen-Token auf Ethereum an
- Tokios Nikkei 225 reduziert Verluste nach technologiebedingtem Rückgang
- Indische Oppositionsführer bleiben in Haft, nachdem Richter sich für befangen erklärt
- Indische Chemieunternehmen kooperieren im Ausland, um in den Chipmarkt einzusteigen