Anthropicが外部の評価団体に社員並みの社内アクセスを提供｜AIの安全対策を点検した結果を、Anthropicの承認なしに公表できる仕組み

2026年10月23日

Anthropicが10月15日、外部の評価団体に社員並みの社内アクセスを与えたと発表した

AI企業のAnthropicは2026年10月15日、AIの危険性を調べる非営利の研究団体METRのチームに、社員と同じようなアクセス権を与え始めたと発表しました。METRの6人がAnthropicの社内に席を持ち、社員と同じ道具で安全対策を調べ、その結果をMETR自身が公表します。

AnthropicはAIアシスタント「Claude」を開発する会社です。同社はこれまでも、自社のAI（この記事では以後「モデル」と呼びます）の危険性を自己評価した「リスク報告書」を公開し、METRなど外部の団体にその一部を点検してもらってきました。ただ、何を見せ、何を公表するかを決める権限は、Anthropic側にありました。今回の仕組みでは、外部の団体が社内から確かめた内容を、Anthropicの承認なしに公表できます。

この記事では、METRの6人が何をどこまで見られるのか、公表の仕組みがどう決まっているのか、ほかの評価団体との関係はどうなっているのかを、発表文と関連資料から整理します。あわせて、評価団体の独立性をめぐる指摘と、読者が自分で確かめられる公開資料も紹介します。

4つの要点

外部の団体がAI企業の中から安全対策を点検し、結果をAnthropicの承認なしに公表できる仕組みが始まった

社内に入る人数

6人

METRの職員が、会社の端末と席、社内ツールを受け取る。見られる情報の範囲は、Anthropicのリスク評価チームとほぼ同じ。

METRの公表

承認なしで公表できる

Anthropicが削除を求めることができるのは、あらかじめ決めた種類の情報だけ。

評価団体の段階

3段階

見られる情報と公表の自由で分かれる。最上位はいまのところMETRだけ。

すでに読める外部レビュー

10月20日に公開

METRが、8月のリスク報告書の一章を旧条件（Anthropicが公表の拒否権を持つ）で点検した結果を公表した。

METRの6人は、Anthropicの社員と同じ道具で同社の安全対策を調べる

発表によると、METRの6人は、Anthropicから会社の端末、オフィスの席、社内のツールやシステムを受け取ります。その範囲は、Anthropic社内でリスク評価を担当するチームとほぼ同じ水準です。社員は、AIが意図どおりに振る舞うかのリスクを担当する同僚に話すのと同じように、6人へ情報を共有するよう促されています。

共有の対象から外れるのは、あらかじめ決められた少数の種類の情報です。発表文は例として3種類を挙げています。顧客に関するデータ、弁護士とのやり取りなど法律上秘密にできる情報、そしてモデルの構造（どのような設計で作られているか）に関する情報です。Anthropicは脚注で、構造の情報は外へ漏れたときの影響が大きい一方、危険性の評価に必要になる場面は少ないと説明しています。評価に強く関係する場合は、社内の承認を経て共有する方針です。

6人のチームは、法的に拘束力のある契約の下で動きます。METRのほかの職員は、Anthropicに関わる別の業務を担当している人も含めて、このチームの情報から遮断されます。Anthropicは、社内に入る評価の仕組みを通じて、METR以外の組織がAnthropicや顧客、提携先の情報を得る手段にはならない、と書いています。

METRはAnthropicの承認なしに公表でき、Anthropicが削除を求めることができる情報はあらかじめ決まっている

METRは、Anthropicのモデルがもたらす危険性の水準、実際に起きた問題、安全対策の運用について、自分たちの分析を公表します。Anthropicはこの公表を拒否できません。できるのは、あらかじめ決められた種類の情報（機密の知的財産をそのまま載せる、など）について、削除を求めることだけです。

どの部分がその種類に当たるかは、Anthropicが判断します。その代わり、METRは自分たちが受けたアクセスの程度と得た情報について、一定の範囲で述べることができます。あとで説明する段階2以上の評価団体は、削除が妥当だったかについての意見も公表できます。この形は、Anthropicの最高経営責任者Dario Amodei氏が9月に公開したエッセイで提案した内容に沿ったものです。

この仕組みの意味は、10月20日にMETRが公開した最新のレビューと比べると分かりやすくなります。このレビューは、Anthropicの8月のリスク報告書のうち、AIが意図から外れて振る舞う危険性を扱う章を対象にしたもので、今回の発表より前の条件で進められました。METRによると、当時はAnthropicが、公表を拒否する権利と、METRのレビュー本文から削除する部分を決める権限を持っていました。結果として、METRのレビュー本文への削除は0件で、結論も変わりませんでしたが、拒否権が会社側にある状態での公表でした。

同じレビューでMETRは、Anthropicが自分の報告書に施した黒塗りのうちMETRの評価に関係する5件を検討し、そのうち2件は十分に正当化されておらず、少なくとも一部は公開すべきだと書いています。AnthropicがAIの意図外の振る舞いによる危険性を「低い」と評価した結論には同意しつつ、その根拠の一部には同意していません。会社の自己評価と外部の見立ての違いが、公開された文書で読める状態になっています。

Anthropicと評価団体の関係は3段階に分かれ、最上位はいまのところMETRだけ

Anthropicは、外部の評価団体との関係を3つの段階に分けています。段階が上がるほど、見られる情報が増え、公表の自由も広がります。

SecureBioは、8月のリスク報告書のうち生物・化学分野の悪用リスクを扱う章をレビューしています。2月のリスク報告書では試験的なレビューを終えて公表しており、Anthropicは8月版のレビューが終わったあとにアクセスの拡大を検討するとしています。

Anthropicは、コンサルティング大手のAccentureとそのAI専門部門Facultyとも、モデルの評価、攻撃役としてモデルの弱点を探す試験（レッドチーム）、AIが意図どおりに振る舞うかの評価、安全策の試験、両組織の体制づくりを含む広い提携へ向けて作業中です。9月18日の発表では、AnthropicとAccentureがそれぞれ、今後5年間に少なくとも10億ドルを独立した評価の体制づくりに投じる見込みで、AnthropicがAccentureの作業に直接資金を出すと書かれています。AIモデルの共有基盤を運営するHugging Faceなど、ほかの団体とも初期の協議を進めています。

外に出せない情報があるので、Anthropicは評価者を社内に置く形を選んだ

Anthropicは、より強いモデルにはより強い安全策と、より厳しいリスク評価が必要で、安全策が十分かどうかの判断を社会に対して説明できる状態にしたい、と書いています。ただ、安全に関する情報のすべては公開できません。悪用を手助けしかねない情報や、計算資源（AIを動かすコンピューターの規模）や学習の方法など商業上の機密があるためです。

そこで、情報をそのまま公開する代わりに、外部の評価団体に社内の情報を直接見られるアクセス権を与え、その団体が証拠と結論を公表する形を選びました。Anthropicはこれを銀行監督にたとえています。銀行は自分のリスクを外部より詳しく知っているので、規制当局は大手銀行の中に常駐の検査官を置きます。Anthropic自身、このたとえは正確には一致しないと断っています。実際、銀行の検査官は法律に基づいて国が置くのに対し、今回の評価者はAnthropicが自分で選んで受け入れています。

評価団体に求める条件は4つです。

残る論点は、評価団体の独立性と報告の範囲

ここまでの仕組みは、Anthropicが自分で設計し、相手の団体も自分で選んだものです。この点について、サンフランシスコの報道サイトThe San Francisco Standardは10月17日の記事で、評価団体とAI企業のつながりの深さを指摘しています。METRは2023年末に、Google傘下のAI研究企業DeepMindとOpenAIで働いた経歴を持つBeth Barnes氏が設立した、米カリフォルニア州バークレーの団体で、職員にはAI企業の元社員がいます。

記事の中で、サンタクララ大学で技術倫理を担当するBrian Patrick Green氏は、監督がないよりはあるほうがよいとしたうえで、利害の衝突は金銭以外にも生まれると述べています。企業に友人がいる、将来そこで働きたい、逆に不満を持って辞めた、といった事情も判断を傾けるため、独立した資金を持つ複数の団体による監督委員会や、企業と評価団体の間の人の移動の制限を提案しています。同じ記事では、安全研究者たちが別の見方を示しています。Max Harms氏（Machine Intelligence Research Institute）は、つながりの深さはこの分野が小さく資金の出し手も少ないことの結果だと述べ、Jeffrey Ladish氏（Palisade Research）は、AI企業やバークレーのAI安全コミュニティと無関係の専門家を探すほうが難しいと述べています。Sydney Von Arx氏（Nightingale Collective）は、AI企業で働いた経歴があっても独立した判断はできると述べています。

資金の関係は団体ごとに違います。METRは自身のサイトで、この評価の仕事に対して報酬を受け取らないと明記しています（モデルへのアクセスと利用枠は企業から提供を受けています）。Anthropicの9月18日の発表も、METRなど非営利の評価団体とは、団体側の資金で試験的に進める方向で協議していると書いています。Accentureとの提携はAnthropicが資金を出す形です。Anthropic自身も9月18日の発表で、独立した評価に資金を出す仕組みはまだ定まっておらず、長期的には複数の出し手が共同で出す資金か政府の資金が望ましい、当面は評価者ごとに異なる資金の形で進める、と書いています。Accentureが4条件のそれぞれをどう満たすかは、9月18日と10月15日のどちらの発表にも書かれていません。

報告の範囲についても、決まっていない部分があります。Anthropicは9月18日の発表で、社内に入る評価者がどの情報を受け取り、どんな形で報告するかの基準はまだ存在しない、と書いていました。10月15日の発表で、見られる情報の範囲と共有の例外は示されましたが、報告の形式についての基準はこの発表にも含まれていません。10月20日のMETRのレビューも、AIの危険な振る舞いを検知する社内の監視の仕組みを攻撃役の立場で最初から最後まで試す試験や、学習中でまだ社内で使われていないモデルも評価の対象に含めることなど、評価の範囲を広げる提案を残しています。

読者がいま確認できる公開資料と、今後の見どころ

今回の発表で気になるのは、削除できる種類の情報に当たるかどうかを判断するのがAnthropic側だという点です。METRが、十分に正当化されていないと考えた削除について、そのとおりに意見を書き続けるかどうかが、この仕組みの信頼の土台になります。METRは10月20日のレビューで、Anthropic自身の報告書の黒塗り2件を十分に正当化されていないと書きました。新しい条件では、AnthropicがMETRのレビュー本文から削除を求めた部分についても同じように意見を書けるので、最初の報告でその姿勢が続くかを見ることになります。

今後の見どころは3つです。METRが新しい条件で最初の報告を出す時期と内容、最上位の段階に入る団体がMETR以外に増えるか、そしてSecureBioのアクセスが拡大されるかです。Anthropicは、最先端のモデルを開発するすべてのAI企業が同じように評価者を社内へ入れるべきだと書いています。TechCrunchの報道によると、ChatGPTを開発するOpenAIも外部の評価者を社内に入れる方針を表明しており、ほかの会社がどこまで同じ条件を用意するかも比べる材料になります。

参考資料

• Anthropic「An update on independent evaluators」（2026年10月15日、脚注の一部は10月15日と16日に更新）。6人へのアクセス、共有の例外、公表の仕組み、3段階の分け方、評価団体の4条件、銀行監督のたとえ。
• METR「Risk Assessment」（2026年10月22日閲覧）。METRの位置づけ、報酬を受け取らない方針、外部レビュー4件と攻撃役の演習1件の一覧。
• METR「Review of the "Misalignment in high-stakes settings" section in Anthropic's Risk Report (August 2026)」（2026年10月20日）。従来の条件での拒否権、レビュー本文への削除0件、報告書の黒塗りへの意見、推奨事項。
• Anthropic「Partnering with Accenture on embedded evaluation」（2026年9月18日）。提携の内容、投資額、資金の出し方、基準が未整備という記述。
• Dario Amodei「We must pace the frontier」（2026年9月）。社内に入る評価者の提案と、削除・公表の原則。
• TechCrunch「Anthropic is letting METR researchers look under the hood with employee-level access」（2026年10月15日）。発表の報道と、OpenAIの方針表明。
• The San Francisco Standard「AI's new watchdogs? They have deep ties to the companies they police」（2026年10月17日）。METRの成り立ち、独立性への指摘と反論。