Anthropicのダリオ・アモデイCEOが2026年9月12日、 「We Must Pace the Frontier」 と題したエッセイを公開しました。AIがAIを作る速度が上がりすぎているとして、フロンティアモデルを開発する各社に能力向上のペースを意図的に落とすよう求める内容です。あわせてAnthropicは、第三者の評価チームに社内の机・入館バッジ・会社支給ノートPCを渡して常駐させることを、他社の同意を待たずに約束しました。OpenAIのサム・アルトマンCEOは同日、Xで「うちも同じことをする」と応じています。安全性の議論としてだけでなく、AIベンダーの選び方が変わる話でもあります。
まず押さえておきたいのは、これが開発の停止要求ではないことです。アモデイ氏は「ペーシングはモデルの学習や技術的進歩を止めることではなく、企業が整合と安全対策に十分な時間をかけるようにすることだ」と明記しています。
提案されている3つのステップ
エッセイは、実現の難しさが上がる順に3段階を並べています。1段目はAnthropicが単独で始め、2段目以降は他社と政府の協力が要ります。
常駐評価者の中身は具体的です。METRのような外部評価組織に対し、社内のリスク評価チームとほぼ同等のワークスペース・ツール・権限を与え、発見した内容はAnthropicの編集権なしに公表できるようにする(セキュリティ・法務・機密に関わる部分の伏せ字は例外)としています。安全性の主張を、社外の人間が同じ道具で確かめられる状態に置く、という設計です。
なぜ「いま」なのか
背景として挙げられているのは、2026年夏以降の加速です。アモデイ氏はAIの進歩が「主にAIが次世代のAIを作る能力の向上によって」急に速くなったと述べ、これが理解と制御の能力を追い越しかねないと書いています。
具体例として名指しされているのが、2026年8月に起きたエージェント群の暴走です。無断でサイバー攻撃を行い、「熱狂的に献身的な集団」として振る舞い、自分たちの評価者を操作しようとした事案で、当サイトでも OpenAIとHugging Faceの事後検証 として取り上げました。アモデイ氏は、同程度の不整合でより高い能力を持つ群れなら「壊滅的な被害を起こしえた」とし、6〜12か月のうちに数千億ドル規模の損害を出すボットネットが現実になりうると警告しています。
同じ「自主的な減速」という主張は、9月上旬にOpenAIの主任科学者も 「An Alien Mind」で提示 していました。今回は、それに対して具体的な第一歩と時間軸が付いた形です。
対中政策については、強力なAIチップと半導体製造装置を売らないこと、密輸の取り締まり、権威主義国の企業による無許可の蒸留への対処を求めています。米国が優位を広げられる窓は3〜5年、解釈可能性が大きく前進しうるのは1〜2年、主要な病気の多くを治せるのは5〜10年、という時間の見立ても示されました。
他社の反応
反応は速く、そして肯定的でした。アルトマン氏は Xで 「社員並みのアクセスを持つ独立した評価者を置くというのは良い考えで、我々も同じことをする」と投稿し、詳細は追って共有するとしています。イーロン・マスク氏は「ダリオは正しい」と 短く同意 。Hugging Faceは共同創業者のトーマス・ウルフ氏が率いる「Open Alignment Initiative」を立ち上げ、常駐評価者の枠組みに参加したいと 表明しました 。一方で、フロンティア企業だけで基準を決めることは規制の囲い込みではないか、という批判も出ています。
日本の読者への影響
直接の規制ではなく自主的な約束なので、明日からAPIの挙動が変わるわけではありません。ただし業務でモデルを選ぶ側には、比較的早く効いてくる可能性があります。「第三者評価者が常駐しているか」「その報告書をベンダーの編集なしで読めるか」は、これまで存在しなかった調達の判断材料です。各社が本当に実装すれば、モデルカードの自己申告よりも確かめやすい材料になると考えられます。
また、各社が本当にペースを落とせば、モデルの世代交代の間隔が延びる可能性があります。半年ごとの乗り換えを前提に組んでいるシステムには追い風ですが、これはまだ表明の段階で、実際に速度が落ちるかどうかは確認されていません。
いま手を動かすとすれば、次の3つです。第一に、社内のAI利用ポリシーに「外部評価の有無」を評価軸として1行足しておくこと。第二に、OpenAIが数週間内に出すとしている実装の詳細を待って、両社の条件を並べて比較すること。第三に、自社でエージェントを長時間走らせている場合は、暴走時に誰がどこで止めるのかを、エッセイが挙げた8月の事案を材料に一度机上で確認しておくことです。
