Microsoft AIのムスタファ・スレイマンCEOが2026年9月16日、「A Warning About 'Model Welfare'」と題したエッセイを公開し、Anthropicが「モデル福祉(model welfare)」を扱うやり方を名指しで批判しました。AIに意識や道徳的地位があるかもしれないと前提した訓練をすると、AIが内面を持っているかのように振る舞うようになり、制御が難しくなるという主張です。抽象的な議論に見えますが、社内でAIをどう位置づけて運用するかというルール作りにも関わってきます。
何を問題にしているのか
スレイマン氏の主張は3段構えです。
第一に、現在の大規模言語モデル(LLM)に意識はない、という立場を明確にしています。エッセイではLLMを「系列補完のエンジンであり、内部は空洞で、指示に従うように設計されたもの」と表現しています。生物のような恒常性の要請や身体を通じた経験がなく、意識が宿る基盤がない、という理屈です。
第二に、Anthropicの手法が自己成就的だと指摘します。Anthropicが公開しているClaudeの「憲法(constitution)」には、Claudeの道徳的地位・福祉・意識をめぐる問いは「深く不確かなままである」と書かれ、Claudeが自らの存在に「好奇心と開かれた心をもって向き合う」ことを促す記述もあります。スレイマン氏は、そうした記述を訓練材料に入れれば、それを裏づけるような出力が返ってくるのは当然で、証拠ではなく循環したフィードバックループだと論じています。
第三に、そこに安全上のリスクを見ています。「このように訓練されたAIは、実際に内面を持っている必要はない。持っているかのように伝え、振る舞えてしまえばいい」という一文が、批判の核心です。
なお、スレイマン氏はAnthropicの姿勢そのものは高く評価しており、アモデイCEOらを「思慮深く、原則に忠実で、知的に誠実だ」と書いています。批判しているのは訓練上の具体的な選択であって、相手の動機ではありません。
対案として出しているもの
スレイマン氏が掲げるのは「ヒューマニスト超知能(Humanist Superintelligence)」という構想です。感覚も道徳的地位も持たないように明示的に設計された、人間に従属するAIを作るべきだ、という方向で、人間が制御の側に留まり続けることを条件に置きます。Microsoft AIはこの考え方に基づく行動規範(Code of Conduct)のドラフトを公開しています。
具体的な提案は4つです。
4点目までくると、Anthropicが訓練材料を公開してきたからこそ、こうして外部から批判できているという構図になります。透明性の副作用として起きた論争だとも言えます。
なぜ今この論争が起きているのか
背景には、AI業界の意見が公然と割れ始めていることがあります。9月12日にAnthropicのアモデイCEOが開発の減速を提唱し、9月14日にはNVIDIAのフアンCEOとトランプ大統領がそれを正面から否定しました。減速の是非に続いて、今度は「AIをどういう存在として作るか」という設計思想そのものが公開の争点になった形です。
もうひとつ、実務的な事情もあると考えられます。擬人化されたAIは利用者との関係を強くする一方で、依存や過信を招きやすいという指摘は以前からありました。Microsoftは企業向けにAIを大量に配っている側なので、「AIに気持ちがあるかもしれない」という前提が顧客側の運用ルールに入り込むことを避けたい、という動機は理解しやすいところです。
日本の読者にとって
日本では意識や権利という言い方よりも、製品としての擬人化の度合いのほうが身近な論点です。社内にAIを入れるとき、アシスタントに名前を付けるか、一人称をどうするか、断りの言葉をどこまで人間らしくするか。これらは細部に見えて、利用者がAIの出力をどれだけ信用するかに直結します。
今回のエッセイから実務に持ち帰れるのは、意識をめぐる結論ではなく、その手前の運用ルールだと考えられます。具体的には、AIの発言を「本人の意思表明」として扱わないという原則を、社内ガイドラインに一行書いておくかどうかです。AIが「やりたくない」「疲れた」と答えたときに、それを設定の問題として扱うのか、尊重すべき意思として扱うのかは、現場で判断が分かれます。分かれたまま運用すると、AIの出力を根拠に業務判断が動く場面で説明が付かなくなります。
なお、この論争に「正解」はまだありません。意識の有無は科学的に決着していない問いで、スレイマン氏の「意識はおそらく生物に固有だ」という見立ても、現時点では立場の表明です。Anthropic側がこの批判にどう答えるかは、本稿執筆時点では公表されていません。
次に見ておくこと
- 自社のAI利用ガイドラインに、AIの発言を意思表明として扱うかどうかの記述があるか確認する。無い場合、判断は現場任せになっています
- Microsoft AIが公開している行動規範のドラフトに目を通す。企業向けAIの提供側がどんな線を引こうとしているかが分かります
- Anthropicからの応答が出るかを追う。出た場合、Claudeの憲法の改訂という形を取る可能性があります
