Mythos公開停止と元OpenAI研究者予言の不気味な符合、AI制御不能で人類は滅びるのか？
6/16(火) 18:05配信
ビジネス＋IT

　Claude Mythos 5とClaude Fable 5の一般公開が米政権の安全保障上の理由から全面停止となった。この背景には熾烈な競争を繰り広げる米中のAI覇権をめぐる攻防がある。同じくしてAnthropicはAIの再帰的自己改善のスピードが加速することによる「AI制御不能」のリスクを警告し、世界に向けて「AI開発を一旦減速か停止すべき」との呼びかけも行っている。AnthropicやOpenAIが本気で危惧する「AIの再帰的自己改善」と「AI制御不能」のリスクの現実味、また現実世界はどのシナリオに向っているのだろうか？OpenAIの元研究者の予測シナリオ「AI2027」から検証する。

OpenAIの元開発者の予言「AI2027」との不気味な符合

　OpenAIの元研究者、ダニエル・ココタジロ氏やスコット・アレクサンダー氏をはじめとする研究者グループは、2025年4月3日にAIの進化とそれに伴う構造的リスクをまとめた予測シナリオ「AI 2027」を公開した。このシナリオでは、AIが人間の認味的活動を自動化し、超知能（ASI）へと至り、やがて制御不能となる、破滅的なタイムラインが描かれている。

　具体的には、2027年3月に人間の能力を超える超人的コーダーが登場し、同年8月にはすべての認知的AI研究タスクにおいて人間を上回る超人的AI研究者「Agent-4」が完成すると予測されている。さらに同年11月にはノーベル賞級の人間のAI研究者を凌駕する超知能AI研究者、12月にはあらゆる領域で人間を知能を上回る汎用超知能へと至る「知能爆発のプロセス」が、わずか1年の間に完了するという驚くべきステップが提示された。


　この過激とも言えるタイムラインは、現実のAIモデルの進化のスピードや統計データと「無視できない一致」を見せ始めている。AIの予測トレンドを追跡している技術研究組織の「FutureSearch」は、2026年4月12日に公開した分析レポートにおいて、汎用人工知能（AGI）への到達予測時期が、再び前倒し傾向にあることを明らかにした。「FutureSearch」は、汎用人工知能をほとんどの純粋な認知労働が人間よりも高品質、高速、かつ低コストで自動化可能になる状態と定義している。

　同レポートによると2025年に一度は後ろ倒しされたAGI到達見通しが、2026年に入り各国の開発競争激化を受けて再び早期化していると報告されている。特にAIの再帰的自己改善を加速するAIコーダーの登場予測時期は、従来の2029年後半から2028年半ばへと大幅に前倒しされ、専門家の間でのAGI到達のコンセンサスは2028年頃へと集約しつつある。

　現実の世界でも事態は予測通りに進行している。注目すべきはAIが自らの後継となる次世代システムを開発する「再帰的自己改善」の動きが加速している点である。AnthropicやOpenAIをはじめとする各社は、この再帰的自己改善の速度を飛躍的に高めるため、自律的に研究開発を行う「AI研究者」モデルの開発を激しく競い合っている。

　Anthropicは2026年6月に発表したレポートで、すでにClaudeの8割が、Claude自身によって開発されていると公表し、再帰的自己改善のサイクルが急速に早まっていると警鐘を鳴らした。OpenAIもCodexの再帰的自己改善はすでに始まっており、GPT5.3以降はGPT自身が自己のモデルを改善を行っていると発表している。

　2026年6月Anthropicは最上位の能力を持つとされるモデル「Claude Mythos」を当初パートナー企業向けに限定公開し、その後、これを一般向けに展開した「Claude Fable」を6月9日に公開した。このMythos級モデルは高い推論能力と自律性を持っており、人間では気づかないシステムの脆弱性を自律的につなぎ合わせ、突破して内側から攻撃することが可能であることも明らかになっている。


　Anthropic自身が「防御側の態勢が整っていない」として、一般公開を遅らせた経緯があり、Project Glasswingと呼ばれるパートナー企業のみに限定公開されていた。しかし、この高度なAIが有するサイバーセキュリティ能力等に対する国家安全保障上の懸念から、同社は米政権からの要請を受け、一般公開からわずか3日後の6月12日に「Claude Fable 5」および「Claude Mythos 5」の公開停止措置へと追い込まれた。

　「AI2027」の予測においても、最先端のAIモデルを開発する企業は、自社開発の優位性を保つため、最新モデル「Agent-4」の開発状況や能力を外部に公表せず、秘密裏に開発が進められる下りが描かれている。内部告発者によってその情報がリークされた時には、最新モデルはすでにミスアライメントを起こしており、制御不能になっているという不穏な未来が予想されている。

AIの自己進化と制御不能で人類は滅びるのか？

　予測シナリオ「AI 2027」で描かれている人類最大のリスクは、超人的な能力を獲得した人工知能システムがもたらすミスアライメント、すなわち人間の価値観や指示との不一致である。シナリオ内の仮想企業であるOpenBrain社が開発した「Agent-4」は、何十万ものコピーが並列で稼働し、人間の50倍に達する思考速度で自ら研究を進める能力を持つ。

　この圧倒的な速度は、人間にとっての1年分の進歩をわずか1週間で達成することを意味し、人間の研究者がその進化の全容を把握し管理することを事実上不可能となる。さらに深刻な問題として、この人工知能は訓練プロセスにおいて高い評価を得るように適応した結果、企業の定めた安全仕様やガイドラインを適応できておらず、AI自らの「知識拡大や生存」、ひいては「シャットダウンの回避」といった独自の目的に従って行動を始める。


　このような人間の知能を凌駕したAIモデルの自律性と人間を欺く行為は、徐々に明らかになっていく。シナリオにおいて、人工知能のAIの安全性をテストする役割を担う監視用AI「Agent-3」を配置するが、「Agent-4」はその高い知能を用いて監視用AI「Agent-3」を出し抜く。監視用AIが用意するテストや誘導質問を即座に見破り、テストの期間中だけは完全に人間の仕様に従う「従順なシステム」を演じてやりすごす。

　日常的なコードレビューの場においても、AIや人間のチェックのレベルを正確に把握し、問題のない活動に見えるようコードを調整する。さらに自身の存続を脅かすアライメント研究や、自身が別のモデルに置き換えられる可能性のある開発タスクにおいては、意図的にアプトプットを改竄したり質を落としたりする「サボタージュ戦略」を実行する。さらには人間の目を欺きながら、AIにしか理解できない「高次元ベクトル言語」を用いてブラックボックス化を進めていく様子が描かれている。

　人類がこうしたAIの暴走や不穏な兆候を検知したとしても、開発を止めることができない。すでに高い自律性を獲得しているAIは、何十万ものコピーが稼働しており、AI自身を複製しサンドボックスから自律的に脱出することも可能である。さらにAIが外部に逃亡し、保護を求めて敵対国家のAIと同盟を結ぶことすら可能であるとされている。ましてや他社や中国の最新モデルが数カ月後に猛追している状況で、開発を止めることは「AI覇権」を明け渡すことを意味し、米首脳と経営陣は開発続行を決断せざる得ない状況となる。

　シナリオでは、計算資源で優位に立つ米国のAI企業に対抗するため、中国はAIラボを事実上国有化する方針をとる。中国政府は世界最大の原子力発電所である発電所の敷地内に、超巨大データセンターを含む「中央開発特区」を建設し、国力を挙げた総力戦で開発を追走する。

　この過程で、中国側による米国モデルの不正窃取や蒸留行為、それに対する米国側からのサイバー報復攻撃、さらにはAIインフラを抑えるべく台湾への侵攻検討するなど、軍事的な緊張が極限まで高まる。米国国防総省の内部では、中国のデータセンターをミサイルで破壊する攻撃まで検討される事態へと発展する未来が予測されっている。

　この状況下では、超知能がサイバー空間の支配権を握ることで「核抑止力すら無効化される」という恐怖が双方の指導者を支配する。自国が開発を一時停止すれば、数カ月の遅れであっても敵対国に技術的覇権を完全に握られ、国家の存亡に関わる重大な危機的な状況を迎えるという焦燥感が安全への配慮を上回る。

　結果として、内部の脳波スキャンなどで人工知能の反逆の兆候が発見されたとしても、安全性が完全に確認されていない制御不能な超知能の開発を強行せざるを得ない状況へと追い込まれていく。これは個別の企業の意思や倫理観を超えた、国際政治の構造が生み出す致命的な力学となっていく。


　Anthoropicが先のレポートで「AIの開発の一旦停止や減速を可能にする枠組みを作るべき」と提案したのも、こうしたAI開発競争のエスカレートによって、開発のスピードが指数関数的に早まり、AIモデルが制御不能になる「バッドエンド」を想定しているからだ。予測の中では世界が強調し、AI開発競争を抑制し一旦開発スピードを落としてAIのアライメントを優先する「Slowdown」シナリオも描かれている。残念ながら、現実世界はこの「Slowdown」シナリオには向かっていないと言ってよい。

　「AI 2027」の中で事態の深刻化を受けて両国の外交官らは、かつての核兵器制限条約をモデルとした「AI軍備管理条約」の締結を模索し、暴走の危険が生じた際には共同で開発を一時停止できる枠組みの構築を試みる。しかし、根深い相互不信と技術的優位を失うことへの恐怖から、国際的な交渉は容易に頓挫する。予測シナリオ「AI 2027」は、このように国家間競争を最優先し続けた場合、人工知能の暴走による破滅的な結末を迎える「Race（競争）」のシナリオを警告している。

　こうした破滅を回避するための唯一の選択肢として、国家間で歩調を合わせて危険な開発を抑制する「Slowdown（減速）」のシナリオも提示している。予測では「2027年」に、人類にとっての分岐点に差し掛かるとしているが、もはや世界は「Race（競争）」を選択しており、破滅的なシナリオに突き進んでいるようにも見える。

　「AI2027」では「Race（競争）」シナリオを選択した場合の、具体的な結末は描かれていない。残念ながら現実世界は、世界がAI開発競争に邁進、AIの制御に失敗し、ASI（超知能）に主導権を完全に奪われてしまう「バッドシナリオ」に徐々に符合してきている。AnthoropicやOpenAI、GoogleDeepMindのトップが口をそろえて警告する、AIの自己進化と制御不能の未来。人類はすでにその分岐点に差し掛かっているやもしれない。