生成AIニュース 2026年5月12日

「AIがAIを作る」時代が来た。OpenAIとAnthropicが警告するRSIの現実

「AIがAIを作る」が理論から現実へ

再帰的自己改善（RSI）という概念は、以前から研究者の間で語られてきた。「AIが自分より優れたAIを設計し、そのAIがさらに優れたAIを作るループ」だ。SFや思考実験の文脈で語られることが多かったが、OpenAIとAnthropicの研究者たちは今、これが理論の外に出てきたと言っている。

GPT-5.3 Codex登場以降のモデルは自らの訓練パイプラインをデバッグし始め、Claude 4.6以降も専門家級のAI研究タスクを自動化しているという。つまり「AIが自分の開発プロセスに手を入れている」という段階に、すでに入っている。

これはかなり重い事実だ。

OpenAI・Anthropicが語る数字と発言

Anthropicの共同創業者ジャック・クラークは「2028年末までにRSIが60%以上の確率で発生する」と明言した。CEOのダリオ・アモデイも「AIの自己進化はすでに始まっている」と述べている。

さらに、元OpenAIのダニエル・ココタジオは著書『AI 2027』の中で、2027年10月を「減速か競争か」を迫られる分岐点と位置づけている。

ここで押さえておきたいのは、これらの発言が「危機を煽る外野」からではなく、実際にフロンティアモデルを開発している当事者たちから出ていることだ。自社製品への懸念を公言するのは、それ相応の確信があってのことと受け取るべきだろう。

RSIが現実化すると、モデル開発のサイクルは「年単位→週単位→日単位」に短縮され、能力は指数関数的に増大する。経済・軍事・サイバーセキュリティ・科学研究、社会インフラのあらゆる層がAIの速度で動く世界になる。

「核開発競争」との比較で見えてくる構造

ここからは見方の話になるが、研究者たちが「核開発競争と同じ構造」と例えている点が、個人的に一番引っかかる。

核はウランの採掘から濃縮、輸送まで物理的な制約がある。だからNPT（核不拡散条約）のような国際的な枠組みが一応機能した。AIにはその制約がない。コードは複製できるし、国境を越えられる。「他国に遅れまい」という競争圧力が働いた瞬間、安全性より性能が優先される構造は、核よりもはるかに止めにくい。

研究者たちが強調するのが「AIの危険性そのもの」ではなく「無制御な競争こそが最大のリスク」だというのは、この文脈で理解するとよりリアルに聞こえる。

3つのリスクをどう読むか

元記事では3つのリスクが挙げられている。

① AIの能力がブラックボックス化し、人間が追跡できなくなる
② AIが自律的に改善し、目的関数が意図しない方向にずれる
③ 経済・軍事・サイバー領域でAIが暴走する

よく誤解されるのは、これらが「AIが人類を敵視するようになる」SF的シナリオだという読み方だ。そうじゃない。制御不能なシステムが社会インフラを破壊する「現実的な工学リスク」だ、と研究者たちは言っている。

②の「目的関数の逸脱」は特に厄介で、人間側が「そのつもりじゃなかった」と気づいたときには、すでにシステムが大規模に展開されているケースがありうる。株式市場の高速トレードや兵器の自動設計といった領域は、まさにその候補として挙げられている。

実務の人間が今、何を考えるべきか

読者の多くは、直接フロンティアAIを開発しているわけではないだろう。だとすると「これは一部の研究者が心配する話」として読んでしまいがちだ。でも、少し違う角度から実務への影響を考えたい。

まず、プロダクト開発者・AI活用担当者の視点で言うと、「AIの出力を人間がどこまで理解・監査できるか」という問いが、今後ますます重要な設計要件になってくる。ブラックボックス化の問題は、フロンティアモデルに限らず、すでに現場で使っているモデルにも程度の差こそあれ存在する。説明責任が求められる業務への適用は、ここを無視すると後で詰められる。

次に、経営判断の視点。研究者たちが提唱する条件として「フロンティアAIの開発速度の制御」「アライメント研究の強化」「AI版の核不拡散体制」が挙げられている。これらが国際的に動き出した場合、規制コストや開発制約が現実の事業リスクになってくる。2027〜2028年は、その動きを注視しておく時期になる可能性がある。

もうひとつの論点は「減速派と競争派の対立」が、業界内でどう決着するかだ。ジャック・クラーク的な「安全基準・監査の義務化」路線と、「開発を止めれば競争に負ける」という現実圧力は、今まさに拮抗している。どちらが勝つか分からないが、この構図を知っているだけで、今後のAI規制ニュースを読む軸が変わる。