フィジカルAI 2026年6月27日

1万4000ドルのヒューマノイドに安全認証はない。ロボットの「テスト哲学」が置き去りにされている話

今日、14,000ドル出せばヒューマノイドが買える。でも安全認証は存在しない

ロボティクスの話をするとき、議論は大抵「何ができるか」で盛り上がる。知覚の精度、歩行の安定性、推論の速さ。それはそれで正しい興奮だ。

ただ、The Robot Reportに掲載されたある記事が静かに突きつけてくる問いは、もう少し不穏だ。

「Right now, today, you can spend $14,000 and buy a humanoid robot. There is no safety certification reviewed, no standardized test protocol verified.」

今この瞬間、14,000ドルを出せばヒューマノイドロボットを購入できる。安全認証のレビューも、標準化されたテストプロトコルの検証も、何もない状態で。物理的な力を行使でき、リアルタイムで自律判断を行う機械が、そのまま手に入る。

これはエンジニアリングへの批判ではない、と著者は言う。知能の側面における進化は、本物だし、称賛に値する。問題は別のところにある。「テストの方法論と安全検証のプロセスが、システムの能力と一緒に進化しているか？」という問いだ。

著者の答えは明快だ。「していない。まだ」。

ロボットの「知能レベル」を5段階で分類する

議論を整理するために、著者はまず「何をテストしようとしているのか」を正確に定義するところから始める。

2026年3月にIJRCARに発表された論文で提唱されているのは、ロボットを制御アーキテクチャに基づいて5段階に分類するタクソノミーだ。SAEの自動運転レベルが「人間のオペレーターの関与度」を基準にしているのと対照的に、このフレームワークは「機械そのものがどのように情報を処理し、行動を生成しているか」を基準にする。

Level 0（テレオペレーション）: 人間がすべての思考を担う。ロボットは意図を直接実行するだけ。
Level 1（模倣学習）: デモンストレーションから学習し、オペレーターなしで動作できる。ただし、見たことのある範囲でしか機能しない。床のテクスチャが少し変わっただけで崩れる、あの脆さだ。
Level 2（教師ありリアルタイム学習）: 自分の不確実性を検知し、安全に一時停止し、修正を求め、その修正を逆強化学習で将来の行動に統合できる。
Level 3（自己教師あり学習）: 人間の入力なしに、試行錯誤から自分でトレーニングシグナルを生成する。成功と失敗を自分でアノテートしながら、継続的にポリシーを書き換えていく。
Level 4（強化学習による完全自律）: すべてのタスクを最適化問題として捉え、環境との継続的インタラクションを通じて解く。人間がデモンストレーションできないような解法を自ら発見することもある。

このラダーを一段上がるたびに、単に能力が増すのではない。失敗のモードが根本的に変わる。そして、それに対応する検証のアプローチも、根本から変わらなければならない。

Level 0〜1のテストは、ツールも方法論も整備されている。出力が決まっている系に対して、構造化されたテストケースを当てていけばいい。しかしLevel 3になると、テストエンジニアの仕事は「固定された行動を検証する」から「継続的に自分のポリシーを書き換えるシステムの安全性を担保する」へと変わる。

「現状のパフォーマンスだけでなく、学習プロセスそのものの安全性を評価する必要がある」というのが著者の指摘だ。これは、テストの難易度が上がるという話ではなく、テストの哲学そのものを変えなければならない、という話だ。

従来の安全分析手法（FMEA）がAIに通用しない理由

ロボティクスや自動車ソフトウェア開発でよく使われるリスク分析手法が、FMEA（故障モードと影響解析）だ。そのコアにあるのがRPN（リスク優先数）というスコアリング機構で、深刻度・発生率・検出可能性を掛け合わせた単一の数値でリスクを評価する。

ここに、具体的な数字で示された欠陥がある。

「深刻度10・発生率1・検出可能性1」のシナリオ、つまり極めて壊滅的だが滅多に起きず容易に検出できる失敗は、RPNが10になる。一方「深刻度1・発生率1・検出可能性10」の、大したことはないが検出が難しい失敗も、RPNは10だ。スコアが同じでも、脅威のプロファイルはまったく異なる。

従来の決定論的なソフトウェア系では、熟練したエンジニアの判断がこの穴を埋めてきた。しかし、ニューラルネットワーク駆動の系では、失敗モードがエマージェントかつコンテキスト依存になる。そこに同じ判断を当てるのは、構造的に無理がある。

IRE Journals（2025年）に発表された共著論文では、この問題に対してリスクプライオリティマトリクスとHAZOP（ハザードと作業性研究）を組み合わせるアプローチを提案している。ISO 26262（機能安全）とISO 21434（自動車サイバーセキュリティ）に根ざしながら、単一のスコアに潰さず、より豊かなコンテキストでリスクを語る語彙を持たせようというものだ。

規制の側も動いてはいる。2025年5月には二足歩行ロボットを対象とした初の国際安全規格ISO 25785-1が発行された（ただし産業用途限定）。パーソナルケアロボット向けのISO 13482も2025年に更新されたが、その内容はモダンなファウンデーションモデルが登場する以前に設計されたものだ。産業用ロボット向けのISO 10218-1の2025年改訂版は一定の前進を見せたが、AI駆動ヒューマノイドやモバイルマニピュレーションにおける空白はすでに研究者に指摘されている。

標準化は動いている。でも、現場の実態に追いつくスピードではない。

ここからは見方の話：「テストできないものをデプロイしている」という構造問題

この記事を読んで感じるのは、ロボティクス業界が今まさに非対称な進化の中にある、ということだ。

能力の開発サイドは、データ、計算資源、研究の蓄積が一気に加速している。ファウンデーションモデルの恩恵を直接受ける領域であり、投資も集まる。一方で、安全検証・テスト哲学の側は、ツールも方法論も規制も、基本的に「決定論的なシステム」を前提に設計されたままだ。

これは誰かをサボっているわけではない。単純に、問題の性質が変わるスピードが、方法論の進化スピードを上回っているだけだ。Level 4のロボットが生み出す「振る舞い空間」は、テストケースを列挙しきれないほど大きく、ダイナミックで、エマージェントだ。従来の「全パターンを網羅する」という発想が成立しない。

実務の視点から言えば、今ロボティクス系のプロダクトに関わっている開発者や事業判断者は、このギャップを直視しておく必要がある。「動くことを確認した」と「安全を保証した」は別の話だ。Level 1〜2の系であれば、アウトオブディストリビューション（OOD）テストを意図的に設計し、訓練データの分布の外側を体系的に叩く。Level 2の系なら、不確実性の定量化メカニズムとポリシー更新メカニズムを、別々のテスト戦略で検証する必要がある。それは今のほとんどの開発フローに、組み込まれていない。

経営層や事業責任者の目線では、「安全認証がない = 今は問題にならない」という判断がいつまで通用するかを考えておくべきだ。インシデントが起きたとき、業界全体への信頼が損なわれるリスクは、自社だけの問題では終わらない。自動車が普及する過程で繰り返されてきた構図が、ロボティクスでも繰り返されようとしている。

次の論点：「安全な探索」の定義を誰が決めるか

Level 3以上の系においては、著者は「形式手法（formal methods）が任意ではなく、必須になる」と言う。システムが自分のポリシーを書き換え続けるとき、その学習プロセスへの安全制約は、経験的なテストではなく数理的な仕様と検証によって担保する必要がある。制約付き強化学習や安全探索アルゴリズムを、アーキテクチャの最初から組み込むことが求められる。

ただし著者はここで重要な指摘をしている。「Level 3の検証で一番難しいのは、ツールではない。テスト開始前に、自分たちのプラットフォームにとって『安全な探索』が何を意味するのか、合意を取ることだ」と。

これは技術論ではなく、定義の問題だ。どんな振る舞いが「許容される試行錯誤」で、どこからが「許容できない逸脱」なのか。それをチーム・組織・規制当局・社会がどう合意するか。ツールが整備されても、この定義がなければ何も測れない。

ISO標準の進化に、実務者の声がどれだけ入るかも、ここに関わってくる。標準化の議論は往々にして、現場のエンジニアではなく委員会が主導する。しかし、実際に失敗モードを見ているのは現場の人間だ。この乖離を埋めることが、次のフェーズに向けた最も重要な非技術的課題かもしれない。