AIの見方、使い方、考え方

AIおじさんのひとりごと

国内AIインシデント一覧

国内の組織が関係するAI関連のインシデントを、一次情報を確認できたものだけ時系列に並べています。

最終更新 2026/10/23 · 12 件

(発生 2026/8/18) 物理的な安全 調査中

小松市(小松空港〜小松駅の自動運転バス) 交通・自治体

レベル2で自動運転中の路線バスが、小松駅西口バスロータリーの入口付近で車体左側下部を縁石に接触させた。市は原因を調査中とし、5月13日の接触事故との関連も不明としている。

影響
乗客11人を含め、けが人なし(市発表)。
対応
自動運転を一時停止し、代替車両で運行を継続。市と事業者(BOLDLY、ティアフォー、北鉄加賀バス)が走行データや車両の状態を調査している。
(発生 2026/5/13) 物理的な安全 収束

小松市(小松空港〜小松駅の自動運転バス) 交通・自治体

レベル2で自動運転中の路線バスが、小松駅西口バスロータリーで車体左前方を縁石に接触させた。市は調査の結果、自動運転時にのみ使う操舵システムの不具合が原因だったと公表した。

影響
乗客なし、けが人なし。車体と縁石に擦り傷(市発表)。
対応
不具合のあった操舵システムを交換し、自己診断による監視と、設定レーン内に収める経路制御を追加。2026年7月29日に手動運転、8月4日に自動運転を再開した。
(発生 2026/2/27) 物理的な安全 収束

東京都港湾局(海の森公園〜新木場駅のシャトルバス) 交通・自治体

レベル2の自動運転機能を搭載したシャトルバスが、手動運転から自動運転に切り替えた際に、中央分離帯の縁石に右前輪を接触させた。都は、車線変更処理が止まったまま経路から外れ、その逸脱を検知できず、自動運転への復帰時に衝突回避も働かなかったと公表している。

影響
乗客2人と運転手にけがなし。他の交通への影響なし(都発表)。
対応
車線変更処理のリセット機能、経路逸脱の検知精度の改善、衝突回避機能の改善を実施し、都のガイドラインにも反映。運行事業者を変更して2026年9月19日に自動運転での運行を再開した。
(発生 2023/10/29) 物理的な安全 収束

まちづくり株式会社ZENコネクト/永平寺町(ZENドライブ) 公共交通・自治体

レベル4の自動運転車両が、対向車とのすれ違い待避所付近で、無人の駐輪自転車に車両左前のバンパーを接触させた。ミリ波レーダと超音波センサは正常に検知していたが、この区間は誤検知を抑えるため前方カメラの画像認識と合わせて自動ブレーキの制御判断を行う仕様で、無人の自転車を認識するための学習データが十分でなく、カメラからは自転車の真後ろしか見えず認識面積が小さかったため、認識できなかった。

影響
けが人なし(乗客4名)。
対応
画像認識との整合がなくても接触の可能性がある物体を検知したら自動ブレーキをかけるよう制御判断を強化し、検知の難しい向きを含む無人の自転車の画像を追加学習させた。注意喚起看板の増設などの運用面の措置も実施。

掲載基準

  • 国内の組織・サービスが関係しているもの。
  • AIの利用または提供が原因の一部になっているもの。
  • 一次情報(当該組織の発表、行政・委員会の公表、当事者の報告書)で確認できるもの。 報道のみで当事者の確認が取れていないものは載せません。
  • 事実として書ける範囲が確定しているもの。推測や評価は書きません。

レベル2の運転支援中に起きた接触事故も、システムの判断が関わっているものは対象にしています。 当該組織が公式SNSアカウントでのみ公表した事例も、投稿そのものを参照できる場合は一次情報として扱います。

誤りを見つけた場合や、掲載内容について指摘がある場合は About のXアカウントまでご連絡ください。訂正した場合は、その旨を当該項目に残します。

フィジカルAIのセキュリティと安全設計入門 何が危ないか、どう設計するか。ロボット・工場にAIを入れる前に読むまとめ。