AIの見方、使い方、考え方

AIおじさんのひとりごと

国内AIインシデント一覧

国内の組織が関係するAI関連のインシデントを、一次情報を確認できたものだけ時系列に並べています。

最終更新 2026/10/23 · 12 件

情報漏洩 対応中

パナソニック オペレーショナルエクセレンス株式会社 製造

人事情報システム導入プロジェクトのメンバーが、社内で利用を禁止している外部の生成AIサービスに、2026年4月時点の人事情報システムに登録されていた個人情報を含むデータをアップロードした。同社は、外部からの不正な操作ではなくメンバーによるルール違反だと公表している。

影響
従業員約7万5千人、元従業員約17万8千人、従業員の家族約5万5千人、元従業員の家族約2万6千人(同社発表)。従業員・元従業員は社員番号・住所・電話番号・メールアドレスで、氏名は含まない。
対応
発覚直後にチャット履歴と業務用PC内のデータを削除。2026年9月29日に個人情報保護委員会へ報告した。サービス提供元からは、学習に利用する機能が無効だったことと、削除から30日が経過した10月25日以降は事業者内でもデータを保持していないことの回答を得たとしている。
不正利用・指示の乗っ取り 調査中

国内の複数組織(JPCERT/CCが注意喚起) 横断

JPCERT/CCは、CairnやCyberStrikeAI、ARTEXなどのAIを用いたペネトレーションテスト基盤を悪用した攻撃試行を確認したと公表した。主にインターネットに公開されたWebアプリケーションを標的に、さまざまな脆弱性の探索・悪用や、機器の管理不備を突いた攻撃(環境設定ファイルやバックアップファイルの窃取など)が試みられている。インターネットに公開されたWSUSサーバーを標的とした攻撃試行も含まれる。

影響
不審な送信元IPアドレス9件を観測日付つきで公表(調査時点では正規に利用されている可能性もあるとしている)。被害組織名は公表されていない。
対応
注意喚起は2026年10月8日公開。このケースEは10月23日の更新で追加された。
(発生 2026/5/15) 誤出力・誤判定 収束

大阪府立佐野高等学校(大阪府教育庁) 教育・自治体

教員が大阪府高等学校野球連盟への報告書をFAXで送る際、AI検索で表示されたFAX番号に送信し、誤った宛先に届いた。大阪府は原因を、AI検索の情報を鵜呑みにしたうえ、あらかじめテスト送信などを行って番号を確認することを怠ったためと公表している。

影響
生徒6名分の氏名・学年・報告内容(大阪府発表)。
対応
誤送信先に連絡して報告書を廃棄してもらい、生徒と保護者に個別・直接の説明と謝罪を実施。校内研修の実施、個人情報を外部へ送信する際の管理職の許可、初めての送信先へのテスト送信と複数人での番号確認を徹底し、教育庁が全府立学校に注意喚起を行うとしている。
情報漏洩 調査中

RIZAP株式会社(特定保健指導の委託先) ヘルスケア

健康経営・保険者事業部の社員が、特定保健指導管理システムのデータ集計作業中に、個人で使用している外部の生成AIサービスへ対象データを誤ってアップロードした。委託元の地方職員共済組合によると、2026年8月20日に発覚した。

影響
対象は2026年1月1日〜8月19日に同システムに登録された特定保健指導対象者データの一部で、保険証記号番号・氏名・生年月日・性別・メールアドレスなどと、一部の人の疾患情報(高血圧症・糖尿病・脂質異常症)を含む(同社発表)。地方職員共済組合の対象者は14支部726名(同組合発表)。
対応
発生直後に該当チャット履歴を削除し、学習データの利用停止を設定。個人情報保護委員会への報告は完了。学習に利用された可能性はないとしている。サービス提供元の役職員が閲覧可能な状態にあった可能性は確認中。
(発生 2026/8/18) 物理的な安全 調査中

小松市(小松空港〜小松駅の自動運転バス) 交通・自治体

レベル2で自動運転中の路線バスが、小松駅西口バスロータリーの入口付近で車体左側下部を縁石に接触させた。市は原因を調査中とし、5月13日の接触事故との関連も不明としている。

影響
乗客11人を含め、けが人なし(市発表)。
対応
自動運転を一時停止し、代替車両で運行を継続。市と事業者(BOLDLY、ティアフォー、北鉄加賀バス)が走行データや車両の状態を調査している。
権利・コンプライアンス 対応中

株式会社集英社(写真集『果実の歩幅』公式X) 出版

同社が発行した写真集について、掲載画像の転載・共有・販売や、生成AIなどを用いて加工・生成した画像の投稿・共有・販売がSNS上で複数確認されたとして、写真集の公式Xで集英社名義の声明を出した。画像・誌面は著作権法等で保護され、無断の加工・公開は肖像権等の侵害のおそれがあるとして、該当投稿の削除を求めている。

対応
無断の転載・販売等が確認された場合は、削除要請をはじめ、必要に応じて法的措置を含む対応を検討するとした。
(発生 2026/5/13) 物理的な安全 収束

小松市(小松空港〜小松駅の自動運転バス) 交通・自治体

レベル2で自動運転中の路線バスが、小松駅西口バスロータリーで車体左前方を縁石に接触させた。市は調査の結果、自動運転時にのみ使う操舵システムの不具合が原因だったと公表した。

影響
乗客なし、けが人なし。車体と縁石に擦り傷(市発表)。
対応
不具合のあった操舵システムを交換し、自己診断による監視と、設定レーン内に収める経路制御を追加。2026年7月29日に手動運転、8月4日に自動運転を再開した。
権利・コンプライアンス 対応中

株式会社ウテナ 化粧品

4月27日からの交通広告と5月1日公開のPR動画「潤い戦士モイスチャー」について、生成AIを用いた広告制作や、特定の既存作品との類似性に多くの意見が寄せられた。同社は、既存の創作物の独自性やファンの心情への配慮が不足していたとして謝罪した。

対応
公式YouTubeの該当動画と関連するSNS投稿を削除し、交通広告を順次撤去。外部専門家のリーガルチェックを経て公開していたが、第三者の指導を受けて法規制上の問題がないかを改めて確認し、表現に対するチェック体制を全面的に見直すとした。
AI機能の脆弱性 収束

株式会社GROWI(社内Wiki「GROWI」) ソフトウェア

GROWI v7.4.5およびそれ以前のバージョンで、AIアシスタント機能のOpenAIスレッド・メッセージ APIに権限チェックの欠如(CWE-862、CVE-2026-25083)があった。共有AIアシスタントの識別子を把握しているログイン済みの利用者が、他の利用者のAIアシスタントのスレッド・メッセージを閲覧・改ざんできる可能性があった。

影響
CVSS v4基本値8.7、CVSS v3基本値8.3(JVN)。
対応
v7.4.6で修正。GMOサイバーセキュリティ by イエラエ株式会社の小田切祥氏が製品開発者に報告し、調整を経てJVNで公表された。
(発生 2026/2/27) 物理的な安全 収束

東京都港湾局(海の森公園〜新木場駅のシャトルバス) 交通・自治体

レベル2の自動運転機能を搭載したシャトルバスが、手動運転から自動運転に切り替えた際に、中央分離帯の縁石に右前輪を接触させた。都は、車線変更処理が止まったまま経路から外れ、その逸脱を検知できず、自動運転への復帰時に衝突回避も働かなかったと公表している。

影響
乗客2人と運転手にけがなし。他の交通への影響なし(都発表)。
対応
車線変更処理のリセット機能、経路逸脱の検知精度の改善、衝突回避機能の改善を実施し、都のガイドラインにも反映。運行事業者を変更して2026年9月19日に自動運転での運行を再開した。
なりすまし・合成コンテンツ 対応中

株式会社PHP研究所/パナソニック ホールディングス株式会社 出版・製造

創業者・松下幸之助の画像や音声をAI技術により合成した動画が、YouTubeをはじめとするSNS上で出回っていることが確認された。PHP研究所は、本人の名誉と遺族の感情を著しく損なうもので違法な可能性が高いとし、パナソニックHDも、実際の発言等に基づかない誤った情報や、肖像・発言の無断使用が含まれる場合があるとして注意を呼びかけている。

対応
継続的な監視と、発見次第の調査・記録、プラットフォームへの削除申立てや法的措置の検討。閲覧・共有・転載をしないことと、SNSの「不正合成(deepfake)」「なりすまし」通報フォームからの報告を呼びかけている。パナソニックHDは、PHP研究所と共同開発中の「『松下幸之助』再現AI」とは無関係だと明記している。
(発生 2023/10/29) 物理的な安全 収束

まちづくり株式会社ZENコネクト/永平寺町(ZENドライブ) 公共交通・自治体

レベル4の自動運転車両が、対向車とのすれ違い待避所付近で、無人の駐輪自転車に車両左前のバンパーを接触させた。ミリ波レーダと超音波センサは正常に検知していたが、この区間は誤検知を抑えるため前方カメラの画像認識と合わせて自動ブレーキの制御判断を行う仕様で、無人の自転車を認識するための学習データが十分でなく、カメラからは自転車の真後ろしか見えず認識面積が小さかったため、認識できなかった。

影響
けが人なし(乗客4名)。
対応
画像認識との整合がなくても接触の可能性がある物体を検知したら自動ブレーキをかけるよう制御判断を強化し、検知の難しい向きを含む無人の自転車の画像を追加学習させた。注意喚起看板の増設などの運用面の措置も実施。

掲載基準

  • 国内の組織・サービスが関係しているもの。
  • AIの利用または提供が原因の一部になっているもの。
  • 一次情報(当該組織の発表、行政・委員会の公表、当事者の報告書)で確認できるもの。 報道のみで当事者の確認が取れていないものは載せません。
  • 事実として書ける範囲が確定しているもの。推測や評価は書きません。

レベル2の運転支援中に起きた接触事故も、システムの判断が関わっているものは対象にしています。 当該組織が公式SNSアカウントでのみ公表した事例も、投稿そのものを参照できる場合は一次情報として扱います。

誤りを見つけた場合や、掲載内容について指摘がある場合は About のXアカウントまでご連絡ください。訂正した場合は、その旨を当該項目に残します。

フィジカルAIのセキュリティと安全設計入門 何が危ないか、どう設計するか。ロボット・工場にAIを入れる前に読むまとめ。