「AIが作ったから分からない」は通用しない——バイブコーディング時代の開発者責任論

生成AIを使って開発を進めることが当たり前になってきた。コードを書く速度は上がり、以前なら数日かかっていた機能の雛形が、一晩で出来上がるようになった。それ自体は悪いことではない。

問題は、速くなった分だけ「確認」が省略されがちになることだ。

Qiitaに投稿されたエンジニアの記事(@ab-boy_ringo)が、この問題をかなり真剣に整理している。「生成AIを利用した設計・開発への警鐘」というタイトルで、読み飛ばすには惜しい内容だった。


「AIが作ったから仕方ない」は、言い訳として成立しない

記事の出発点はシンプルだ。「AIが作ったものだから分からない」という言い訳は通用しない、という一点。

特に、生成AIに指示を出しながらプログラムを作成する「バイブコーディング」の広がりによって、コードの中身を深く理解しないまま動くものを作れてしまう状況が増えている。これは開発の裾野を広げる可能性を持つ反面、成果物の品質と責任の所在を曖昧にするリスクと表裏一体だ。

問題が起きたとき、「AIが出力したので私には分かりません」「プロジェクトファイルを丸ごと食わせてAIに訊いてください」という対応が実際に起きうる。元記事はこれを「責任の放棄」として明確に批判している。この言語化は率直で、現場の肌感覚に合っている。


元記事が指摘する4つのリスク

記事では、業務での生成AI利用において避けるべきリスクが4つ整理されている。要約ではなく、少し丁寧に追ってみる。

① 生成AIが出力した内容をそのまま公開・利用する

各生成AIサービス自身が「出力に誤りが含まれる場合がある」と注意事項に明示している。AIが作ったから正しいとはならない、という当たり前の話が、実務で忘れられがちだ。

② 動作確認をして問題がなかったから公開・利用する

これが見落とされやすい。元記事には具体的な例が出ている。データを追加する機能をAIに実装させた場合、既存データとの整合性を取るために、意図せず既存データを変更・削除するような処理が含まれている可能性がある。正常にデータが追加されたことだけを確認しても、既存データが意図せず変更されていないことまでは保証できない。

さらに、AIが提案・追加した外部パッケージに脆弱性や悪意のあるコードが含まれている可能性も指摘されている。依存関係を十分に確認せずにインストールすれば、開発環境や実行環境を危険にさらすことになる、という記述は重たい。

③ プロンプトで制約を定義したから安全だと判断する

プロンプトはあくまで生成AIへの指示であり、成果物がその指示に従っていることを保証するものではない。制約を書いたなら、それが実際に守られているかを成果物から確認する必要がある、という指摘だ。プロンプトを丁寧に書くほど安心してしまうという逆説がある。

④ 生成AIが作成した成果物を保守できない状態で公開・利用する

業務システムは一度動けば終わりではない。コードを理解していない状態では、障害発生時に原因を調査できない。作成者が異動・退職する際の引継ぎで説明責任が果たせず、後任者が処理内容を理解できないまま保守が困難になる。使用している外部パッケージに脆弱性が発見された際、影響範囲や修正方法を判断できない。この3点が具体的に挙げられており、どれも「確かにそうなる」と思わせる現実感がある。


「動作した」と「正しい」は別物という話

ここで少し立ち止まりたい。

「動かしてみたら問題なかった」という確認方法は、ソフトウェア開発において昔から不十分とされてきた。テスト設計の基本として、正常系だけでなく異常系・境界値・非機能要件を確認することは、AIの登場以前から言われてきた話だ。

ただ、AIが介在することで、この問題が新しい層を持つ。

人間が書いたコードは、少なくとも書いた本人がロジックを理解している(はずだ)。AIが生成したコードは、動かしてみるまで中身が何をしているか分からない状態になりやすい。しかも、見た目が整っているコードほど、問題を見つけにくい。

確認すべき項目は結果だけではない、と元記事は言う。使用したパッケージに問題がないか、関数は意図した仕様の機能であるか、公式ドキュメントや簡単なサンプルコードなどで確認・検証する必要がある。地味だが、これが本質だ。


ここからは見方だが——これはAI固有の問題ではない

構造として見ると、この記事が指摘していることは、AI固有の問題ではない。

「ツールが作ったから分からない」という構造は、ローコードツールでもERPカスタマイズでも、繰り返し起きてきた。誰かが便利なツールで何かを作り、作った本人が去ったあとに誰も中身を触れない——この話は、ソフトウェア開発の歴史に何度も登場する。

AIが違うのは、そのスケールと速度だ。バイブコーディングは、これまで開発経験のなかった人でもそれなりに動くものを作れてしまう。個人が速く動けるようになったことと、組織として成果物の品質を保証できることは、まったく別のレイヤーの話だ。

この落差を認識しているエンジニアは少なくないが、マネジメント層や非エンジニアの意思決定者には届いていないケースが多い。「AIを使えば早くできる」という期待値だけが先行し、「確認コスト」が予算や工数の見積もりに入っていない現場がある。

もうひとつ、AIの文脈で特殊なのは「責任の帰属が曖昧になりやすい」点だ。人間が書いたコードに問題があれば、書いた人の問題とされやすい。AIが生成したコードに問題があると、「AIがそう出力した」という言い逃れの余地が生まれてしまう。元記事はこの点に正面から踏み込んでいる。


実務への示唆:「全部確認する」は理想だが、では何から始めるか

元記事は、理想的なAI活用として以下を挙げている。

  • アイデア出しや設計方針の検討
  • 仕様書や設計書のたたき台の作成
  • 議事録などの要約
  • 条件に応じた適切な選択肢の提示
  • 部分的な機能の実装
  • コードレビューの補助

注目すべきは「部分的な機能の実装」という粒度だ。全体のアーキテクチャや既存コードへの影響を把握した上で、特定の機能を任せる——この使い方が現状では最も現実的だ。

ただし、その場合でも「生成されたコードのロジック、依存パッケージ、実行環境への影響などを確認する必要がある」と記事は明言している。「言ってしまえば、全部確認する必要があるということである」という一文は、割り切った正直さがある。

これを実務に落とすと、次の問いが生まれる。

確認コストを含めて工数見積もりをしているか。AIが生成したコードのレビューを、誰がどの観点で行うか設計されているか。外部パッケージの脆弱性チェックを誰の責任で行うか、ルールがあるか。

こうした問いに組織として答えられていない場合、「AIで効率化した」ではなく「確認コストをあとに先送りしただけ」になるリスクがある。

また、元記事は情シス部門によるルール整備についても触れている。開発者個人の意識だけに頼るのではなく、組織として安全に利用できる環境やルールを整備する役割を情シス部門が担うべき、という指摘だ。ガイドラインのない組織が生成AIを業務に使い始めていたとすれば、今が整備のタイミングだ。


まとめ:AIは免責カードではない

生成AIを業務に使うことと、成果物の責任を持つことは、切り離せない。AIが出力したから免責になるわけではなく、確認・利用する判断をした人間と、業務上の管理責任を持つ組織が、それぞれの役割に応じて責任を負う——この原則は、ツールが何であれ変わらない。

バイブコーディングが広がり、非エンジニアでもコードを生み出せる時代に入った今、「誰が確認するのか」「どこまで確認するのか」をあらかじめ設計しておかないと、問題が起きてから慌てることになる。

AIをうまく使っている人たちは、AIに任せる範囲と、自分で責任を持つ範囲を、わりと意識的に分けている。その線引きを持っているかどうかが、AI活用の「上手さ」の本体だと思っている。


参考元: 生成AIを利用した設計・開発への警鐘