AIが仕事を「奪う」より先に起きていること

AIが人間の仕事を奪うかどうか、という議論はもう何年も続いている。ただ、その議論が続いている間に、別の問題が静かに進行していた。

AIに仕事を「取られる」のではなく、AIと一緒に働くことで人間の「スキルが失われていく」という現象だ。これを「デスキリング(deskilling)」と呼ぶ。SRE(サイト信頼性エンジニアリング)の現場でこの問題を鋭く指摘したのが、オープンソースの監視・分析ツール「SigNoz」の開発者エリザベス・マシュー氏だ。

「AIがインシデント対応の95%を処理するようになったら、実際に重要な5%の対応能力は低下するのか?」

この問いは、答えを出したくない人が多い問いだと思う。でも、直視しないと後で痛い目を見る種類のものだ。


「自動化の皮肉」——1983年から続く構造問題

この問題は実はAIが登場する前から理論化されていた。1983年に発表された研究論文「自動化の皮肉(Ironies of Automation)」は、産業システムにおける自動化の進展を分析し、ひとつの逆説を明らかにした。

プロセスが自動化されるほど、オペレーターは稀な障害発生時に介入する機会を失い、結果としてその介入能力が低下する。

40年以上前の論文だが、AIが普及した今の文脈に当てはめると、ほぼそのまま成立する。AIはルーチン化されたタスクを肩代わりし、人間には「稀で、複雑で、曖昧な問題」だけが残される。しかし、問題解決に必要な専門知識は実践機会の減少とともに衰退していく。

これが今SREの現場で起きていることだ。


何が自動化され、何が残るのか——現場の実態

現時点のSRE現場では、以下のタスクがAIによって高度に自動化されている。

  • アラートのノイズ削減
  • 既知の問題に対する自動実行
  • ログパターンの検出
  • 基本的な根本原因の提案
  • ポッドの再起動

将来的には、より複雑な障害分析や、ユーザーに影響が出る前の予知的なインシデント検出もAIが担うと考えられている。

PagerDutyのティアモデルで整理すると、この分業構造がよくわかる。ティア1(既知の問題・既知の修正策)はほぼ完全に自動化される。ティア2(部分的に理解された問題)ではAIの推奨と人間の検証が行われる。そして人間が主体的に関与するのはティア3(新規・複雑・連鎖的な障害)のみになる。

問題はここだ。ティア3の対応に必要な「直感」や「システムへの感覚的な理解」は、長年の実践の積み重ねによって培われるものだ。ティア1とティア2の経験を積まずに、いきなりティア3を解けるエンジニアは育たない。


医療・航空でも起きている「スキル空洞化」

デスキリングはSREに限った話ではない。医療と航空という、ミスが許されない分野でもすでに観測されている。

AI支援を受けた内視鏡医でポリープ検出率の低下が報告されている。自動操縦に依存するパイロットの状況認識能力が低下していることも論文で指摘されている。どちらも「AIが処理してくれるから、自分でやる機会が減る。だから、やれなくなる」という同じ構造だ。

SREへの類推は明快だ。

  • AIがログを要約することで、生のログストリームを読む機会が減る
  • AIが根本原因を提案することで、自分で仮説を立てなくなる
  • AIが依存関係をマッピングすることで、システムのメンタルモデルを構築しなくなる

こうして専門知識が「空洞化」していく。見かけ上は業務が回っているが、中身がどんどん薄くなっていくイメージだ。


「ネバースキリング」という、より深刻な問題

デスキリングより深刻な問題がある。「ネバースキリング(neverskilling)」だ。

デスキリングは「一度持っていたスキルが失われていく」現象だ。これはまだ、以前のスキルを持つベテランが存在するという前提がある。しかしネバースキリングは違う。AIがインシデント対応の大部分を処理する環境でキャリアをスタートさせた若いSREは、そもそもスキルを身につける機会がはじめから存在しない。

これはキャリア育成上の問題であると同時に、組織としての問題でもある。ベテランが退職したあと、「昔ながらのやり方」で問題を解ける人間が社内にいなくなる可能性がある。AIが解けない5%の問題を、誰も解けなくなる日が来るかもしれない。


構造を見る:これはSREだけの話ではない

ここからは自分なりの読みを加える。

この問題をSREの話として読み流すのは、もったいないし、危うい。構造としては、AIが実務の大部分を担うようになったあらゆる知識労働に当てはまる。

医療診断、法務レビュー、財務分析、コードレビュー——どの分野でも「AIが処理する部分」が増えれば増えるほど、人間が実践から学ぶ機会は減る。これが10年単位で積み重なると、「AIなしでは動けない組織」が大量に生まれる。

AIの導入を推進しているチームや経営者が、この問いに正面から向き合っているケースはまだ少ないと感じる。「効率化」「コスト削減」「スピードアップ」という成果指標は可視化しやすい。しかし「スキルが失われていく」という劣化は、ゆっくり進行するために気づかれにくい。

判断軸として持っておきたいのは、「このAI導入はチームの問題解決能力を上げているか、それとも問題解決を外注しているだけか」という問いだ。外注であれば効率化になるが、スキルの蓄積は止まる。


実務的な示唆——個人・チーム・組織は何をすべきか

マシュー氏はいくつかの提案を行っている。その中で特に重要だと思う2つを取り上げる。

1. 意図的な非効率性を設計する

FAA(連邦航空局)はパイロットに手動操縦時間を義務付けている。これはスキルを維持するための制度的な担保だ。SREチームも同様に、「AIが処理できるインシデントであっても、意図的に人間の作業として残す」という設計が必要だ。

これは表面上は非効率に見える。でも、長期的なスキル維持への投資として捉えれば、筋が通る。「今すぐ解決できるが、あえて人間にやらせる」という判断を組織として持てるかどうかが問われる。

2. 人間を「承認者」にしない

AIの提案を単に承認するだけの役割に人間を落とし込むと、実質的にはAIが意思決定している状態になる。しかも人間は「自分が判断した」と錯覚しやすい。

あるべき姿は、AIと共に問題に能動的に関わり続けることだ。「なぜこの根本原因か」「他の仮説は何か」「AIが見落としている観点はないか」を自分で考え続ける習慣が、スキル維持の核になる。

チームレベルで言えば、ポストモーテム(障害振り返り)をAIに書かせて終わりにするのではなく、チームメンバーが自分の言葉で語る場を設けることも、同じ文脈の取り組みだ。


まとめ:「SREを代替するAI」ではなく「SREを強化するAI」へ

マシュー氏の結論はシンプルだ。**あるべきは「SREを代替するAI」ではなく「SREを強化するAI」**だ。人間は本番インフラに影響を与える重要な意思決定に不可欠な存在であり続けるべきで、特に「本当に重要な5%」に対応できるよう、意図的に設計される必要がある。

AIツールを拒否するという選択肢は現実的ではない。ただ、ツールを導入する側が「スキルはどこで育つか」という問いを持ち続けることは、必須だ。

「AIを使える人」が増えることは良いことだ。しかし次の問いは、「AIがない状況でも問題を解ける人を、組織はどう育てるか」になる。これはAI活用戦略の話でもあるが、同時に人材育成戦略の話でもある。その二つが切り離されて議論されている組織は、少し先の未来に気づいていない可能性がある。


参考元: AIが便利になればなるほど深刻になる「自動化の皮肉」に人間はどう対処すべきか(GIGAZINE)