本記事は、イベント「SREcon25 Europe/Middle East/Africa」で開催されたセッション「From Vibes to Outages: Riding the AI Code Wave」での議論に基づいている。

　AIコーディングツールの導入は、ソースコードの増加だけではなく、「AI特有の欠陥」という新たな火種も持ち込んだ。AIツールは誤ったロジックのソースコードに対して、その誤りを正とする、不適切なテストコードを生成する傾向がある。AIモデルのハルシネーション（幻覚）を悪用した攻撃手法も確認されている。AIツールが推奨する架空のパッケージ名に目を付け、悪意のあるソースコードを含んだ同名のパッケージを公開することで、開発者が意識しないうちに脆弱（ぜいじゃく）性を導入させる手法だ。開発者がAIツールの提案をうのみにすれば、システムに深刻な欠陥を抱え込むことになる。

　コーディングにおけるインシデントの発生率は、おおよそ「変更の回数」と「各変更が失敗を引き起こす確率」の掛け合わせで決まる。AIツールによって「変更の回数」が急増する中でインシデントを抑制するには、「失敗を引き起こす確率」を下げるしかない。

　IT運用者は、開発者がAIツールで生成したソースコードの品質そのものを統制することは難しい。しかし、テスト手法の強化、システムの展開手順の整備、稼働状況の監視強化といった運用基盤の底上げによって、システム全体としての失敗確率を引き下げることは可能だ。従来、人間が引き起こす障害に対してシステムの仕組みでカバーしてきたように、AI技術が関与するシステム障害に対しても、ガードレール（予防策）を設けて未然に防ぐという基本方針を貫くことが求められる。

　開発者のAIツール利用によるリスクを軽減するだけではなく、IT運用者自身の業務効率化のために、「運用向けAI」を活用する取り組みも進んでいる。その一つが、複雑なシステムの前提知識をAIエージェントに連携させる「MCP」（Model Context Protocol）の導入だ。

　システム運用には従来、インフラ全体の構成や過去の障害履歴といった幅広い知識が求められてきた。ベテラン担当者の頭の中にあるこうした文脈を運用支援AIに与えることで、障害発生時のログ収集や原因の仮説検証を数分で実行できるようになる。これによって、軽微なインシデントのトラブルシューティングにかかる時間を大幅に削減できる。

　インシデント発生後の事後報告書（ポストモーテム）の作成や、関係各署に向けた状況報告の執筆といった時間のかかる定型作業も、AIツールを活用することで手間を削減可能だ。結果としてIT運用者は、より複雑なシステム課題の解決や、開発が後回しになりがちな社内管理ツールの画面改善など、付加価値の高い業務に専念できるようになる。

　AIツールを用いたソースコード生成の普及は今後も続くと考えられる。それに伴って、システムの信頼性を保証するIT運用者の重要度はこれまで以上に高まっている。AI技術をただ恐れるのではなく、運用者も最新技術を味方に付け、システムの障害確率をいかに下げるかという根本的な使命に注力する必要がある。

本稿は、USENIXが2025年11月12日に公開した動画「SREcon25 Europe/Middle East/Africa - From Vibes to Outages: Riding the AI Code Wave」を基に作成しました。