例えば、機械学習アルゴリズムを用いて、画像がりんごかどうかを判断して画像にタグを付ける画像分類プロセスがあるとする。このアルゴリズムは、時間がたつにつれ新しい入力情報によってトレーニングが行われ、りんごの画像を適切に見極められるようになる。

多くの機械学習プロセスが同じ手順に従う

　ユアール氏によれば、問題は誰かがトレーニングデータセットの画像を分類しなければならないことだという。画像分類の例にもう少し踏み込んでみよう。ソーシャルメディアサイトでは、ユーザーが写真に映っている人にタグを付け、アルゴリズムがその後画素のまとまりを誰かの顔として認識し、他の人と区別する。

　しかし、このプロセスを一般的な企業アプリケーションの機械学習に持ち込むと多くの場合より複雑になる。例えば、IT部門の管理を改善するため、サポートチケットなどをデータセットとして利用するとする。そのためには、サポートチケットのインシデントを取り込んで、各データポイントと社内アプリケーションデータとを関連付ける方法をデータサイエンティストが見つけて、アルゴリズムのトレーニングに利用できるようにしなければならない。

　「これは非常に難しい。さらに、正しいデータセットにアクセスすること自体が困難になる可能性がある」とユアール氏は言う。

データの変化を計画する

　もう1つ、運用環境に導入された機械学習モデルのパフォーマンスの変化を追跡してその変化に対応することも課題になる。機械学習アプリケーションは、他の種類のアプリケーションとは異なり、データ変化の影響を受ける可能性がある。

　「他のエンジニアリングシステムや製品とは異なり、機械学習製品は今日機能していても明日には機能しなくなる可能性がある」と話すのは、Figure Eightで機械学習の統括責任者を務めるジェニファー・プレンキ氏だ。同社では機械学習のトレーニングデータを強化するAIプラットフォームを提供している。

　運用環境で機械学習に利用するデータは、流行、季節ごとのパターン、経時変化などの影響を受ける。そのため、現実の新しいデータを使って定期的にモデルのトレーニングをやり直す必要がある。この作業に終わりはない。

　管理者は機械学習のライフサイクル管理を考える必要があるとプレンキ氏は話す。残念ながら、こうしたプロセスを企業の機械学習モデル全てに合うように一般化するのは難しい。モデルの管理に関連する規則は特定のユースケース固有になり、その正当性を検証するのが難しいためだ。こうしたことが、モデルを運用環境に導入する仕事の複雑性を増す。

正確性を追跡して再トレーニングのスケジュールを最適化する

　1つの戦略が、「MLOps」とも呼ばれる機械学習運用プロセスの開発だ。このプロセスはDevOps関連のプロセスを補完する。DevOpsは、中断を減らすことに重点を置く。こうした中断の多くは散発的で予期できないシステム障害につながり、システムへのアクセス性が低下する。一方、機械学習モデルは徐々に老朽化する。MLOpsはこうした避けられな老朽化に対処する。

　MLOPsでは、実用最小限の製品（Minimum Viable Product：MVP）の作成から着手する。このMVPにより、研究段階と導入段階の間に存在するギャップを早期に特定できるようになる。MVPが顧客の問題に実際に対処し、トレーニングデータと実際のデータの間にずれがないことが証明された後は、モデルをいつでも調整して精度を上げることができる。

　企業は、モデルとシステムを運用環境で数サイクル実行してから、導入後のライフサイクルの自動化を試みる。データの変化に追従するため、モデルの作成者はトレーニングの頻度を推測し、こうした推奨事項に従ってスケジュールを設定できる。だが、モデルの再トレーニングの最適な間隔が常に一定だとは限らない。モデルの再トレーニングが不十分であれば予測が不正確になる可能性があり、トレーニングを頻繁に行えばコンピューティングコストが高くなる可能性がある。

　プレンキ氏はもっと優れたプラクティスとして、ある瞬間のモデルの正確性を評価することによるAI機械学習モデル入出力の統計的特性を追跡することを提案する。そのためには、データ監視ツールに投資し、機械学習チームにデータアナリストを追加雇用する必要がある。

コミュニケーションを改善する

　DevOpsという分野が誕生したのは、企業が開発者チームと運用チームのコミュニケーションギャップを認識したためだ。MLOpsは、機械学習モデルを開発するデータサイエンティストと、モデルを運用する運用チームとの同様のギャップに対処する。このギャップは、技術的課題よりも文化的課題が大きい。

　運用環境への機械学習の導入によって、企業のデータサイエンティストチームと運用チームの間で専門知識と経験に関するギャップが生じる恐れがある。両チームは、互いが核とする考慮事項を完全には把握していない状態で、機械学習実行時のそれぞれの役割を担っていることが多い。

　運用環境における機械学習モデルの管理ツールプロバイダーParallelMのCEOであるシヴァン・メッツガー氏は次のように語る。「多くの企業が犯す失敗は、データチームが問題そのものを解決して機械学習工程を完成まで導くという思い込むことだ。この失敗が必然的に両チームの不満につながり、期待する成果を得られなくなる」

　運用環境への機械学習モデルの導入を成功させるには、運用チームとデータサイエンティストが最初から連携することで、結果として生じるモデルが好ましい結果をもたらし、モデルの管理が簡単で、定期的にモデルを更新できることを企業が認識しなければならない。両方のチームが協力して、機械学習の導入、管理、スケーリングの自動化を最適化するためのガイドラインを設定する必要があるとメッツガー氏は言う。