「AI利用」に関連して読みたい編集部お薦め記事

全社標準「Copilot」にダメ出し？　現場の8割が不満を抱く“致命的な欠点”

IBMのマネジャーがそっと教える　“AIを使って首”につながるリスク5選

　2022年後半にChatGPTが突如として登場した後、MoonPayの経営陣はステルス型のAIセキュリティスタートアップであるAim Securityと連携した。

　「ChatGPTの初期には、『ChatGPT Enterprise』も『ChatGPT Pro』もなく、ただのChatGPTしかなかった」とイノチェンティ氏は振り返る。「隔離機能は存在しなかった。Aim Securityは防御メカニズムを備えていただけでなく、エンタープライズレベルの匿名化やブロック機能を持つセキュアなポータルを構築した。ChatGPTにはなかった機能だ」

　ChatGPTに続いて多様な生成AIモデルが登場する中、Aim Securityは進化を遂げた。ネットワーク上で内部AIコンポーネントを使用しているツールをスキャンし、ツール開発者がモデルのトレーニングにそれらのコンポーネントのデータを使用しているかどうかを評価できるようになった。さらに、ツールがどの基盤モデルを使用しているかや、他にどのような目的でデータを使用する可能性があるかを特定することも可能にした。

　「ツールで独自の評価を実施し、どれを選択すべきかを把握できた」とイノチェンティ氏は言う。「そのため、ポスチャ管理と、自社で実施したかった組み込み調査機能の両方を兼ね備えていた」

　Aim Securityは2025年にCato Networksに買収され、同ツールは「Cato AI Security」に改称された。イノチェンティ氏によると、MoonPayはCato Networksの製品を含む他のSASE（セキュアアクセスサービスエッジ）ツールの調査を進めているが、まだ購入には至っていないという。

　Cato NetworksはAim Securityの機能をFWaaS（Firewall as a Service）などのSASE製品群に統合した。イノチェンティ氏によると、これによりMoonPayが現在Aim Securityを展開している個々のワークステーションのブラウザよりも上位レベルでシャドーAIの活動を検知できる可能性があるという。

　「AIの防御はエンドポイントではなく、トランスポート機構やネットワーク層で必要になる。これはチームと継続して議論している論点だ」と同氏は語る。

　MoonPayがClaude CoworkなどのAIエージェントの利用を開始する中、イノチェンティ氏は「Cato AI Securityは、現在の利用をブロックするのではなくガバナンスを効かせるための手厚いサポートを提供してくれる」と述べる。「Coworkや自社が保有する他のコンポーネントの前面に配置され、そこに投入される可能性のある機密データを監視できる」

　それでも、エージェント型AIの急速な進化は継続的な課題だとイノチェンティ氏は指摘する。

　「エージェント型AIで悩ましいのは、就寝してから目を覚ますまでの間に新しい技術が登場していることだ」と同氏は話す。「それでも、従業員が可能な限り新しいAI技術を活用できるようにするという基本方針は変わらない。どうしても『ノー』と言わざるを得ない場合でも、私たちの最大の関心事は『どうすればノーをイエスに変えられるか』になる。『ノー』は単なる一時的な停止点にすぎず、適切な方法を見いだすことができる。単にブロックすればよいというわけではない」

従業員は「最も脆弱な環」であり「最も強固な環」でもある

　MoonPayは2026年初頭、組織の再編を実施し、同年5月にはイノチェンティ氏が既存のCIO職に加えCISOの役割も兼任することになった。

　「ITチームは、セキュリティの観点から必要なことを実行する上での基本的な拠点だった。そのため、セキュリティ体制を理解し全体的なポリシーを構築する責任を担うことは、IT部門が既に担っていた役割が進化したに過ぎない」とイノチェンティ氏は説明する。

　この組織統合によって、MoonPayのITチームとセキュリティチームの連携が深まった。

　「IT担当者がセキュリティ担当者のように話し、セキュリティ担当者がIT担当者のように話す光景が見られるようになった。状況によっては対立関係になりがちだが、双方がパートナーシップとして捉え、協力し合おうとしている」とイノチェンティ氏は語る。

　Cato AI Securityが機密データに対する潜在的リスクを可視化する仕組みは、従業員のトレーニングやコミュニケーションでも重要だと同氏は述べる。

　「AIツールを安全に利用する正しい方法で従業員を支援するのに役立っている。今ではチケットで『このような処理をしたいのだが、より良い方法はあるか』といった質問が寄せられるようになった」とイノチェンティ氏は言う。「従業員は、そうした質問をしても問題ないことを理解している」

　「あらゆるセキュリティスタックで、従業員は最も脆弱（ぜいじゃく）な環であると同時に、最も強固な環でもある」と同氏は話す。「適切な質問をし、一度立ち止まって考えられるよう従業員を強化できれば、私たちの勝利だ」

決済プラットフォーム企業Equalsのケース

　英ロンドンに拠点を置く決済プラットフォーム企業Equalsでは、アプリケーションコードの86％がAIエージェントによって記述されている。2025年の5～10％から増加しており、100％を目指している。AIエージェントの活用はビジネス面でも価値をもたらしており、法務チームによる契約書レビューやカスタマーサポートチームによる苦情処理の迅速化に貢献している。

　しかし、EqualsでCPO（最高製品責任者）を務めるジェームズ・シムコックス氏は、AIの無制限な利用に伴うリスクを十分に認識している。従業員はプライベートで使い慣れているAI製品を使いたがり、職場でツールが期待通りに動作しないとアクセス権限を広げるためにセキュリティ設定を変更してしまう可能性がある。

　「『自分はこのツールを導入しようとしている責任者だ。自分には管理者権限があるから、この製品にも管理者アクセス権を付与しよう』と考える人がいる」とシムコックス氏は言う。「そして設定したことを忘れ、必要以上の情報へのアクセス権を持ったまま本番環境に移行してしまう。これは悪意によるものではない。ただ『自分の仕事を全うしたい』という思いから生じている」

　同社ではAIによって代替された人員はおらず、成長を続けている。2025年の売上高は2桁成長を記録し、取引処理額は約600億ポンド（約12兆9375億円）を超えた。開発者はより戦略的な技術タスクに注力するようになり、プロダクトマネジャーは小規模で技術的専門性が低いアップデートを担当している。

　シムコックス氏によると、AIが生成したコードが下流工程で新たなボトルネックを生み出しているため、エージェントによるコーディングに伴いコードレビューやソフトウェアのリリースプロセスの見直しを余儀なくされたという。コーディングを行うAIエージェントに対する人間の監視が必要になったことから、同社は2026年、セキュリティチームの人員を2倍に増やした。

　「システムをより標準化されたコンポーネントに細分化した。これにより、ソフトウェア開発時にAPIゲートウェイのセキュリティ層などを個別に意識する必要がなくなった。製品側で処理されるためだ」とシムコックス氏は語る。「ただし、リリースのペースが大幅に加速したことで、予期せぬ場所にボトルネックが発生する可能性があり、現在も対応を進めている」

新たなAIの脅威には新たなツールが必要

　EqualsでシャドーAIの利用を抑制するには、組織体制の整備と従業員へのAIツール活用トレーニングが重要な要素だった。一方で、AIを悪用したサイバー攻撃が高度化し増加するにつれ、新たなツールも必要になったとシムコックス氏は述べる。

　「ツールの数を絞り、より広範な領域をカバーする製品を採用した。特に人間に近い振る舞いをするAIエージェントの台頭により、攻撃は単なるボットによるエンドポイントへの機械的なアクセスには見えにくくなっている。人間が試行錯誤しているように見えるため、複数の個別ツールでは検知できない可能性がある」（シムコックス氏）

　Equalsは複数のアプリケーションセキュリティ監視ツールを「Wiz」に置き換えた。さらに、従業員のID管理と認可のために「Okta Identity Security Posture Management」（ISPM）を導入し、顧客のID管理と認可にはOktaの「Auth0」を採用した。

　「ITチームやセキュリティチームが社内のあらゆるツールを一日中巡回し、『担当者が誤ってこのAIツールに全顧客データへの管理者権限を与えてしまったようだ。これは問題かもしれない』と確認して回るのは極めて難しい」とシムコックス氏は言う。「そこで役立つのがOkta ISPMだ。さまざまなツールを横断して可視化し、『このユーザーは想定どおりの行動をしていない』『このユーザーが3秒間に14種類の異なるツールにログインした』といったプロアクティブなアラートを出してくれる」（シムコックス氏）

　理想的には、Equalsの顧客全員がパスキーまたはハードウェアセキュリティキーを使ったシングルサインオンと二要素認証を利用することが望ましいとシムコックス氏は語るが、それを期待するのは現実的ではない。代わりにAuth0を導入したことで、顧客に厳しいログインポリシーを課すことなく多層防御を実現できた。

　「非常に幅広い顧客層に対応しなければならない」と同氏は述べる。「顧客の行動様式を重視しており、ログインプロセスのAuth0からの追加データをプラットフォームに多数投入している」

　Equalsのシステムは、一見不審なログインであっても通過させることがある。ただしAuth0でそのアクティビティーを監視し、トランザクション監視システムに情報を連携する。不審なログインが不審な取引につながった場合、Equalsはその取引をブロックすることがある。

　「私たちが真に注視すべき行動のポイントにセキュリティを移行させようとしている」とシムコックス氏は語る。

　EqualsのAIセキュリティ対策の一部は他社にとっても有用な可能性があるが、事業を展開する市場やソフトウェア開発の経験によって効果は異なる可能性があるとシムコックス氏は注意を促す。

　「金融サービスが提供する成果物は全てソフトウェアだ。提携銀行と自社の望む方法で連携できる市販製品は一般に存在しないため、社内ツールを自作することには慣れている」とシムコックス氏は述べる。「自社ビジネスに向けて新しいソフトウェアを迅速に展開することは、当社にとっては容易だ」