“人工知能ハッカー”は囲碁同様に人間のセキュリティ対策を打ち破るのか（1/2 ページ）

サイバーセキュリティの世界では、ソフトウェアの不具合を自動的に検出して修正できる人工知能（AI）が現実のものとなりつつある。だが、まさにそれと同じ技術が自律型ハッキングにも使われる可能性がある。

公開 2016年04月12日 15時01分

更新 2016年04月12日 17時59分

著者

Michael Heller

[TechTargetジャパン]

印刷する

プロ棋士に勝利したAIプログラム「AlphaGo」（出典：Google DeepMind）《クリックで拡大》

　2016年2月末から3月にかけて開催されたセキュリティカンファレンス「RSA Conference 2016」において、通信事業者BT Americaでセキュリティコンサルティング担当最高技術責任者（CTO）を務めるコンスタンティノス・カラギアニス氏は、人工知能（AI）は向こう10年間で飛躍的な進歩を遂げるとの見方を示した。ただし、ソフトウェアのバグを検出して修復する自律型プログラムは早くも2016年夏にお目見えするかもしれない。

人工知能が変える未来

AI開発の課題

ソフトウェアのバグを監視

　カラギアニス氏によれば、ハッキングマシンといえば従来、狭義の人工知能（AI）さえ搭載しない脆弱（ぜいじゃく）性スキャナのことを指した。こうしたスキャナには幾つか設計上の欠陥があるため、自律型ハッキングやパッチの自動配信にはあまり広く採用されていない。中でも最大の欠点は、多段思考力に欠けている点だという。

　「脆弱性スキャナについては、衝突判定プログラムと考えるのが妥当だ。マサチューセッツ工科大学（MIT）が開発した小さなゴキブリ型ロボットのようなものだ。自ら動いて壁を見つけ、動き回ることはできるが、決して学習はしない。このことは多くの脆弱性スキャナに当てはまる。“これはできる”“これはできない”と判断しながら先に進むことはできても、多段階の思考力はない」と同氏は語る。

　さらに同氏によれば、AIプログラムには論理の流れが不可欠であり、自然な成り行きに従う能力が必要だという。IBMのチェス専用スーパーコンピュータ「Deep Blue」や対話型意思決定支援システム「Watson」は機械による思考が可能であることを示してみせたが、それでもまだシングルタスクにフォーカスした狭義のAIだ。

　Google傘下となったDeepMindが提供するような最新のAIや各種のニューラルネットワークは、人間の知性をアルゴリズムに置き換え、人間の短期記憶と同じ働きを再現できる。短期記憶を高速周期で繰り返すことで、マシンはAtariのゲームから囲碁まで、さまざまなゲームのプレイ方法や攻略法を学べるようになった。囲碁は従来、AIの性能を図る重要な尺度と見なされてきたが、Google DeepMindのAIプログラム「AlphaGo」は2016年3月に囲碁のプロ棋士との対局で勝利し、大いに注目を集めた。カラギアニス氏によれば、囲碁では逐次的な意思決定が必要とされるが、それはハッキングにも通じる能力だという。

DARPAのサイバーグランドチャレンジ

　AIはもう1つ大きな課題への挑戦を控えている。それは、2016年8月開催のハッカーの祭典「DEF CON」において米国防総省国防高等研究計画局（DARPA）が主催するセキュリティ競技会「Cyber Grand Challenge」の決勝戦だ。この競技会では、完全自動制御のネットワーク防御システムの構築を競い合う。こうしたハッキング技術の競技会は一般に「Capture The Flag（CTF、“旗取り合戦”の意）」と呼ばれる。

　「DEF CONで実施されるCTFは、誰が最初に新しい脆弱性を見つけられるかを競うものではない。全く違う。まず初見の新しいソフトウェアやサービスのセキュリティ欠陥を見つけなければならない。参加チームには、セキュリティ欠陥を含む真新しいバイナリが与えられる。チームはそうした欠陥を検出するだけでなく、自分たちのチームの環境を防御し、稼働させ続けなければならない。そうしたことを全てこなせているかどうかを審査員が確認する」とカラギアニス氏は語る。

　同氏によれば、この競技会に参加するマシンは未知のソフトウェアをリバースエンジニアリングし、ソフトウェアのバグをリアルタイムで修復することになるという。マシンが使用するOSは一般に広く使われているソフトウェアとの互換性を備えていないが、変更は容易に行える。

　予選では、競技参加者らはバイナリのソフトウェアバグの73％を見つけることができ、また脆弱性は全て修正されたという。

　「これが競技会ではなく現実世界だとすれば、たとえ非効率的で洗練されてない方法であれ、マシンで自動的にソフトウェアにパッチを当てられる方が自社のネットワークの脆弱性を放置するよりもはるかにいいのではないだろうか」とカラギアニス氏は語る。

　同氏によれば、この競技会に参加するAIマシンに対してDARPAが求めている要件は、現

役のITスペシャリストやセキュリティ研究者に失職の不安を抱かせるようなものだという。DARPAはマシンに対し、「コンピュータソフトウェアを自律的に分析して理解する能力」「ソフトウェアの不具合を自動的に修正する能力」「脆弱性をスキャンし、検出したセキュリティ欠陥の存在を証明する能力」「サービスのレジリエンス（回復力）を提供する能力」「リアルタイムでシステムを保守する能力」「セキュリティ欠陥を検出して修正する能力」などを求めている。

次ページへ 10年以内には自律型ハッキングが現実に