――　AIサイバー攻撃は流行すると考えていますか。

タリー氏　特にソーシャルメディアに関しては、流行すると考えている。ZeroFOXがこの分野に取り組んでいるのはそのためだ。ユーザーはTwitterや「Facebook」「LinkedIn」「Instagram」といったソーシャルネットワーキングサービス（SNS）を信頼する傾向がある。SNS内に友人がいるのを確認しており、そのシステムと安全性を、さらには友人と安全性をそれぞれ結び付けているためだ。

　私たちは、自分のSNS投稿に対する「いいね」を欲しがっている。動機が与えられ、脳が活性化するからだ。自分の投稿がリツイート（再投稿）されるたびに快感のようなものを覚えることもあるだろう。この種の行動は、一般的なセキュリティ対策とは相いれない。

　ゴールデンゲートブリッジでの自撮り写真を投稿しても、トラブルには巻き込まれない。だが自分の住所や、極端だが社会保障番号やクレジットカード番号についてつぶやき始めたら問題になる。こうした行動を取るユーザーは多くない。とはいえクレジットカードが写り込んだ自撮り写真を撮影するユーザーの数には驚くだろう。

　ソーシャルメディアでの個人データに関しては特にそうだが、できるだけ秘密を守ることを全員に推奨したい。個人的な会話を見られてから、アカウントを乗っ取られたとする。会話の内容が、自分の不利な使われ方をする恐れはないだろうか。そうした個人データや個人的会話が、誰かに使われて脅迫されることもあるだろう。

　有名人にはこのような出来事がよく起こる。多くの注目を集めているからだ。金銭的理由もある。有名人を脅迫すれば、一般人よりも多くの金銭を得られる可能性があると考えるからだ。ただし個人データの急増により、攻撃者はあることに気付く可能性がある。一般ユーザーを標的にすれば、少しばかり作業が多くなるものの、条件次第では有名人を標的にした場合と同程度の利益を生み出す可能性がある、ということだ。標的とする対象を広げることと、一般ユーザーの不安感を絶えずあおり、ある意味利用することが条件となる。

――　SNAP_RによるAIサイバー攻撃を実施する難しさは、どの程度でしたか。

****　タリー氏　SNAP_Rのポイントは、どのツイートが安全で、どれが悪質かを気にする必要がなかったことだ。必要なのは、ユーザーが気にしていることだけだった。

　ただしSNAP_Rと同様のAIサイバー攻撃に対する防御策を講じるには、把握している悪意のあるツイート全てを基礎に置く必要がある。その上で、まとまった量の安全なツイート群を用意し、各ツイートにラベルを付ける。そうすることで、AIエンジンはツイートの違いを見分け、分類できるようになる。

　ラベル付けにはボトルネックが伴う。現在はラベル付けを可能にしたAIエンジンが登場しつつあるが、非常に複雑だ。これらのAIエンジンがよく採用するディープラーニング（深層学習）技術は、多くの処理層で構成されており、1つの層ごとに多数の要素が関わる。そのためパラメーターが無数に存在する。こうした複雑なAIエンジンを使用する場合、必然的にラベル付けをするデータも、より多く必要になる。

　良いデータと悪いデータがそれぞれ100個ずつ、といった規模ではどうにもならない。現在では、良いデータと悪いデータが10万個ずつ、あるいは数百万個ずつという規模で必要になる。カンファレンスで取り上げたAIエンジンが運用環境に導入されるなら、こうした規模のトレーニングがなされると確信している。顧客はそこに価値を見いだすことになる。

　実現は簡単ではない。AIエンジン自体だけでなく、データのラベル付けについてもそうだ。データサイエンティストとしては、こうした作業に最も多くの時間を取られている。データは基本的に構造化されていないため、まずはデータを構造化し、配置する。それを読み取ったらラベルを付けて、各データを「はい」「いいえ」や「安全」「悪質」といった要素に関連付ける必要がある。

　攻撃者はこうしたボトルネックも悪用できるため、長期的に見ると攻撃者の方が優位な立場にある。今後は攻撃者の勝算が高まっていく状況になるだろう。企てに失敗しても、それに伴う損失はそれほど大きなものではない。結果として攻撃側の優位性だけが高まり続けていく。