自動コンテンツキュレーションの課題に対処

YouTubeやTwitterは有害コンテンツ排除に「AI」をどう活用しているのか

新型コロナウイルスが労働者を混乱の渦に巻き込んでいる。そんな中、機械学習を使用して有害なコンテンツを自動的に検出、削除する動きがソーシャルメディア企業の間で広がっている。実例を見ていこう。

公開 2020年05月08日 05時01分

更新 2022年08月31日 08時27分

著者

Mark Labbe

[TechTarget]

印刷する連載新着通知を受け取る

　新型コロナウイルス感染症（COVID-19）が全世界に広がる中、YouTubeやTwitterなどのソーシャルメディア企業は、在宅勤務を強いられる従業員の代わりを務める「自動コンテンツキュレーション」を強化している。自動コンテンツキュレーションは、記事や動画といったデジタルコンテンツを自動的に収集・編集する仕組みのことだ。

自動コンテンツキュレーションの課題

併せて読みたいお薦め記事

「AI」がメディアを変える

ソーシャルメディアとテクノロジー

　YouTubeやTwitterは長年機械学習システムと自社従業員の両方を組み合わせて、利用規約に反するコンテンツを検出・削除してきた。これまで、両社は有害な恐れのあるコンテンツを機械学習システムによって特定後、従業員が目視でチェックしてきた。

　2020年3月16日、YouTubeとTwitterは各社のブログ記事に、新型コロナウイルス感染症流行の危機にさらされている間は「これまで以上に自動コンテンツキュレーションを活用する」と投稿。その中で両社は「自社のシステムはミスを犯しがちなので、誤って削除されるコンテンツが通常よりも増える恐れがある」とユーザーに警告した。

AIによる自動化の可能性と課題

　YouTubeとTwitterのシステムは「まだ自動化の準備が完全には整っていない」と語るのは、コンサルティング／市場調査企業Deep Analysisの創業者アラン・ペルツ・シャープ氏だ。両社の準備がまだ十分ではないとしても「準備が終わるまで待つよりも、今すぐ行動に移す必要性の方が高い」とペルツ・シャープ氏は指摘する。「現時点で準備を終えておくべきだったが、コストや複雑さ、緊急性の低さがそれを妨げていた。ここ数週間で状況は一変し、今こそ急を要している」（同氏）

　とはいえ、AI（人工知能）システムには学習能力がある。「長い目で見ればAIシステムが自身で改良を遂げる」とペルツ・シャープ氏は話す。

　Twitterは自社のブログで、AIシステムの利用が増えたとしても、自動コンテンツキュレーションシステムのみによってアカウントを永久凍結することはないだろうと述べている。影響の大きい部分については人手による確認を組み込む機会も引き続き模索していくという。

　新型コロナウイルスに対する混乱の中で働き方が変化して人員整理が進む中、多種多様な企業がAI技術のさらなる活用方法を見いだしていくと予想される。その結果、企業におけるAI技術の活用が促されるだろう。

　最も分かりやすいAI技術の活用方法は、仕事のさらなる自動化だ。「キー入力を必要とする細かい仕事は、これまでにない規模で自動化されるだろう」とペルツ・シャープ氏は話す。そうした仕事の一部はこれまでも可能な範囲で自動化されてきた。だが「壮大なAIプロジェクトが優先され、後回しにされることも多かった」と同氏は指摘する。今回の緊急事態が終息すれば、後回しにされた多くの仕事が自動化され、AI技術の導入が大きく進むだろう。「それは、AI技術を重視する抜本的変化になる」（同氏）