PR

AIをリスクにしないために必要なこと

AI時代に求められる「信頼できるデータ基盤」としての文書管理システム

「取りあえずクラウド共有」はAI時代にはリスクとなる。AIがドラフトや古い文書を学習することで、誤情報が生じるリスクに企業はどう対応すべきか。文書管理のコツを解説する。

※本記事では、生成AIおよびAIエージェントのことを「AI」と記載しています。

　AIは文書やナレッジをインプットにして新たな情報や要約文書を作成する。AI活用が企業競争力を左右する時代に、AIの力を最大限生かすためには、インプットとなるデータ・文書などの整備・管理が不可欠である。一方で、AIの活用が進むほど、企業が向き合うべきリスクも高まる。そのリスクには大きく2つの側面がある。

　一つは、「AIが生成する文書が正しいとは限らない」という点だ。AIを利用することで、短時間で文書を作り出せるようになったが、その内容が事実に基づいているかどうかは保証されない。もっともらしい誤情報を生成するハルシネーション現象は、総務省の『令和6年版 情報通信白書』でもリスクとして指摘されている。

　もう一つは、「AIを十分に活用できない」ことだ。AIは、適切な情報が与えられることで初めて力を発揮する。現場の知見やノウハウが反映されたデータが不足していたり整理されていなかったりすると、期待した効果を得られない可能性がある。リスクを抑えながらAIの力を引き出すには、どうすればよいのか。

※本稿は、ITmediaエンタープライズからの転載記事です。