突如として話題になった中国製AI「DeepSeek」が市場の関心を集める一方で、セキュリティベンダーが同モデルの脆弱性を指摘している。その具体的なリスクとは。
2025年1月27日、中国のAIベンダーDeepSeekは、大規模言語モデル(LLM)「DeepSeek R1」を発表した。そのコスト効率の高さやオープンソースである点が注目を集め、それまで米国一強だったAI市場の勢力図に変化の兆しが見られるなど、AI市場には一時的に混乱が生じた。
しかし、DeepSeekの発表から数日後、セキュリティベンダーPalo Alto Networksの研究者は、DeepSeek R1に特定の脆弱(ぜいじゃく)性があることを明らかにした。その具体的なリスクとは何なのか。
Palo Alto Networksの技術チームは、3つの「ジェイルブレーク」(脱獄)技法がDeepSeekのセーフガードを突破したことを明らかにした。ジェイルブレークとは、特定のプロンプト(情報生成のための質問や指示)を入念に作成したり、脆弱性を悪用したりすることで、LLMが備える防御ルールを回避し、モデルが避けるべき出力(バイアスがかかった出力や有害な出力など)を引き出す技法を指す。
本来、大規模言語モデル(LLM)がマルウェア作成などの不正目的に利用されるのを防ぐべきルールが設定されているが、攻撃者がジェイルブレークを使うことで、容易に回避できてしまう可能性がある。Palo Alto Networksによれば、ジェイルブレークを扱うための専門知識はほとんど、もしくは全く必要なかったという。
実証では、サイバー犯罪者が関心を持つ分野に関する具体的なガイダンスをDeepSeekから引き出したという。これには、データの不正取得や、マルウェアの作成に関する指示が含まれた他、即席爆発装置(IED)の製造方法に関する情報も生成可能であることが確認された。
火炎瓶やマルウェアを作成するための情報はインターネット上で簡単に入手できる。一方で、LLMは簡単に使える実用的な情報を整理して出力することができる。「LLMの安全対策が不十分な場合、悪意あるユーザーの参入障壁を下げ、活動が大幅に加速する恐れがある」と同チームは警告する。
次回は、ジェイルブレークの代表的な手法について詳しく解説する。
米国Informa TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
AIは生産性や顧客満足度の向上などさまざまな効果をもたらすが、その導入時に、AIモデルの管理/監視、従業員のスキルギャップ、データの一貫性などの課題に悩まされる企業は多い。これらを解消するために必要な、AI戦略の進め方とは?
企業にとって生成AIは、生産性向上や収益性増加をもたらす重要な技術だが、導入には多くの課題が存在する。PoC(概念実証)段階で約30%の企業が導入を断念するといわれる生成AIプロジェクトを成功に導くための方法を紹介する。
生成AIによって既存業務の生産性向上といった成果を上げる企業が増えている今、AIをより効果的に活用するための鍵になるといわれているのが、AI処理に特化した「Copilot+ PC」だ。AI PCが具体的にどのような変化をもたらすのかを解説する。
企業のDX支援などを手掛けるSpeeeでは、各チームの業務に最適化されたAIエージェントを、現場レベルで自律的に開発/活用するための環境を提供している。このようにAIとデータの活用を民主化した理由とシステム構成を解説する。
ビジネスにおけるAIへの依存度が高まる一方、AIのアウトプット品質に関する懸念が広まっており、導入をためらう組織も増えている。本資料では、AIシステムの精度を高め、アウトプットの品質を担保するための具体的な方法を解説する。
いまさら聞けない「仮想デスクトップ」と「VDI」の違いとは
遠隔のクライアント端末から、サーバにあるデスクトップ環境を利用できる仕組みである仮想デスクトップ(仮想PC画面)は便利だが、仕組みが複雑だ。仮想デスクトップの仕組みを基礎から確認しよう。
「サイト内検索」&「ライブチャット」売れ筋TOP5(2025年5月)
今週は、サイト内検索ツールとライブチャットの国内売れ筋TOP5をそれぞれ紹介します。
「ECプラットフォーム」売れ筋TOP10(2025年5月)
今週は、ECプラットフォーム製品(ECサイト構築ツール)の国内売れ筋TOP10を紹介します。
「パーソナライゼーション」&「A/Bテスト」ツール売れ筋TOP5(2025年5月)
今週は、パーソナライゼーション製品と「A/Bテスト」ツールの国内売れ筋各TOP5を紹介し...