患者の保護と専門家による医療の質向上が狙いか
心理療法でのChatGPT利用の危険性とは 「いつでも気軽に相談できる」のワナ
米国で、心理相談や心理療法におけるAIチャットbotの活用に“待った”を掛ける法案が制定された。AIチャットbotが相談相手になることで生じるリスクや課題を示す複数の研究を紹介する。
「ChatGPTを個人的な相談相手にする」といった使い方も登場する中、米イリノイ州は、心理相談や心理療法における人工知能(AI)の使用を禁止する法律を制定した。
頼り過ぎは禁物? “AIセラピスト”が規制される理由
併せて読みたいお薦め記事
嘘をつくこともある、生成AIとどう共存していくか
2025年8月、米イリノイ州知事のJ.B.プリツカー氏は、心理療法の業務提供に関する規制強化を目的とした法律「Wellness and Oversight for Psychological Resources Act」に署名した。同法により、心理療法の実施や臨床的意思決定にAIを使用することは禁止されることになった。ただし、業務補助の目的に限ってAIを使うことは認められている。
同法は、イリノイ州の州政府機関(IDFPR)が、州議会議員や全米ソーシャルワーカー協会イリノイ支部(NASW-IL)の協力を得て策定された。
「インターネット上の情報を寄せ集めて有害な回答を生成するコンピュータプログラムではなく、有資格の専門家による質の高い医療を受けるべきだ」。IDFPRの長官、マリオ・トレト・ジュニア氏はこう述べている。
イリノイ州以外の州でも、心理相談や心理療法におけるAIチャットbotの潜在的被害からユーザーを守るための法整備が進められている。ニュージャージー州では2025年6月、AIソリューションを有資格の精神保健専門家として宣伝することを禁止する法案が議会を通過した。ユタ州では、心理相談でAIチャットbotを利用するユーザーを守るため、AIチャットbotに特定の情報開示を義務付ける規定を設ける法案が2025年5月、正式に州法として登録され、施行される計画だ。
イリノイ州の動向をはじめとして、AIを活用した心理相談や心理療法に対する懸念は高まりつつある。
スタンフォード大学の研究によると、大規模言語モデル(LLM)を使って心理相談を受けるAIチャットbotが、特定の症状を持つ患者に否定的なメッセージを伝えたり、希死念慮や妄想を訴える患者の行動を煽ったりする反応を示すリスクがあることが明らかになった。研究結果を基にした論文は2025年8月、オープンアクセスリポジトリ「arXiv.org」に公開された。論文のタイトルは「Expressing stigma and inappropriate responses prevents LLMs from safely replacing mental health providers」だ。
AIが偏見に基づいたコンテンツを生成するリスクや、AIモデルの臨床的有用性に懸念を示す研究結果は、これだけではない。
中国の研究者らは2023年3月、アルゴリズムを用いて脳画像から精神疾患の有無や種類を判別、予測するAIシステムに関するバイアスの発生リスクを検証した。その結果、脳画像へのAIシステムの利用は臨床応用性が低く、AIシステムにバイアスを発生させるリスクがある可能性があることが分かった。
この結果は、2023年3月発行の医学雑誌『The Journal of the American Medical Association』の姉妹誌「JAMA Network Open」に掲載された論文「Evaluation of Risk of Bias in Neuroimaging-Based Artificial Intelligence Models for Psychiatric Diagnosis」に公開されている。
2025年1月、アメリカ心理学会(APA)は、セラピストを装ったAIチャットbotの無規制な開発と誤解を招く運用に対する懸念を表明した。さらに、米連邦取引委員会(FTC)に対し、規制がない中で運用されているAIチャットbotからユーザーを保護し、精神医療におけるAIの安全かつ倫理的な利用を促進するよう求めた。
2024年に公開された調査結果では、米国の成人が、精神医療におけるAIの利用について、誤診の発生や、不適切な治療法の適用、機密保持の問題といった懸念を示していることが明らかになった。論文の基となった調査結果は、同年9月に公開された雑誌『Journal of Medical Internet Research』に掲載された論文「Patient Perspectives on AI for Mental Health Care: Cross-Sectional Survey Study」で公開されている。
Copyright © ITmedia, Inc. All Rights Reserved.
本記事は制作段階でChatGPT等の生成系AIサービスを利用していますが、文責は編集部に帰属します。
この記事の著者
新着ホワイトペーパー PR
-
事例
[ServiceNow Japan合同会社] 大阪市の未来を創る「行政DX」の本質と、その取り組みを支える統合基盤の実力 -
事例
[ServiceNow Japan合同会社] 【行政DX先進事例】横浜市が「市民に大切な時間を返す」を実現できた理由とは? -
市場調査・トレンド
[ServiceNow Japan合同会社] 「行政DXの利益」を得られていない行政機関はどこでつまずいているのか? -
事例
[ServiceNow Japan合同会社] 藤沢市の「シン・シヤクショプラットフォーム」が問い合わせ電話を減らせた理由 -
市場調査・トレンド
[SAS Institute Japan株式会社] 79%が直面したAI判断手動修正のワナ 手戻りを防ぎ、ROIを最大化する方法
こんなメディアも見られています
TechTargetジャパンに関連する情報をお探しであれば、こちらのメディアもお役に立てるかもしれません。
ベンダーコンテンツ PR
From Informa TechTarget
SpecialPR
アクセスランキング
-
1
PC選びの妙で差がつくAI時代 通常PC、AI PC、Copilot+ PCをどう使い分ける?
-
2
企業が「Microsoft Azure」を選ばざるを得ない理由
-
3
Microsoft 365侵害企業の9割はMFA導入済み 1002人調査で見えた盲点
-
4
「オフィス移転・刷新に伴うネットワーク環境の実態」に関するアンケート
-
5
「サプライチェーン管理」に関するアンケート
-
6
「社用車」に関するアンケート
-
7
顧客を待たせない体制はどう作る? SBI証券のコールセンターシステム刷新術
-
8
NVIDIA「一強体制」の終わりか データセンターを襲う“電力の壁”
-
9
なぜMicrosoftは「Rust」を標準言語に? AIで進むC/C++書き換えの課題
-
10
なぜノートPCの更新が「4年→6年」に? AIインフラ急拡大の余波
ホワイトペーパーランキング PR
-
1
「IT史に名を残すシステム障害」8選
-
2
AIが苦手な「汚いデータ」になっていない? AI投資を無駄にしないための注意点
-
3
急増する高度なフィッシング詐欺 先回りしてブロックするには何が必要?
-
4
法人向け光回線のプランはどう選ぶ? 機能面/保守体制/コストを一覧で比較
-
5
サイバー脅威「トップ50」完全解説ガイド、新たな攻撃手法に対抗するには
-
6
SNMPより詳細で、パケット解析より簡単な「トラフィック可視化・分析」の方法
-
7
三井ホームに学ぶ「無線LAN環境」構築 快適なオフィスと高度なIT運用の両立法
-
8
Microsoft 365のメールセキュリティ、3つの“死角”と追加で検討すべき対策とは
-
9
自社のメール環境は本当に安全? チェックシートですぐ分かる“今必要な対策”
-
10
「RPA導入の成果が出ない」を防ぐ、成果につながる自動化対象業務の選び方
TechTargetジャパン SNS
インフォメーション
注目情報をチェック
TechTargetジャパンをフォロー