AIガバナンスに人文学が必要な理由：「技術的に正しい」が間違いを犯す
IBMのディスティングイッシュトエンジニア、ジェフ・クルム氏は、生成AIの活用が広がるほど、人文学の知識が重要になると指摘する。その理由は。
生成AIは、文書の要約や情報収集、プログラムの作成、画像や音楽の生成など、幅広い作業を高い精度でこなせるようになった。企業では問い合わせ対応や文書作成、データ分析、システム開発などへの活用が進み、AIが人間の知的作業の一部を担う場面は急速に増えている。
一方、IBMのディスティングイッシュトエンジニア、ジェフ・クルム氏は、AI活用を進めるに当たっては、技術を扱う能力だけでなく、倫理や哲学、歴史、言語、文化を通じて目的や価値を考える「人文学」が重要だと説く。その理由は。
生成AI時代になぜ「人文学」が必要なのか？
併せて読みたいお薦め記事
パハルシネーションの関連記事
生成AIは、文書の要約、質問への回答、調査、コードの記述、音楽の制作などを実行できる。その出力は、あたかもAIが内容を理解しているように見える。
一方クルム氏は、生成AIが言語を生成できることと、その言葉の目的や価値を人間的な意味で理解していることには隔たりがあると指摘する。AIを、責任を持って利用するには、流ちょうな出力を作れるかどうかではなく、何が良く、何が倫理的なのかを人間が判断しなければならない。
科学、技術、工学、数学を指す「STEM」は、物事がどのような仕組みで動くのか、どうすれば目的通りに機能させられるのかを解明することに長けている。
例えば、コンピュータサイエンスはAIモデルを構築する方法を示すことができる。工学では、AIを業務システムに組み込む方法を考える。数学はモデルの精度や確率を計算できる。しかし、なぜそのAIを作るのか、誰のために利用するのか、どの程度の不利益まで許容するのかといった問いは、技術だけでは解決できない。
生成AIを使って従業員の生産性を評価できたとしても、その評価方法が公平なのかは別の問題だ。顧客対応を自動化できたとしても、支援を必要とする顧客を排除してよいわけではない。
STEMが主に「どのように実現するか」という「How」を扱うのに対し、人文学は「なぜ実行するのか」という「Why」や、「何を良いものと見なすのか」という価値判断を扱うとクルム氏は説明する。
生成AIの処理は「構文的」、人間の理解は「意味的」
クルム氏によると、AIと人間では、情報を扱う仕組みが根本的に異なる。大規模言語モデル（LLM）は、大量のデータから言葉の並び方や相関関係を学習し、入力された文章に続く可能性が高いトークン、つまり単語や文字の断片を予測する。
生成AIは、確率や統計的関連性を基に、「この言葉の次には、この言葉が続く可能性が高い」と判断する。一方、人間は言葉を、単なる記号の並びとして扱っているわけではない。
人間の理解には、自らの経験や記憶、発言者の意図、置かれた状況、文化的背景、価値観などが関係する。さらに、発言や行動の結果に責任を負うという意識も含まれる。
同じ言葉でも、誰が、いつ、どのような場面で使うかによって意味は変わる。人間はこうした文脈を踏まえて、言葉が何を意味するのかを考える。この処理は、意味を扱う「意味的」、つまりセマンティクス的な理解である。
AIは記号の操作を得意とするが、その記号を人間の生活や現実の経験に直接結び付けて理解しているわけではない。
そのため、生成AIが生成した文章は、文法的にも論理的にも自然に見える一方で、利用目的と微妙にずれていたり、重要な前提が抜けていたりすることがある。表面的には正しく見えても、現実の業務や社会的な価値観に照らすと適切ではない場合もある。
認識論は「AIの回答を信じてよいか」を考える基盤になる
AI時代に重要になる人文学の分野の1つが「認識論」だ。認識論は、哲学の一分野であり、「知識とは何か」「何を根拠に真実だと判断するのか」「信じていることと、知っていることはどう違うのか」といった問題を扱う。
生成AIは、事実ではない内容を自信ありげに回答する「ハルシネーション」を起こすことがある。また、生成AIが学習や検索に利用するインターネット上の情報には、誤情報や古い情報、根拠が不明確な主張も含まれている。
生成AIが複数の情報を整理し、読みやすい文章として提示したとしても、その内容が正しいとは限らない。流ちょうさと正確さは別の評価軸である。
企業で生成AIを利用する際は、単に回答が自然かどうかを見るのではなく、次のような問いを持つ必要がある。
- その回答は、どの情報を根拠にしているのか。
- 情報源は信頼できるのか。
- 別の情報源と矛盾していないか。
- 事実と推測が区別されているか。
- 業務判断に使えるほどの確実性があるか。
例えば、社内規定に関する生成AIの回答には、根拠となった規定文書や該当箇所を表示させる。法務や人事、財務に関係する回答は、AIだけで確定せず、担当部門の確認を必須にする。情報源が確認できない回答は、意思決定に使用しないというルールを定める。
認識論は抽象的な哲学に見えるが、実際にはAIの回答を検証する手順や、AIガバナンスのルールを設計する基盤になる。
技術的に正しくても、倫理的に妥当とは限らない
AIは数学や統計を基に動くため、中立的な存在だと考えられることがある。しかし、AIモデルが数値計算によって動作することと、AIの利用結果が中立であることは同じではない。
AIの評価には、モデルを作る開発者、業務で使う担当者、導入効果を求める企業、判断の対象になる従業員や顧客など、異なる利害を持つ人々が関わる。ある立場にとって便利で正確なAIでも、別の立場には不利益や不公平をもたらす可能性がある。
学習データには、過去の社会や組織が持っていた価値観や偏見が含まれる。画面や機能の設計には、開発者が想定した利用方法や優先順位が反映される。企業がAIを導入する際には、生産性向上やコスト削減、売り上げ拡大といった経済的な動機も加わる。
つまり、AIの利用には常に、何らかの前提や価値判断、利害関係が含まれる。ここで重要になるのが、倫理学、社会学、政治学などの視点だ。
倫理学は、その利用方法が人間や社会にとって望ましいものかを考える。社会学は、システムが組織や集団の関係にどのような影響を与えるのかを分析する。政治学は、誰が意思決定の力を持ち、誰が利益や不利益を受けるのかを検討するものだ。
例えば、AIによる採用候補者の評価が高い予測精度を示していても、過去の採用データに含まれる偏りを学習し、特定の属性の候補者を不利に扱っていれば、倫理的に妥当なシステムとはいえない。
営業担当者の行動をAIで評価し、成果の高い従業員を特定できても、その仕組みが過度な監視や競争を招き、組織の信頼関係を損ねる可能性もある。
顧客対応AIが問い合わせの処理時間を短縮できても、高齢者や障害のある利用者、複雑な事情を抱えた顧客が必要な支援を受けにくくなれば、処理件数だけを見て成功と評価することはできない。
技術的な正確性と、倫理的な妥当性は別物である。AIは、正確に動作しながら、間違ったことを実行する可能性がある。
解釈学がAIの曖昧な回答を読み解く
生成AIが出力した内容は、そのまま人間の行動に反映されるわけではない。ユーザーが生成AIツールに情報を入力し、AIが回答を返した後、ユーザーはその回答を解釈する。その上で判断を下し、実際の行動を決める。
つまり、AIは人間による解釈を不要にするのではなく、解釈の重要性を高めるためにある。このとき役立つのが、「解釈学」である。解釈学は、文章や発言、出来事が何を意味するのかを読み解く方法を扱う。
同じ文章でも、読む人の立場や知識、置かれた状況によって解釈は異なる。書き手の意図が必ずしも明確に分かるとは限らない。文章が事実として間違っていなくても、表現や情報の省略によって読み手を誤った判断に導くこともある。
AIも同じ問題を抱えている。
生成AIの回答は確定的な真実ではなく、確率的に生成された内容である。入力するコンテキストが変われば回答も変わり、同じ質問でも異なる内容が出力される場合がある。回答はもっともらしく見えても、必ず正しいとは限らない。
そのため、ユーザーは生成AIの回答を受け取るだけの「読者」ではなく、内容を能動的に読み解く「解釈者」になる必要があるとクルム氏は強調する。生成AIが複数の選択肢を示した場合、どの前提に基づく回答なのか、自社の状況に当てはまるのか、抜けている選択肢はないかを検討することも重要だ。
技術的な正誤だけに注目すると、文章に含まれる曖昧さや偏り、重要な情報の欠落を見逃す可能性がある。
プロンプトは「文章」ではなく「システム制御」になる
生成AIの普及によって、言葉を使う能力の意味も変わりつつある。生成AIツールに入力するプロンプトの内容によって、得られる回答は大きく変わる。目的、対象者、背景、制約条件、必要な情報、出力形式などを明確に伝えられなければ、生成AIはユーザーの意図を正確に推測できない。
ここでクルム氏が紹介するのは、修辞学や言語哲学、談話分析などの知見だ。
修辞学は、相手や目的に応じて言葉を構成し、意図を伝える方法を扱う。言語哲学は、言葉がどのように意味を持ち、現実や行動と結び付くのかを考える。談話分析は、文章や会話がどのような構造や前提に基づいているのかを分析する。
例えば、生成AIツールに「この資料を要約して」とだけ入力しても、AIには何のための要約なのか目的を把握することができない。
経営会議で投資判断に使うのか、現場の担当者が作業手順を把握するために使うのか、顧客向けの説明に使うのかによって、残すべき情報や表現は異なる。
「経営会議で投資判断に使用するため、費用、リスク、未確定事項を中心に300字で要約する」と入力すれば、AIに目的、対象、評価軸、出力条件を伝えられる。
「新入社員向けに、専門用語を避け、実行すべき手順を箇条書きにする」と指示すれば、別の出力が必要だと理解させられる。
AIは「頻出する意見」を「正しい意見」と混同しやすい
クルム氏によると、生成AIは、学習データに含まれるパターンや出現頻度を基に回答する。そのため、多く登場する意見や表現を、もっともらしい回答として生成しやすい。しかし、情報の出現頻度が高いことと、その情報が正しいことは同じではない。
つまり生成AIは、多数派の視点を強調し、少数派の考え方や地域固有の文化、歴史的な背景を十分に反映できない可能性がある。英語圏の情報が豊富な分野では、他の言語圏の事情が見落とされる場合もある。
例えば、海外の一般的な人事制度を基に生成した回答が、日本企業の雇用慣行や法制度に合うとは限らない。大企業の事例を基にしたIT投資の提案が、中小企業にもそのまま適用できるわけではない。
この問題に対応する上で重要になるのが、歴史や文化に関するリテラシーだ。歴史を学べば、現在の常識や制度がどのような経緯で形成されたのかを理解できる。文化を学べば、同じ行動や言葉でも、社会や集団によって異なる意味を持つことに気付くことができる。
文学や歴史学では、誰の視点から物語が語られているのか、どの人物や出来事が触れられていないのか、どのような価値観が物語の前提になっているのかといったテーマを考える。
こうした視点は、生成AIの回答が多数派の価値観だけを反映していないか、特定の文化や利用者を見落としていないかを確認するために役立つ。
AIに判断を任せるのではなく、判断を支援させる
生成AIは、人間が考えられる回答や選択肢の範囲を広げる。大量の情報を短時間で整理し、複数の仮説や文章案を示すことができる。
しかし、どの答えが重要なのか、どの価値を優先すべきなのか、どのような結果まで許容できるのかは決められない。
例えば、生成AIが複数の業務削減案を提示できたとしても、従業員の負担や顧客サービスへの影響を踏まえてどれを採用するかは人間が決める。
生成AIがセキュリティリスクを点数化できても、そのリスクを受け入れるのか、追加投資をするのか、サービスの利用を停止するのかは、経営や担当者の責任だ。
生成AIが採用候補者や融資申請者を評価できても、その評価方法を使うこと自体が妥当かどうかをAI自身に決めさせることはできない。
AIは判断そのものを代替する道具ではなく、人間の判断を支援する道具として位置付ける必要がある。
AIの進化によって、人間の責任が軽くなるわけではない。むしろ、AIの出力を検証し、社会や業務の文脈に位置付け、結果に責任を負う人間の役割は重くなる。
定型的な調査や要約、文書作成をAIが担うようになれば、人間は「何のために実行するのか」「その結果は望ましいのか」「他の選択肢はないのか」を考える時間を増やせる。
テクノロジーが進化するほど、人間は技術だけに詳しければよいわけではなくなる。そこで、倫理、哲学、歴史、文学、文化、言語を通じて、人間や社会について考える力が必要になる。
AIが高度になるほど、人文学が扱ってきた問いに向き合う必要性は、これまで以上に高まる。
本稿は、IBM Technologyが2026年7月26日に公開した動画「Why AI Makes the Humanities More Important Than Ever」を基に作成しました。
Copyright © ITmedia, Inc. All Rights Reserved.
