規制面の懸念

　エンジニアリング分野には厳格な規制が存在し、政府が定める規則、規格、法令、各種ガイドラインに従う必要がある。グローバルメンバーシップ開発戦略部門責任者アラン・キング氏は、「問題が発生しやすい分野であるため、安全対策が不可欠だ」と指摘する。

　特に航空宇宙工学や原子力工学のような分野では、非常に厳格なルールやガイドラインを適用しており、AI技術を導入する際にも同様の安全基準や指針を適用する必要がある。AIシステムの利用機会が増える中で、その設計や運用が適切かどうかを検証するために、知見を持つエンジニアの存在が不可欠だ。

　一方で、AI技術の革新スピードと、規制の立法プロセスに時間がかかる現状を考えると、適切な監視体制の実現には課題が残る。AI技術の進化は非常に速く、法規制が時代遅れになるリスクも指摘されている。

透明性の課題

　機械技術者協会（IMechE）は2024年11月、エンジニアリング分野におけるAI技術の利用状況と課題を調査した報告書「The Promise and Peril of AI」を発表した。調査はIMechEの会員である125人のエンジニアを対象に実施した。

　報告書によると、66％の回答者が「AIツールの普及によって人間による監視が不十分になること」を懸念していた。AIツールがブラックボックス化し、出力した回答の透明性を十分に確保できない事態が危ぶまれている。

バイアスに関するリスク

　IMechEの調査では、47.4％の回答者は、AI技術を使うことで生じる偏見（バイアス）を心配していた。54.1％の回答者が、重要な意思決定にAI技術が使われることに不安を感じていた。

　AI開発においては、人間のフィードバックを用いた強化学習が採用されている。このプロセスでは、AIモデルの動作を観察し、その結果が適切かどうかを人間が評価してフィードバックする。しかし、この評価は開発者自身の認識や偏見に影響される可能性がある。

　学習データにも注意が必要だ。通常、AIモデルの学習データはインターネットから収集されたものであり、その多くは英語で書かれている。英語のWebサイトを基に学習したAIモデルが出力する回答は、西洋文化に偏った内容になるリスクを伴う。

ハルシネーションのリスク

　AIモデルが生成した内容に信頼性の低いデータセットやハルシネーション（不正確な回答）が含まれている場合、意思決定やプロジェクト全体に深刻な悪影響を及ぼす可能性がある。人間はAIモデルが出力した結果を過信する傾向があるため、注意が必要だ。

プライバシーの懸念

　AIベンダーOpenAIのAIチャットbot「ChatGPT」など、パブリックLLMを基にしたツールを使用する企業は、機密情報が漏えいするリスクにさらされている。パブリックLLMとは、パブリックデータ（一般公開されたデータ）に基づいてトレーニングされたLLMを指す。

雇用の不安

　IMechEの調査では、37.4％の回答者が「AI技術の普及により、エンジニアの業務がAIツールに置き換えられる可能性がある」と懸念していた。同様に、40.8％の回答者が「AIツールの導入後、現在と同じ規模のエンジニアの数を維持することは難しい」と感じていた。

　「短期的には、AIツールはエンジニアのコパイロット（副操縦士）としての役割を果たすだろう」とキング氏は話す。一方で、人間の知識が失われないよう注意を払わなければならないとも同氏は警告する。