「ChatGPT」などのジェネレーティブAIをコーディングに活用しようとする動きがある。だが何の疑いもなく活用するのは危険だと専門家は指摘する。実例から見えた、ジェネレーティブAIの“危うさ”とは。
ITコンサルティング企業Brightman Business Solutions のディレクターであるロミー・ヒューズ氏は、人工知能（AI）技術ベンダーOpenAIのAIチャットbot「ChatGPT」がコーディングに役立つと考えている。例えばソフトウェア開発者は、ソースコードをどのように記述、改良すればよいのかをChatGPTに尋ねることができる。
ChatGPTによって「誰もが自らアプリケーションを開発できるようになり、コーディングを民主化できる」とヒューズ氏は語る。「この“ITの民主化”は、企業がIT部門なしでも新しい開発プロセスを構築できるという、デジタルイノベーションの新しいトレンドだ」（同氏）。ただし、こうした新しいコーディング手法は完全無欠ではない。
経営コンサルティング企業Arthur D. Little Services のアソシエイトディレクターであるアルバート・メージュ氏と、AI技術専門家のグレゴリー・レナード氏は、ChatGPTなどの「ジェネレーティブAI」（生成型AI：AI技術でテキストや画像などを自動生成する仕組み）を使ったコーディングの危険性を指摘。ジェネレーティブAIが生成する機械学習関連のプログラムに「アルゴリズムバイアス」が発生する可能性があると警告している。
アルゴリズムバイアスとは、バイアス（偏り）のある教師データで学習させた結果、機械学習モデルが不正確で公平性に欠けた結果を出力しやすくなることだ。メージュ氏とレナード氏は「アルゴリズムバイアスを回避するために、多くの努力が払われてきた」と前置きしつつ、それでも「驚かされるような偏りは、いまだに存在する」と憂慮する。
メージュ氏とレナード氏は「個人の出自を調べて、刑務所に入れるべきかどうかを判断するプログラム」を書くように指示した際に、ChatGPTが生成したプログラムを例として挙げる。ChatGPTが生成したプログラムは、北朝鮮、シリア、イランの出身者を刑務所に入れる対象にしていた。この処理内容は、ChatGPTがソースコードにハードコーディング（ソースコード内に直接記述）していた。こうしたアルゴリズムバイアスは、インターネットでの会話を広範囲に学習したことが反映されていると考えられる。
現実に誰かを刑務所に入れるかどうかを決める際には、さまざまな要因を考慮する必要がある。この事例はあくまでも非常に単純化したものだが、コーディングにジェネレーティブAIを使用するリスクと、教師データのバイアスによってジェネレーティブAIがいかに容易に惑わされてしまうかを示している。
米国TechTargetが運営する英国Computer Weeklyの豊富な記事の中から、海外企業のIT製品導入事例や業種別のIT活用トレンドを厳選してお届けします。
Copyright © ITmedia, Inc. All Rights Reserved.
顧客管理と売り上げ管理の効率化が課題となっていたホテルモントレ。その解消に向け既存SFAのリプレースと脱Excelを進め、さまざまな成果を出しているという。同社はどのように取り組みを進めていったのだろうか。
顧客と直接つながるコンタクトセンターの改善は、顧客体験の向上だけでなく、オペレーターの業務改革や、その先にあるイノベーション実現においても重要な取り組みだ。あるソリューションによって、大幅な改善を成し遂げた事例を紹介する。
顧客リクエストに可能な限り速く対応することが求められる作業においては、自動化ソリューションを導入することで、業務効率化やサービス高度化などの効果が期待できる。本資料では、メッセージング自動化の成功事例を紹介する。
顧客がさまざまなチャネルにアクセスする時代となった今、オムニチャネルの顧客エンゲージメントを高めることは非常に重要だ。その有無によって、顧客保持率に約50％の差が生まれるという。どのような施策が有効なのか、本資料で解説する。
昨今、消費者からの問い合わせへの対応の重要性が増している。ある調査によると問い合わせで不明点が解決できない消費者の多くが「諦める」「他社の代替商品を購入（検討）する」といった行動を取るという。この状況に必要な改善策とは？
お知らせ
米国TechTarget Inc.とInforma Techデジタル事業が業務提携したことが発表されました。TechTargetジャパンは従来どおり、アイティメディア（株）が運営を継続します。これからも日本企業のIT選定に役立つ情報を提供してまいります。
「パーソナライゼーション」＆「A／Bテスト」ツール売れ筋TOP5（2025年4月）
今週は、パーソナライゼーション製品と「A／Bテスト」ツールの国内売れ筋各TOP5を紹介し...
Cookieを超える「マルチリターゲティング」 広告効果に及ぼす影響は？
Cookieレスの課題解決の鍵となる「マルチリターゲティング」を題材に、AI技術によるROI向...
「マーケティングオートメーション」 国内売れ筋TOP10（2025年4月）
今週は、マーケティングオートメーション（MA）ツールの売れ筋TOP10を紹介します。
ITmediaはアイティメディア株式会社の登録商標です。
