生成AI（人工知能）を活用する際、企業にとって大きな課題となるのがAIがでたらめな回答をするハルシネーション（幻覚）だ。先行企業の多くは、ハルシネーションを軽減する取り組みを開始している。中でも注目される技術が検索拡張生成（RAG、Retrieval Augmented Generation）である。
ハルシネーション軽減にRAGを導入
「我々自身が生成AIを使った変革をしなければ、顧客の期待に応えられない」――。このように危機感をあらわにするのは、デロイトトーマツコンサルティングの藤岡稔大執行役員／パートナーだ。デロイトトーマツコンサルティングは2023年7月に、全社員5000人が生成AIを活用できる環境を構築。同年9月にはGPT-3.5だけでなくGPT-4も使えるようにするなど、生成AIを活用できる環境を積極的に整えている。
顧客企業が生成AIを活用するようになれば、生成AIで入手できる調査やドキュメントといった情報をコンサルタントが提供する必要がなくなる。生成AIに任せられる業務は生成AIに任せて、「コンサルタントは顧客企業の変革推進などの知的業務に集中する」（藤岡執行役員）というわけだ。既に社内で複数のワークグループが立ち上がり、生成AIを使ったサービスの企画・開発やガイドラインの整備、ユースケースの開拓などを手掛けており、生成AIの事業に関わる社員は200人を超えているという。
デロイトトーマツコンサルティングは社内向けに生成AIを用いた対話型システムを構築。社内コンサルタントがドキュメントファイルをアップロードして要約結果を得たり、ファイルの内容について質問したりできる体制を整えた。
2023年10月には、同システムに以前から検証していたRAGの仕組みを導入。RAGはデータベースに保管した社内データを生成AIモデルが参照して自社固有の回答を生成する仕組みである。ユーザーが入力したプロンプトを基に、生成AIモデルが社内データベースや外部データソースを検索する。
こうして得られた情報をユーザーが入力したプロンプトと結合し、生成AIモデルによって回答を返す。RAGの仕組みは、社内データを追加学習させるファインチューニングと異なり、生成AIモデルに手を加えないため実装しやすい。
コンサルタントが実際の業務で生成AIを活用するには、いかに正確で有益な回答を得られるかがカギを握る。RAGは、そのための肝となる存在だ。汎用的な生成AIに、最新のデータや企業独自のデータに基づいた回答をさせるのは難しい。学習の範囲に含まれていないからだ。ただしRAGの仕組みを活用すれば、検索対象とするデータベースなどのデータ次第で、こうした課題を解消できる。
加えてデロイトトーマツコンサルティングは2つのハルシネーション軽減対策を施した。1つは生成AIが回答した内容の根拠を示すことだ。生成AIが回答を作る際に参照したドキュメントやそのページ番号などを返す。回答された情報が正しいかを確認でき、回答内容を検証・評価する際に役立てるという。
生成AI（人工知能）を活用する際、企業にとって大きな課題となるのがAIがでたらめな回答をするハルシネーション（幻覚）だ。先行企業の多くは、ハルシネーションを軽減する取り組みを開始している。
https://xtech.nikkei.com/atcl/nxt/column/18/02640/111300002/
