生成AIのハルシネーション対策｜回答の嘘を裏取りする5手順と記録表

文部科学省のガイドライン Ver.2.0 の p.5 には、誤った出力を完全に防ぐことは極めて難しいとされている、と書かれています。ここでいう誤った出力が、ハルシネーションと呼ばれる現象です。探究のレポートにAIの回答を使うなら、回答を主張ごとに分けて、一次資料で1つずつ確かめる手順が要ります。この記事の5つの手順と記録表を使うと、今週の調べ学習で出たAIの回答を1つ、裏取りし終えるところまで進められます。

ハルシネーションが混じりやすい4種類の記述

生成AIは、学習した大量のデータから、続きとしてありそうな文章を組み立てます。同ガイドライン p.5 によると、検索拡張生成という技術で誤った回答を抑える工夫も進んでいます。それでも誤りがなくなったとは書かれていないので、探究では次の4種類の記述から確かめます。

• 数値の記述です。割合や人数、年号は、年度や桁がずれていても自然な文に見えます。
• 固有名の記述です。人名、団体名、法律名、書名に、実在しないものが混じることがあります。
• 出典の記述です。AIが示した資料名やURLが存在しない場合や、中身が回答と合わない場合があります。
• 時期の記述です。制度の改正や最近の出来事は、AIの学習時点より新しいと反映されていないことがあります。

同ガイドライン p.28 には、流暢な出力を見ると正しいと感じてしまう流暢性バイアスについての記述もあります。文章の読みやすさと内容の正しさは、別々に確かめます。

手順1 AIの回答を確かめられる主張に切り分ける

AIの回答を1文ずつ読み、事実を述べている文に番号を振ります。「一般に〜と言われている」という書き方の文も、裏取りの対象に入れます。意見や提案にあたる文は、事実の確認とは別の一覧に分けます。回答が長いときは、切り分けをAIに手伝わせる方法もあります。

次の文章を、事実として確かめられる主張ごとに分け、番号付きの一覧にしてください。各主張が「数値」「固有名」「出典」「時期」のどれを含むかを書き添えてください。意見や推測にあたる文は、別の一覧にしてください。文章: ここに回答を貼る

出てきた一覧は、元の回答と並べて読み比べます。AIが切り分けの途中で言い換えると、元の主張と意味がずれることがあるためです。ずれていた番号は、元の回答の文を書き写して直します。

手順2 結論に使う主張から調べる順番を決める

主張が多いと、全部を同じ重さで調べるには時間が足りなくなります。先に調べるのは、レポートの結論を支える主張と、数値や固有名を含む主張です。記録表では主張ごとに「結論に使うか」を○か×で書き、○の付いたものから手順3に進みます。×の主張は、レポートに書かないなら裏取りを後回しにできます。

手順3 発行元の一次資料を開いて確かめる

一次資料は、その情報を最初に公表した発行元の資料を指します。統計なら調査を行った省庁、制度なら所管する省庁や自治体、研究なら大学の論文や発表資料が当たります。探し方は次の4段階です。

1. 主張の中の数値や制度名から、発行元になりそうな機関を書き出します。
2. 検索結果から機関の公式サイトを開き、資料名で原文を探します。
3. 主張に当たる記述のページ番号と、資料の発表時期を記録します。
4. AIが出典を挙げていた場合は、その資料が実在するか、中身が主張と合うかを確かめます。

AIに資料の候補を挙げさせる場合は、次のプロンプトが使えます。ここで出てきた資料名も、上の4段階で実在を確かめる対象です。

次の主張について、根拠になりそうな公的な資料の候補を3つ挙げてください。資料名、発行元、発表時期を書き、分からない項目は「不明」と書いてください。URLは書かないでください。主張: ここに主張を貼る

URLを書かせないのは、AIが存在しないアドレスを組み立てる場合があるためです。資料名と発行元が分かれば、公式サイトから自分で原文にたどり着けます。

手順4 ○△×で判定して自分の言葉で書き直す

資料と照らし合わせたら、主張ごとに3段階で判定し、レポートでの扱いを決めます。

△の書き直しは、AIの文に手を入れるより、資料の該当ページを読んで書き起こすほうが元の意味からずれにくくなります。書き直した文は、資料を見ながら自分の言葉で組み立てます。×の主張に触れたいときは、「◯◯を示す公的な資料は見当たりませんでした」と書く選択肢があります。

判定に迷う主張は、反対の立場の資料も探すと決めやすくなります。

次の主張について、反対の結論を示す資料や、主張が当てはまらない条件を挙げてください。資料名と発行元を書き、確信がない場合は「不明」と書いてください。主張: ここに主張を貼る

AIの答えはヒントとして使い、最終的な判定は手順3で開いた資料で決めます。

手順5 AIとのやりとりを記録して提出に備える

同ガイドライン p.20 の Box-6 には、課題研究でAIを使う場面について次の記述があります。

同じ Box-6 には、AIツールの名称、入力したプロンプトや出力、日付等を明記させることも挙げられています。記録表の冒頭に、使ったAIの名前、使った日、入力したプロンプトの欄を置いたのはこのためです。AIの使用をどこまで書くかは、学校や先生の指示で形式が変わります。提出前に、配布された要項や先生の説明を確かめてください。

今週の作業は回答1つと主張5つから始める

最初の1回は、調べ学習で出たAIの回答を1つ選び、主張を5つ書き出すところから始めます。○を付けた主張について発行元の資料を開き、ページ番号を記録表に書き込みます。判定が△か×だった主張は、その日のうちに資料を見ながら書き直します。

よくある質問