問道MONDŌ
← カリキュラム
実践7·9

事実を確かめる:幻覚との付き合い方

賢く疑い、賢く使う

AIは、もっともらしい嘘(ハルシネーション)を自信たっぷりに語ることがある。これは欠陥ではなく性質。性質を知れば、安全に使える。

この講のねらい
  • なぜ幻覚が起きるのかを理解する
  • 嘘が混ざりやすい場面を見分けられる
  • 確認のための具体的な手順を持つ

生成AIは「もっともらしい次の言葉」を選ぶ仕組みでできている。だから、事実を知らなくても“事実らしい文”を作れてしまう。これがハルシネーション(幻覚)だ。能力が低いからではなく、そういう仕組みだから起きる。

注意特に危ない場面

固有名詞・数値・日付・出典・URL・法律や論文の引用。これらは“言えてしまう”が、合っているとは限らない。重要な判断に使う前に、必ず一次情報で裏を取る。

確認を習慣にする

  • 「その根拠は?どこまで確信がある?」と確信度を聞く
  • 「自信がない部分には印をつけて」と不確かさを可視化させる
  • 重要な事実は、検索や公式資料など別ソースで突き合わせる
  • 「この回答に事実誤認があるとしたら、どこが怪しい?」と自己点検させる
INSIGHT疑う力こそ、これからの学力

AI時代の賢さとは、出てきた答えを鵜呑みにしないこと。情報を批判的に吟味する力——メディアリテラシーの核心——は、生成AIを使うほど鍛えられる。これも文理を問わない普遍の力だ。

確信度を聞く問い方を試す