AIは、もっともらしい嘘(ハルシネーション)を自信たっぷりに語ることがある。これは欠陥ではなく性質。性質を知れば、安全に使える。
この講のねらい
- なぜ幻覚が起きるのかを理解する
- 嘘が混ざりやすい場面を見分けられる
- 確認のための具体的な手順を持つ
生成AIは「もっともらしい次の言葉」を選ぶ仕組みでできている。だから、事実を知らなくても“事実らしい文”を作れてしまう。これがハルシネーション(幻覚)だ。能力が低いからではなく、そういう仕組みだから起きる。
注意特に危ない場面
固有名詞・数値・日付・出典・URL・法律や論文の引用。これらは“言えてしまう”が、合っているとは限らない。重要な判断に使う前に、必ず一次情報で裏を取る。
確認を習慣にする
- 「その根拠は?どこまで確信がある?」と確信度を聞く
- 「自信がない部分には印をつけて」と不確かさを可視化させる
- 重要な事実は、検索や公式資料など別ソースで突き合わせる
- 「この回答に事実誤認があるとしたら、どこが怪しい?」と自己点検させる
INSIGHT疑う力こそ、これからの学力
AI時代の賢さとは、出てきた答えを鵜呑みにしないこと。情報を批判的に吟味する力——メディアリテラシーの核心——は、生成AIを使うほど鍛えられる。これも文理を問わない普遍の力だ。