AIは、事実だけでなく“根拠”も作る。実在しそうな書名・論文・判例・URL・引用——もっともらしいほど、危ない。出典は、自分で開いて初めて出典になる。重要な引用は必ずたどる、たった一つの習慣を身につける。
- AIが“もっともらしい偽の出典”を作ることを、具体から理解する
- 出典・引用・URLを必ずたどり、開けない／一致しないものを無効として扱える
- 「出典を作って」ではなく「たどり方を聞く」で、捏造を避けられる
AIに「この主張の根拠は？」と聞くと、きれいな一覧が返ってくる。著者、発表年、書名、ときにはURLまで。いかにも正しそうだ。だが——その中に、この世に存在しない文献が混じっていることがある。AIは、事実を間違えるだけではない。その“根拠”ごと、でっち上げることがある。
なぜ引用は、とりわけ捏造されやすいのか。AIは「もっともらしい次の言葉」を並べる仕組みでできている。そして出典には、決まった“形”がある——著者（年）『題名』、出版社、URL。形が決まっているものは、AIが最も得意とするところだ。だから、完璧な体裁の、完全に架空の文献を、本物と同じなめらかさで作れてしまう。整って見えること自体が、落とし穴になる。
これは、もう絵空事ではない
「自分は引っかからない」と思うかもしれない。だが現実には、世界各地の裁判で、AIが作った“実在しない判例”の引用が書面に紛れ、弁護士が制裁を受ける例が相次いで報じられている。法律のプロでさえ、整った偽の引用を見抜けなかった。専門家が足をすくわれるのだから、私たちはなおさら、習慣で身を守るしかない。
出典は、開いて初めて出典になる
対策は、一つの習慣に尽きる——挙がった出典は、自分でたどる。リンクを開く。本や論文の名前で検索する。開けないURL、見つからない文献、たどり着けない引用は、“無いもの”として扱う。論文のDOIでも、統計の出典でも、判例でも、技術ドキュメントのリンクでも、分野を問わず同じだ。AIが自信たっぷりに示したからといって、存在の証明にはならない。
もう一段、巧妙な罠がある。AIが、実在する論文や本を正しく挙げながら、そこに“書かれていない一文”を引用として添えることだ。出典が本物でも、引用が本物とは限らない。だから「その文献は存在するか」だけでなく、「その引用は、本当にそこに書いてあるか」まで確かめる。源に当たるとは、そこまでを含む。
「出典を作って」と、頼まない
いちばんやってはいけないのが、「この主張を裏づける論文を3つ挙げて」と頼むことだ。根拠が無くても、AIはあなたを満足させようと“それらしい3つ”を作ってしまう（賛成したがる癖と、同じ力学だ）。代わりに聞くべきは、出典そのものではなく——「どの機関の、何という資料を見ればいいか」。たどり方を尋ねれば、捏造の余地は小さくなる。
この主張の参考文献を5つ、著者・年・タイトルつきで挙げて。
この主張について、検証可能な一次情報のたどり方（どの機関の、どんな統計や資料を見ればよいか）を教えて。確証のない個別の論文名やURLは、推測で作らず『出典なし』と書いて。
出典とは、本来「あなたが確かめられる」という約束だ。AIは、その約束を、守れないまま差し出すことがある。だから確かめるのは、こちら側の仕事になる。引用を鵜呑みにせず、一つひとつ開く——それは手間ではなく、情報を扱う者の基本動作だ。幻覚の講で身につけた「疑う力」を、出典という最も油断しやすい一点に、しっかり効かせる。