AIの文章は、よどみなく、自信に満ちている。だから“正しく”聞こえる。でも「うまく言えること」と「正しいこと」は別だ。幻覚がAI側の欠陥なら、これはこちら側の——騙されやすさの——話。
- 「流暢さ＝正しさ」と感じてしまう自分の癖を知る
- 達者な断定を、根拠を問う合図に変えられる
- 幻覚（AIの欠陥）と、過信（読み手の心理）を切り分けられる
AIの答えは、たいてい流暢だ。よどみなく、自信に満ち、見出しまで整っている。だから、つい「正しい」と感じてしまう。だがここに罠がある——「うまく言えること」と「事実として正しいこと」は、まったくの別物だ。
幻覚の講で見たのは“AI側の欠陥”——事実を作ってしまうこと。本講が扱うのは“こちら側の癖”だ。人は、すらすら読める文ほど「正しい」と感じやすい（流暢性効果）。有能そうな機械の答えを、つい鵜呑みにする（自動化バイアス）。やっかいなことに、AIは間違っているときでも自信を下げないことがある。だから“自信たっぷり”は、正しさの証拠にはならない。
達者さを、警報に変える
対策は「すべてを疑う」ではない——それは疲れるし、続かない。代わりに、合図を決める。すらすら来た答え、言い切りの断定、専門用語で固めた説明——“うますぎる”と感じたら、一拍置いて根拠を問う。流暢さを、安心の理由ではなく、確認の合図にするのだ。
（自信に満ちた回答を読み、なるほどと鵜呑みにして、そのまま次へ進む）
その主張の根拠と出典は？ 確信度は高・中・低のどれ？ もし間違っているとしたら、最初に疑うべき一文はどこ？
これは分野を選ばない。歴史上の出来事を断定する文も、統計やコードの“もっともらしい”説明も、同じだ。むしろ、自分が詳しくない領域ほど、流暢さに足をすくわれやすい——検算する物差しを、持っていないからだ。
- 「根拠と出典は？」— 主張を、確かめられる形に開かせる
- 「確信度は高・中・低？ 低い箇所に印を」— 不確かさを可視化させる
- 「反対の証拠があるとしたら、何？」— 一方向の説得を崩す
- 「この回答で、一番怪しい一文はどこ？」— 自己点検させる
幻覚は「AIが事実を作る」という出力の欠陥。過信は「私たちが流暢さに騙される」という受け手の心理。だから対策も違う——幻覚は一次情報で裏を取り、過信は“自分の油断”を疑う。両方そろって、はじめて誤りに強くなる。
達者な文章を前にして、感心すると同時に、一拍置けること。それが、AI時代に効く具体的な構えだ。流暢さは、入口の魅力ではあっても、真偽の保証ではない。魅力は受け取りつつ、保証は自分で取りにいく。