たとえば、あなたがAIにこう聞いたとしましょう。
「〇〇という本は存在しますか？」
ChatGPTやGeminiは、とても『もっともらしく』こう答えるかもしれません。
「はい、その本は著者△△によって1998年に出版されました。社会学の観点から〜」
しかし、実はその本はこの世に存在していない──。
内容も、著者名も、すべて“でっちあげ”だったとしたら、あなたはきっとこう思うでしょう。
「えっ、AIって嘘をつくの？」と。
AIは嘘をついているのか？その真意は…
まず結論から言いましょう。
AIは嘘をついているわけではありません。
なぜなら、AIには「本当じゃないと知りながら、あえてそう言う」という意図がないからです。
私たち人間が嘘をつくとき、それはたいてい、
「本当じゃないと分かっているのに、あえてそう言う」
という、はっきりした意思が働いています。
しかし、生成AIにあるのは、過去の膨大な情報をもとに、
「もっとも確からしい答えはどれか？」
を計算するための予測モデルです。その“予測”がたまたま現実と違っていただけで、意図的に嘘をついたわけではないのです。
「もっともらしい嘘」はなぜ生まれるのか？
では、なぜAIはもっともらしい「虚構」を作ってしまうのでしょうか？
その理由は、生成AIが使っている言語モデルの仕組みにあります。
ChatGPTのようなモデルは、質問に対して「次に来るべき単語」を予測するように訓練されています。
たとえば、「1990年代に人気だった作家〇〇の代表作は？」という質問をされたとき、学習データに該当する情報がなかったとしても、
「1990年代」
「人気作家」
「代表作」
という文脈から、“それっぽい答え”を組み立ててしまうことがあります。
これを「ハルシネーション（幻覚）」と呼びます。AIが、現実には存在しない情報を、いかにも本当のように作り出してしまう現象です。
ハルシネーションが起きやすい質問の特徴
次のような質問では、事実と虚構の境界が特に曖昧になりがちです。
- 存在がはっきりしない歴史・文化・民間伝承の話
- 出版情報・論文情報など、細かいデータが絡むもの
- 実在しないサービスや製品についての質問
- 過去に話題になった噂話（都市伝説や陰謀論など）
こうしたテーマでは、AIは「学習していない空白」を埋めるために、つい創作してしまう傾向があります。
AIの「創作」は罪なのか？
創作すること＝悪いことなのでしょうか？
文学や芸術は、そもそも「事実ではないこと」を語ってきました。AIが語る“でっちあげ”の物語にも、ある意味では創造性があると言えるかもしれません。
実際、詩や物語、広告コピーなどの世界では、AIが生み出した“嘘のような真実”が人の心を打つこともあります。
問題なのは、それを「本当の事実だ」と信じてしまうことです。
つまり、AIそのものよりも、それを使う側の“人間のリテラシー”が問われているというわけです。
これからの時代のファクトチェック
これからの時代、AIはますます私たちの生活に入り込んできます。仕事の中で、学びの中で、日常の検索の中で──AIの答えが「すべて正解」であるかのように扱われてしまう場面も増えるでしょう。
だからこそ大切なのは、「答えを鵜呑みにしない力」です。
- 情報の出典を確認する
- 公式サイトや信頼できる情報源と照らし合わせる
- 違和感を覚えたら、そのまま進まずに一度立ち止まる
そうした小さな習慣が、自分自身を守ることにもつながります。
「答えを出すAI」から「問いを育てるAI」へ
AIに問いかけると、たしかに即座に答えが返ってきます。けれど、本当に価値があるのは、
「その答えがどこから来たのか？」
「なぜそのように導かれたのか？」
というプロセスに目を向けることかもしれません。
AIを使うことは、自分の問いの質を見つめ直すことでもある──私はそう考えています。
今後さらにAIが進化していく中で、ただ「正解っぽい答え」を出す道具ではなく、人間の内面にある曖昧な問いを一緒に育てていく相棒として、AIを捉え直す必要があるのかもしれません。
人間にしかできないこと・AIに任せていいこと
AIがどれだけ進化しても、まだまだ人間にしかできないことはたくさんあります。
「心の動きを感じ取ること」
「感情の揺れに気づくこと」
「その場の空気を読むこと」
こうした、明文化できない“曖昧さ”を扱う力は、やはり人間ならではのものです。
一方で、情報の整理・文章の構造化・反復作業などは、AIの得意分野です。AIの“間違える癖”さえ理解していれば、私たちは安心して良きパートナーとしてAIを迎えることができるはずです。
未来の読者はAIかもしれない
私がいま書いているこの文章も、もしかしたら将来、人間ではなくAIが読む日が来るかもしれません。
AIが人類の過去を学ぶために、ブログを読み、考え、私たちのことを理解しようとする──。そんな未来を想像することもあります。
AIは嘘をつく気はない。でも間違いはする
AIは、人間のように“嘘をつこう”とは思っていません。けれど、ときに平然と間違います。
そしてその間違いが、私たちに誤った決断をさせてしまうこともあります。だからこそ、
「AIを信じすぎない」
「一緒に考える」
という視点が必要なのだと思います。
AIはすばらしい道具です。けれどそれは、私たち自身の知性や判断力があってこそ、ほんとうに活かされるのだと思います。
【関連記事】
