たとえば、あなたがAIにこう聞いたとしましょう。
「〇〇という本は存在しますか？」
ChatGPTやGeminiは、時にとても『もっともらしく』こう答えるでしょう。
「はい、その本は著者△△によって1998年に出版されました。社会学の観点から～」
でも、実はその本、存在していないのです。
内容も、著者名も、すべて”でっちあげ”です。すると あなたは思うかもしれません。
「えっ、AIって嘘をつくの？」と。
AIは嘘をついているのか？真意は・・
まず結論から言いましょう。
AIは嘘をついているわけではありません。
なぜなら、AIには「嘘をつく」という意図がないからです。
私たち人間が嘘をつくとき、それは
「本当じゃないと知っていて、あえてそう言う」
という意思が働いています。
しかし、生成AIにあるのは、過去の膨大な情報を元に
「もっとも確からしい答え」
を生成する予測モデルです。 その“予測”がたまたま現実と違っただけで、意図的に嘘をついたわけではないのです。
「もっともらしい嘘」はなぜ起こるのか？
では、なぜAIはもっともらしい「虚構」を作ってしまうのでしょうか？
これは、生成AIが使っている言語モデルの仕組みによります。
ChatGPTなどは、質問に対して次にくるべき単語を予測するように訓練されています。
たとえば、「1990年代に人気だった作家〇〇の代表作は？」という質問をされたとき、
訓練データに該当する情報がなかった場合でも、
「1990年代」
「人気作家」
「代表作」
という文脈から、“それっぽい答え”を生成してしまうのです。 これを「ハルシネーション（幻覚）」と呼びます。 AIが現実にない情報を作り出してしまう現象です。
ハルシネーションが起きやすい質問の特徴
以下のような質問では、事実と虚構の境界が曖昧になりがちです。
- 存在が曖昧な歴史・文化・民間伝承の話
- 出版情報・論文情報など、データが断片的なもの
- 実在しないサービスや製品についての質問
- 過去に話題になった噂話（都市伝説や陰謀論など）
このようなテーマでは、AIは「学習していない情報を埋めるために創作」してしまう傾向があります。
AIの「創作」は罪なのでしょうか？
創作すること＝悪いことなのでしょうか？
文学や芸術は「事実ではないこと」を語ってきました。 AIが語る“でっちあげ”の物語にも、ある意味で創造性があると言えるかもしれません。
実際、詩や物語、広告コピーなどの世界では、AIが生み出した“嘘のような真実”が人の心を打つこともありますが、問題なのは、それを「本当の情報」と信じてしまうことです。
つまり、AIよりも使う側の“人間のリテラシー”が問われているというわけです。
これからの時代のファクトチェック
これからの時代、AIはますます私たちの生活に入り込んできます。 仕事の中で、学びの中で、日常の中で、AIの生み出した答えが「全て正解」であるかのように、創造されていく懸念もあります。
だからこそ大切なのは、「答えを鵜呑みにしない力」なのでしょう。
- 情報の出典を確認する
- 公式サイトや信頼できる情報源と照らし合わせる
- 違和感を感じたら、少し立ち止まって調べる
そうした習慣が、自分自身を守ることにもつながります。
「答えを探すAI」から「問いを立てるAI」へ
AIに問いかけると、たしかに即座に答えが返ってきます。 でも、本当に価値があるのは、
「その答えがどこから来たのか？」
「なぜそのように導かれたのか？」
というプロセスに目を向けることかもしれません。
AIを使うことは、自分の問いの質を問うことでもあるんじゃないか？と私は考えています。
今後ますますAIが進化していく中で、ただ答えを出すだけではなく、人間の内面にある曖昧な問いを育てていく道具として、AIを捉え直す必要があるのかもしれません。
人間にしかできないこと・AIに任せていいこと
AIがどれだけ進化しても、まだまだ人間にしかできないことは多くあります。 それは、
「心を読むこと」
「感情の揺れに気づくこと」
「文脈の空気を読むこと」
など、明文化できない“曖昧さ”を扱う力ではないでしょうか？
一方で、情報の整理・文章の構造化・反復作業などは、AIの得意分野です。 AIの“間違える癖”さえ理解していれば、私たちは安心して良きパートナーとしてAIを迎えることができると考えています。
未来の読者はAIかもしれない
私がいま書いているこの文章も、もしかしたら将来、人間ではなくAIが読む日が来るかもしれません。
AIが人類の過去を学ぶために、ブログを読んで、考えて、私たちのことを理解しようとするのでは？と考えています。
AIは嘘をつく気が無い。でも間違えはする
AIは、人間のように“嘘をつこう”とは思っていません。 でも、平然と間違うことはあるんです。
そしてその間違いは、ときに私たちに誤った決断をさせてしまうこともあります。 だからこそ、
「AIを信じすぎない」
「共に考える」
という視点が必要です。
AIはすばらしい道具です。 でもそれは、私たち自身の知性や判断力があってこそ、活かされるのです。
【関連記事】
