― AIがつくるのは答えだけではなく、私たちの「確信」かもしれない ―
生成AIを使っていると、とても自然で説得力のある回答が返ってきます。
文章は整っている。理由もある。専門用語も使われている。
すると私たちは、つい「これは正しそうだ」と感じます。
しかし、ここに重要な落とし穴があります。
「正しそう」と「正しい」は、同じではありません。
生成AIは、必ずしも事実を検索して答えているわけではありません。
仕組みによって違いはありますが、基本的には大量のデータから文脈に合う言葉を予測し、文章を生成しています。
そのため、事実ではない内容を、もっともらしく答えることがあります。いわゆる「ハルシネーション」です。
しかし、私はもっと重要な問題があると思っています。
それはAIの間違いそのものではなく、
なぜ人間は、その答えを信じてしまったのか。
という問題です。
私たちは内容だけでなく、文章の流暢さ、数字、専門用語、論理的な構成などから「信頼できそうだ」と判断します。
つまり、
AIの出力 → 人間の認知 → 確信 → 意思決定
という流れが生まれます。
だからAI時代のリテラシーは、「AIは間違えるから確認しましょう」だけでは足りません。
私は重要な判断ほど、AIにこう聞いてみることをおすすめします。
「この回答のうち、確認が必要な事実は?」
「事実・推測・意見を分けて」
「この結論が間違っているとしたら、どこ?」
「何が分かれば、あなたは結論を変える?」
するとAIは、答えを生み出す装置から、確信を点検する装置へ変わります。
AIが高度になるほど、間違った答えも「それらしく」なる可能性があります。
だから人間に必要なのは、何でも疑うことではありません。
「私は、なぜこれを正しいと思ったのか?」と自分に問い直すこと。
AI時代に守るべきものは、正解を知る能力だけではありません。
自分の「確信」が、どのように作られたのかを見つめる力。
それこそが、人間が意思決定の主導権を持ち続けるために必要な力なのかもしれません。











