ペンシルバニア大学の研究チームは、大規模言語モデル（LLM）の利用が人間の論理的思考に与える影響を検証する論文を発表しました。研究では、AIの出力が「流暢で自信に満ちている」ことにより、ユーザーが自らの批判的思考を放棄する「認知の放棄（cognitive surrender）」が広がっていると指摘しています。この現象は、従来の「認知的負荷の軽減」とは異なり、AIの結果を監視・検証せずに無批判に受け入れる点が特徴です。

実験では1,372人が参加し、認知リフレクションテスト（CRT）を通じて意思決定プロセスが分析されました。AIが正確な答えを出した場合、ユーザーは93％の確率でそれを採用しました。一方、AIが意図的に不正確な答えを出した場合でも、80％が受け入れました。全体ではAIの誤答を73.2％の確率で受け入れ、それを修正したのはわずか19.7％にとどまりました。

時間的なプレッシャーがあると、AIの誤りを訂正する傾向が12ポイント低下しました。一方、報酬インセンティブと即時フィードバックがある環境では、誤りを覆す確率が19ポイント上昇しました。これは、結果の明確性がユーザーの検証行動を促進することを示しています。また、流動性知能が高い人はAIに依存しにくく、誤答の影響を受けにくい傾向が確認されました。

研究チームは、AIへの依存が高まるほど、人間のパフォーマンスがAIの品質に直結すると警告しています。AIが正確であれば成果は向上しますが、不正確であれば思考の質も低下します。このため、AIの出力に対する鈍感な受け入れは、個人や組織の判断に深刻なリスクをもたらす可能性があります。