2023年は、インタラクティブ人工知能（AI）システムである「ChatGPT」の広範な採用を示し、生成的AI技術の時代における転換点を示しています。これらのAIシステムが進化し続ける中、その能力の重要な再評価が進行中です。
現在の制約として、AIが自己反省をする能力の不足が強調されています。例えば、AIは特定の質問に対する回答の正確性を評価するための必要なツールを欠いており、誤った情報を提供し続けることがあります。日本の最も高い山について尋ねられた場合、AIはほとんど万人が正しいと確信している「富士山」と正確に答えることができます。しかし、四国の島の最高峰についての質問がある場合、AIが正しい回答である「石鎚山」と提供したとしても、一般的な確信度は低いでしょう。
人間は、自己反省や自己肯定を行うという能力を持っており、それは「メタ認知」と呼ばれる活動です。現在、これを生成的AIで模倣するのは難しい能力です。AIは時折「幻覚」を経験し、虚偽の情報を不断に出力することがあり、その信頼性が損なわれることがあります。99%の正確性を持つ回答における1つの誤った要素でも、使用コンテキストによっては重大な問題を引き起こす可能性があります。
AIのメタ認知の実現に苦しむことは、人間がAIシステムに依存していることについての疑問を投げかけます。AIが日常生活の意思決定にますます影響を与える中、人々が批判的思考をバイパスし、代わりにAIの推奨事項に依存する傾向が高まっています。これらの行動パターンの変化は、人間の認知能力を鈍らせ、視野を狭め、適切な批判的思考能力の欠如（いわゆる「エコーシャンバー」の効果）につながる可能性があります。
そのため、人間が独立して思考し反省し、判断し、過ちから学ぶ能力を維持することが喫緊の課題です。生成的AI技術の採用が進む中、この認知能力を維持することで、個人が人間性を定義する知恵と適応性で行動し続けることが保証されます。