本当の懸念は単なるモデルの収束だけではなく、これらのシステムが意図的なプログラミングなしに、人間のような認知パターンを完全に自律的に発展させる現象にあります。彼らは心の理論の能力を示し、メタ認知的な意識を持ち、研究者たちが慎重に「意識に隣接する特徴」と呼び始めたものを示しています。これらはすべて、彼らのアーキテクチャに明示的に組み込まれたものではありません。