人工知能は正しく物事を理解していない！ 人間とAIの決定的な認知能力の差

なぜある人にとっては何の変哲もないモノが、別のある人には感情を揺さぶる特別な存在になるのか。こうした問題に答えるのが「プロジェクション」の科学だ。世界を見る時、私たちは心で生成されるイメージを現実の存在に投射し、重ね合わせている。この「プロジェクション」の概念が、今、心をめぐる謎を解き明かしつつある――。最新の研究から人間の本質に迫る知的興奮の一冊、鈴木宏昭さんと川合伸幸さんの共著『心と現実　私と世界をつなぐプロジェクションの認知科学』より一部を抜粋して紹介します。

これまでの認知科学が明かせなかった謎（鈴木）

私たちは世界からさまざまな刺激情報を受け取り、それに応じて何かを感じたり、考えたり、行動したりする。このような「外界から受け取る情報を処理することで人は動作を行っている」という考え方を洗練させ、学問的に体系化したのが認知科学である。認知科学は一九五〇年代に芽吹き、七〇年代に花開いたといわれる。こうした認知に関する考え方を図1─1のように定式化した。

世界は情報に満ちあふれている。この情報を人間は受け取り、加工・処理して、認知主体を取り巻く世界についての表象としてまとめ上げる。この考え方に基づき認知科学者たちは、感覚・知覚から、記憶・学習、思考・推論、行為といった分野に至る研究を行ってきた。

これまで、図1─1に見られる情報の処理や加工という行為は、コンピュータがプログラムでデータを処理するというイメージで捉えられてきた。だからこの過程は「計算（computation）」と呼ばれたりする。表象は、その結果出来上がる認識、理解の内容と置き換えてもよい。つまりこれまでの認知科学は、計算─表象─計算という図式の下で人の心を捉えようとしてきた。

ここで難問が発生する。それは表象のできる場所と世界との関係である。

リンゴについて考えてみよう。自分の目の前のテーブルの上に、リンゴがあるのが見える。

これは計算─表象─計算の図式で考えると、リンゴ、テーブルを含む表象が頭の中にできたということになる。言うまでもなく、この表象は脳内（より一般的にいえば情報処理システム内）に存在している。

しかしよく考えてみてほしい。どんな人であっても頭の中にリンゴやテーブルが見えるわけではないし、脳の中にあるリンゴを食べたりしない。実際にそれらは目の前にあるのだ。

また頭の中のリンゴ＝表象を食べておいしいと感じるわけではない。私たちは、本物のリンゴを食べておいしいと感じる。どうやって頭の中にできた表象は実際の世界のモノ・コトと結びつくのだろうか。

「意識は脳の電気信号に過ぎない」という言葉を聞いたことがある人もいるかもしれない。だが、実際にリンゴは今、目の前に存在しているのだ。

私は四半世紀近く認知科学の講義を担当し、先に述べた認知科学の標準的な図式を説明してきた（というか、その妥当性を力説してきた）。ただいつも不安だったのは、「その図が正しいのなら、どうしてモノは頭の中に見えずに、世界の中に見えるのですか」という質問が来たらどう答えようかということだった。

幸いなことにこの質問をする学生はおらず、ことなきを得たのだが、なんだか前科を隠して生きているような気分であった。またこうしたごくごく素朴な質問に答えられないような学問は、そもそも虚構なのではないかという不安もあったし、虚構の学問に人生を捧げてきたとすれば、とてもとても残念なことになる。

私も含めてほとんどの人は、実際の物理世界と心の世界がそれぞれ存在することを認めるだろう。しかしこの二つを結びつける関係をどう考えるかというのは、とても難しい問題である。目の前のリンゴがおいしそうと思うだけでなく、実際においしそうなリンゴが目の前にある（＝存在している）。どうしてこの二つは結びつくのだろうか。

そんな問いを考えているときに、私は「プロジェクション」という概念に行き当たった。

AIは正しくモノを理解できない（川合）

「心」と「現実世界」がどう結びつくのか。この問いを考えることが、プロジェクション科学の第一歩だった。

ここまでの話を聞いて認知科学に詳しい人間なら、この問いは、記号接地問題と似ていると考えるかもしれない。記号接地問題とは、記号（文字列・言葉）が実世界の意味とどうつながっているかを論じる問題である。

現代では、ChatGPTなど生成型の人工知能が、人間のように自然な受け答えをしてくれる。だが、人工知能は、リンゴの味や意味、齧かじったときのあの音を理解しているわけではない。ただ、「リンゴ」という言葉が出てくるときに、どのような言葉がその前後に現れるか、統計情報に基づいて、文字列を生成しているに過ぎない。したがって、生成型人工知能がどれほど自然な文章を答えても、それは文の意味を理解しているわけではないし、リンゴの味を感じているわけでもない。

記号接地問題は、記号が本当に実体となりえるのか。つまり文字（記号）情報だけで味や感触、比喩も含めて現実世界の「リンゴ」を理解できるのかを問題にする。

これまでの認知科学や心理学では、あるモノ・コトに対する表象は特定の一つだけが生成されると無条件に想定していた。しかし、そのように考えると、私たちにとって「意味のある世界」が理解できない。

目の前にあるリンゴにしても、私たちはそこに「リンゴがある」という事実だけを、心の中に思い浮かべているわけではない。この点で私たちはAIとは大きく違う。「リンゴがある」という事実に対して、味や触感、色や思い出が想起される。

他の例も出してみよう。たとえば、結婚指輪は、どれも似たようなデザインである。その役割は明確であるが、「結婚指輪」という語が一般的に意味することと、「自分の結婚指輪」が意味するものは、大きく異なる。自分の結婚指輪は、思い出や意味が詰まった唯一無二のモノである。

川合は一度、結婚指輪をなくしたことがあり、当時は本当に狼狽した。妻に謝り、二人で新たに結婚指輪（といえるのかわからないが）を購入してしばらくしてから、家の中でなくした指輪が出てきた経験がある。

「結婚指輪」という言葉を聞けば、そのときのことを思い出す。このように、結婚指輪という辞書的な表象に加えて、それぞれの人の思い出や意味、価値観も併せて、表象は何重にも重ねられる。

目の前のリンゴにしても、そうした脳内の表象が重ねられることで現実世界のリンゴと脳内のリンゴが結びつく。だから、私たちはリンゴを、食べればおいしい、と判断して食べることができる。

従来の認知科学は、図1─1に示したように、心を外界の情報を取り込み処理し出力する情報処理システムと考える。しかし、そのような考え方だけでは、私たちが、意味に彩られた世界に生きていることを説明できない。そこで、心には「プロジェクション」という働きがあると考え、鈴木さんは研究を進めてきた。

この記事は幻冬舎plusからの転載です。

連載：心と現実

川合伸幸,鈴木宏昭