心の機能主義に対する有名な批判を順次見ていくことにしよう。
サールの批判
［コンピューターは何も理解しない］
1950年にチューリング（Alan Turing、1912-1954）は人工的な知能に関するチューリング・テスト（Turing Test）を提案した。このテストは二人の人間とテストされる機械（コンピューター）からなっている。一人がコンピューターの端末のある部屋にいる。この端末を使って部屋にいる人は二つの会話を行う。一つはコンピューターとの、他はもう一人の人との会話である。但し、その人は会話の相手がコンピューターか人間のいずれであるか教えられていないとしよう。
まず会話がなされ、誰と話したのか尋ねられる。話した相手がコンピューターなのか、それとも人間なのか答えなくてはならない。会話毎にこの質問は何度も繰り返される。繰り返しの後には何回的中したかの結果が出るだろう。50%の的中率なら単なる当てずっぽうということになるが、 適切な会話時間の長さのもとで、コンピューターが人間と間違われることが十分な頻度で起こったならば、そのコンピューターには知能があると言ってもよいだろう。これがチューリング・テストである。
チューリング・テストが知能のテストとして十分である理由はなにか。テストにパスするには世界や人間に関する広範囲の知識をもつことが必要であるばかりではなく、新しい環境に的確に反応できる柔軟性が求められる。この二つの条件を満たすには知能無くしては不可能である。
これに対して異議を唱えたのがサール（John Searle, 1932- ）だった。この批判は、「中国語の部屋の論証（Chinese-room argument）」と呼ばれている。サールの論証の意図は人間の思考過程に形式的に同型である計算アルゴリズムを実行しても思考を生み出すには十分では有り得ないことを示すことにあった。もしこの論証が正しければ、これは様々な機能主義に対して同じように言えるので、機能主義は人間の心を解明する原理としては誤っていることを意味している
サールは次のような思考実験を考える。漢字を一切知らない人に漢字を操作する全く形式的な規則の組を与えたとしてみよう。その人は記号を識別できても、それが何を意味しているのか知らない。規則は漢字が何を意味しているかは述べていない。規則は単にある形の記号が部屋に入ってきたら、紙に別の形の記号を書かなければならない、また、あるグループの記号は別のグループの記号と一緒になる、そしてその順序を述べているといったものだけである。その人は部屋に座り、規則を次々に適用して、紙の上に規則によって得られた漢字の別の集合を書き下す。そして、その紙を部屋の外で待っている別の人に渡す。その人にはわからないが、彼が適用した規則は文法的に正しい中国語の文を作り出す。しかし、その部屋の人には自分が何をしたのかさえわからない。サールによれば、その人はコンピューターが行っているのと正確に同じことを行っている。したがって、形式的な規則を使っての漢字の操作は、その人が中国語を理解するには十分でないとすれば、コンピューターにとっても中国語を理解するには十分ではない。この議論をまとめれば次のようになる。
コンピューターのプログラムは形式的（統語論的）である。
人間の心は心的内容（意味論）をもっている。
統語論は意味論を構成しないし、またそれに対して十分でもない。
したがって、プログラムは心を構成しないし、またそれに対して十分でもない。
言語を定めるには少なくともその言語の統語論と意味論を定めなければならない。言語の統語論は語彙とその他の補助的な記号を挙げ、カテゴリーに分類し、さらには文法を定めなければならない。 ここには意味は一切入っていない。意味論は記号の解釈である。ある記号列が何を指示し、何を意味しているか定めることである。真理、指示、意味はいずれも意味論的な概念である。言語を知るとは、したがって、その言語の統語論と意味論の両方を知ることである。だが、コンピューターは統語論しか知ることができない。
サールによれば、何かが考えているかどうかはその計算アルゴリズム（ソフトウエア）だけではなく、そのアルゴリズムを実行するものの本性（ハードウエア）にも依存している。 機能主義が問題なのは、彼によれば、思考に含まれる計算過程の物理的な実現から余りに抽象的なレベルにあることである。 彼はどのようなものが思考を生み出す因果的な能力をもっているかの基準は提供していない。それは将来の研究対象である。しかし、私たちは思考するものの具体例と思考しないものの具体例を知っている。
［サールの論証への反応］
サールの論証への反論や批判は実に多い。サールの論証は認知科学の哲学的な支柱である機能主義が十分に私たちの心を捉えることができないという主張であるから、機能主義的に心を捉えることができると考える哲学者、認知科学者の関心を強くかった。
哲学的な反応の代表はチャーチランド夫妻（Patricia and Paul Churchland）であろう。サールの三番目の仮定を信じる根拠がないというのが彼らの考えである。それは次の仮定であった。
統語論は意味論を構成しないし、またそれに対して十分でもない。
彼らは部屋の中の人は中国語を理解していないという点ではサールに賛成する。 その人、部屋、規則集、何枚かの紙からなるシステムが中国語を理解していると言うのもばかげている。 しかし、このことから記号を操作・処理するシステムが意味論をもち得ないと考える根拠はないと彼らは主張する。私たちは人間の認知の働き、そして記号操作システム一般について十分知っていない。したがって、ただ一つの思考実験から一般的な結論を得ることはできない。
サールの思考実験ではこの仮定を証明するのではなく、それを仮定しているだけである。この仮定は強いAIの基本的な仮定の否定に過ぎない。それゆえ、彼の論証は論点先取である。この点を明らかにするために彼らは次のような類比的な論証を考案し、電磁力が光を構成できないことを示す。
電気と磁気は力である。
光の本質的な性質は輝きである。
力それ自体は輝きを構成しないし、またそれに対して十分でもない。
それゆえ、電気と磁気は光にとって必要でも十分でもない。
誰かが手で磁石を振動させても光はつくりだすことはできない。私たちに見える光を生み出すには振動が余りにゆっくり過ぎるからである。いずれにしろ、これは電磁現象のただ一つの例でしかなく、そこから一般化することはできない。
