图灵测试的基本思路是，如果机器的行为方式和人没有差别，那就说明它拥有了智能。然而，美国哲学家约翰.希尔勒（John Searle）对这一智能定义提出了质疑，认为用图灵测试来定义智能是远远不够的，这种外在表现出来的智能并不能保证机器有了自己的思维。为此希尔勒给出了一个称为“中文屋子”的假想实验来阐明他的思想[1]。
图片来源于https://en.ppt-online.org/658825
这要从罗杰.施安克编写的一个故事理解程序说起。该程序可以在“阅读”一个英文写的小故事之后，回答一些与故事有关的问题。看起来，似乎是机器“理解”了故事的内容。可是，真的如此吗？
希尔勒假设该程序也可以用来阅读中文故事，然后设想他自己在一个屋里代替计算机来执行这个程序，代表故事和问题的一连串中文符号通过一个小窗口被送到屋子里。除了故事和问题以外，不允许任何其他信息渗透到屋子里。希尔勒按照和计算机程序一样的处理过程对故事和问题进行处理，并最终通过同样的小窗口将结果送到屋子外面。由于希尔勒完全按照计算机的程序进行操作，因此对屋外的人来说没什么区别。
那么现在问题来了。希尔勒清楚地表明：他根本不懂任何中文，更谈不上理解了，他只是按照程序完成了各种操作，并给出了答案。既然他自己没理解，那计算机程序也谈不上什么理解。由此希尔勒得出结论：仅仅成功执行算法本身并不意味着对所发生的事情产生了理解，就象被锁在中文屋子里的希尔勒不理解故事的任何一个词。同样，即便计算机给出了正确的答案，甚至顺利地通过了图灵测试，它也有可能完全没有理解它所做的一切，因此也就不能说它具有了真正的智能。
一些学者对希尔勒的观点提出了反驳意见。例如，一种观点认为，理解与否应从一个“整体”来判断，和个体是否理解无关。听到一句话，不能保证每个脑细胞都能“理解”，但作为整体的人却可以理解。对于中文屋子来说，里边的希尔勒只不过相当于一个细胞，他不理解，并不意味着整个屋子不理解。诸如此类的反驳和希尔勒的辩解构成了认知领域持久的哲学讨论[2]。
中文屋子是由哲学家提出来的，本意是反对功能学派，强调人类思维的独特性。按希尔勒自己的说法，认知是生物的神经系统（特别是大脑）所特有的东西，“大脑产生思维”[1]。如果有一天人们弄清了大脑产生思维的机制，基于这一机制是有可能让机器产生真正的认知能力的。然而，在那一天到来之前，机器只能在功能上模仿人类。
参考文献：
[1] Searle, John (1980), "Minds, Brains and Programs", Behavioral and Brain Sciences, 3 (3): 417–457, doi:10.1017/S0140525X00005756, retrieved 2009-05-13
[2] Cole, David (Fall 2004), "The Chinese Room Argument", in Zalta, Edward N. (ed.), The Stanford Encyclopedia of Philosophy
[3]https://web.archive.org/web/20071210043312/http://members.aol.com/NeoNoetics/MindsBrainsPrograms.html