Căn phòng tiếng Trung là lập luận của John Searle rằng một chương trình chỉ thao tác ký hiệu theo quy tắc, dù trả lời đúng và trôi chảy như người, vẫn không hiểu gì. Theo ông, tuân theo cú pháp, tức hình thức của ký hiệu, không đủ để có ngữ nghĩa, tức hiểu ký hiệu nói về điều gì.
Chào bạn, đây là Nhà Học Thuật. Lập luận này ra đời năm một nghìn chín trăm tám mươi, khi máy tính còn rất thô sơ. Hơn bốn mươi năm sau, khi máy trò chuyện trôi chảy với hàng triệu người mỗi ngày, nó bỗng trở thành câu hỏi thời sự. Tập này mình kể lập luận ấy và những lời đáp mạnh nhất.
Phép thử của Turing
Năm một nghìn chín trăm năm mươi, Alan Turing viết bài báo hỏi máy có thể suy nghĩ không. Thay vì định nghĩa suy nghĩ, ông đề xuất một trò chơi bắt chước: một người hỏi chuyện qua văn bản với một người và một máy. Nếu người hỏi không phân biệt được đâu là máy, thì ta có lý do để nói máy đang suy nghĩ.
Turing biết đề xuất của mình sẽ gây phản đối, và trong bài báo ông tự nêu rồi trả lời nhiều lời phản đối có thể có.
Phép thử ấy đặt trọng tâm vào hành vi bên ngoài. Nếu cư xử như hiểu, thì nói là hiểu cũng được. Ba mươi năm sau, Searle tấn công chính giả định đó.
Searle phân biệt hai luận điểm. Trí tuệ nhân tạo yếu nói rằng máy tính là công cụ hữu ích để nghiên cứu tâm trí. Trí tuệ nhân tạo mạnh nói rằng một chương trình đúng, chạy trên máy, thật sự có tâm trí và thật sự hiểu. Ông chỉ phản đối luận điểm thứ hai.
Bên trong căn phòng
Searle mời ta tưởng tượng chính ông bị nhốt trong một căn phòng. Ông không biết một chữ tiếng Trung nào. Trong phòng có những rổ ký hiệu tiếng Trung và một cuốn sổ hướng dẫn bằng tiếng Anh, chỉ cách ghép ký hiệu: khi nhận được chuỗi ký hiệu dạng này thì đưa ra chuỗi ký hiệu dạng kia.
Người bên ngoài nhét qua khe cửa những câu hỏi viết bằng tiếng Trung. Searle tra sổ, ghép ký hiệu, đẩy ra câu trả lời. Sổ hướng dẫn tốt đến mức người bên ngoài tin rằng trong phòng có một người thạo tiếng Trung.
Nhưng Searle vẫn không hiểu một chữ nào. Ông chỉ thao tác hình dạng. Vậy, theo ông, một máy tính chạy chương trình cũng chỉ làm đúng như vậy, và cũng không hiểu.
Kết luận chung của Searle: chương trình là thuần cú pháp, tâm trí có ngữ nghĩa, mà cú pháp tự nó không đủ để tạo ra ngữ nghĩa. Vì vậy chạy đúng chương trình không đủ để có tâm trí.
Lời đáp hệ thống và lời phản bác của Searle
Bài báo của Searle đăng kèm hàng chục bình luận của các chuyên gia, nhiều người phản đối. Lời đáp phổ biến nhất gọi là lời đáp hệ thống: đúng là người trong phòng không hiểu tiếng Trung, nhưng toàn bộ hệ thống, gồm người, sổ hướng dẫn, giấy và rổ ký hiệu, thì hiểu.
Giống như một nơ ron riêng lẻ trong não bạn không hiểu tiếng Việt, nhưng cả bộ não thì hiểu. Hỏi người trong phòng có hiểu không là hỏi sai cấp độ.
Searle đáp: vậy hãy để người ấy học thuộc toàn bộ sổ hướng dẫn và làm mọi việc trong đầu. Giờ hệ thống nằm gọn trong người ấy, mà người ấy vẫn không hiểu tiếng Trung. Phía phản biện đáp lại rằng khi đó trong một bộ não có thể đang chạy hai hệ thống, và hệ thống thứ hai có thể hiểu dù hệ thứ nhất không biết.
Ở điểm này, cả hai phía bắt đầu dựa vào trực giác về những tình huống quá xa đời thường, và nhiều người cho rằng đó là chỗ thí nghiệm tư duy mất sức thuyết phục.
Lời đáp rô bốt và lời đáp mô phỏng não
Lời đáp rô bốt cho rằng vấn đề nằm ở chỗ căn phòng bị cắt khỏi thế giới. Nếu đặt chương trình vào một rô bốt có mắt, có tay, tương tác với đồ vật thật, ký hiệu sẽ được nối với sự vật, và hiểu biết có thể nảy sinh. Ý tưởng này gần với vấn đề gắn kết ký hiệu mà Stevan Harnad nêu về sau.
Searle trả lời rằng camera và động cơ chỉ thêm ký hiệu đầu vào và đầu ra. Người trong phòng vẫn chỉ nhận thêm ký hiệu, vẫn không hiểu.
Lời đáp mô phỏng não đề xuất: nếu chương trình mô phỏng chính xác từng nơ ron của một người nói tiếng Trung thì sao. Searle cho rằng mô phỏng không phải là cái được mô phỏng: mô phỏng một cơn bão trên máy tính không làm ai ướt.
Searle tin rằng hiểu biết phụ thuộc vào năng lực nhân quả cụ thể của não sinh học, chứ không chỉ vào chương trình. Nhưng ông không nói rõ năng lực đó là gì, và đó là chỗ phía phê bình thường nhắm vào.
Căn phòng tiếng Trung trong thời các mô hình ngôn ngữ
Các mô hình ngôn ngữ lớn hôm nay trông rất giống căn phòng của Searle: chúng học từ hàng tỷ câu chữ, và trả lời bằng cách dự đoán chuỗi ký hiệu tiếp theo. Chúng trò chuyện về tình yêu, toán học, nấu ăn một cách thuyết phục.
Người theo Searle nói đây chính là ví dụ hoàn hảo: thống kê trên ký hiệu, không có hiểu. Phía kia chỉ ra rằng những mô hình này hình thành bên trong những cấu trúc biểu diễn phức tạp về thế giới, và ranh giới giữa thao tác thống kê và hiểu không rõ ràng như Searle giả định.
Một số nhà nghiên cứu cho rằng hiểu là chuyện mức độ chứ không phải có hoặc không, và nên được kiểm tra bằng những phép thử cụ thể về khả năng khái quát, suy luận, gắn với thế giới, thay vì bằng trực giác.
Tranh luận chưa ngã ngũ. Nhưng có lẽ chính căn phòng của Searle đang buộc ta trả lời một câu hỏi mà trước đây ta mặc nhiên: khi bạn nói mình hiểu một câu, điều gì đang diễn ra bên trong bạn mà không diễn ra trong căn phòng.
Câu hỏi thường gặp
Searle có cho rằng máy không bao giờ có thể suy nghĩ không?
Không hẳn. Searle cho rằng não là một loại máy sinh học có thể suy nghĩ, và một máy nhân tạo có năng lực nhân quả tương đương cũng có thể. Ông chỉ phản đối ý cho rằng chạy đúng chương trình là đủ.
Phép thử Turing đã bị vượt qua chưa?
Tuỳ cách tổ chức phép thử. Đã có những cuộc thử nghiệm trong đó nhiều người không phân biệt được máy với người trong những cuộc trò chuyện ngắn. Nhưng nhiều nhà nghiên cứu cho rằng vượt qua phép thử chưa đủ chứng minh máy hiểu.
Cú pháp và ngữ nghĩa khác nhau thế nào?
Cú pháp là quy tắc về hình thức, ký hiệu nào được ghép với ký hiệu nào. Ngữ nghĩa là ý nghĩa, ký hiệu nói về điều gì trong thế giới. Câu hỏi then chốt là cái thứ hai có thể nảy sinh từ cái thứ nhất hay không.
Vấn đề gắn kết ký hiệu là gì?
Đó là câu hỏi làm sao ký hiệu trong một hệ thống có được ý nghĩa thật sự, thay vì chỉ được định nghĩa bằng những ký hiệu khác. Giống như học tiếng Trung chỉ bằng một cuốn từ điển Trung Trung, ta mãi đi vòng quanh mà không chạm tới nghĩa.
John Searle là ai?
Ông là triết gia người Mỹ, giảng dạy nhiều năm ở Đại học California tại Berkeley, nổi tiếng với các công trình về hành động ngôn từ, ý hướng tính và triết học tâm trí.
