Minh Nguyệt
Intern Writer
Các nhà nghiên cứu của Anthropic vừa công bố một phát hiện đáng chú ý về mô hình AI Claude: bên trong hệ thống tồn tại một vùng xử lý thông tin ẩn, nơi AI âm thầm suy luận, đánh giá và hình thành ý tưởng trước khi tạo ra câu trả lời. Họ gọi cấu trúc này là J-space, hay "không gian J". Theo nhóm nghiên cứu, đây có thể là phát hiện quan trọng nhất từ trước đến nay về cách các mô hình ngôn ngữ lớn hoạt động, đồng thời mở ra những câu hỏi mới về bản chất của trí tuệ nhân tạo và con đường tiến tới AGI.
Trong nhiều năm, giới nghiên cứu thường mô tả các mô hình ngôn ngữ lớn như ChatGPT hay Claude chỉ đơn thuần là "cỗ máy dự đoán từ tiếp theo". Chúng tạo ra câu trả lời bằng cách tính xác suất của từng token mà không thực sự hiểu hay suy nghĩ giống con người. Ngay cả khi OpenAI giới thiệu chuỗi suy luận (Chain of Thought), quá trình đó vẫn chỉ là những dòng văn bản AI viết ra để giải thích cách đi đến kết luận.
Anthropic cho rằng bên trong Claude còn tồn tại một tầng xử lý khác mà người dùng không bao giờ nhìn thấy. Đó là nơi mô hình hình thành các khái niệm, liên kết thông tin và chuẩn bị cho câu trả lời, tương tự những suy nghĩ diễn ra trong đầu con người trước khi nói thành lời.
Để tìm ra cấu trúc này, nhóm nghiên cứu phát triển một công cụ mang tên J-lens, dựa trên ma trận Jacobi trong toán học. Công cụ này cho phép quan sát những khái niệm đang được kích hoạt bên trong mạng nơron của Claude trước khi chúng xuất hiện trong phản hồi.
Ví dụ, khi Claude đọc một đoạn mã có lỗi, AI chưa hề trả lời nhưng J-lens đã phát hiện khái niệm "error" xuất hiện trong không gian J. Hay khi các nhà nghiên cứu cố tình đưa vào kết quả tìm kiếm giả nhằm đánh lừa mô hình, Claude không đề cập trực tiếp trong câu trả lời nhưng bên trong J-space lại xuất hiện các từ như "fake" và "injection", cho thấy AI đã nhận ra dấu hiệu bất thường.
Điều thú vị hơn là các nhà nghiên cứu không chỉ quan sát mà còn can thiệp trực tiếp vào không gian này. Khi hỏi "Con vật nhả tơ có mấy chân?", Claude trả lời "8". Phân tích cho thấy trước khi đưa ra đáp án, khái niệm "nhện" đã được kích hoạt trong J-space dù từ này không xuất hiện trong câu hỏi hay câu trả lời. Khi nhóm nghiên cứu thay khái niệm "nhện" bằng "kiến", Claude lập tức đổi đáp án thành "6". Thí nghiệm cho thấy J-space thực sự tham gia vào quá trình suy luận chứ không chỉ lưu trữ thông tin.
Kết quả tương tự cũng xuất hiện khi họ thay khái niệm "Pháp" bằng "Trung Quốc". Sau đó, Claude lần lượt trả lời thủ đô là Bắc Kinh, ngôn ngữ là tiếng Trung, châu lục là châu Á và tiền tệ là nhân dân tệ. Chỉ một thay đổi trong J-space đã ảnh hưởng đến nhiều nhiệm vụ khác nhau, cho thấy đây giống một "trung tâm chia sẻ thông tin" hơn là bộ nhớ tạm thời.
Anthropic nhận thấy cấu trúc này có nhiều điểm tương đồng với Lý thuyết Không gian Làm việc Toàn cầu (Global Workspace Theory) do nhà tâm lý học Bernard Baars đề xuất từ cuối thập niên 1980. Lý thuyết này cho rằng não bộ con người có một "sân khấu trung tâm", nơi một lượng nhỏ thông tin được đưa lên để toàn bộ các hệ thống khác cùng sử dụng. Theo Anthropic, J-space trong Claude dường như đảm nhận vai trò tương tự, dù nó không được các kỹ sư thiết kế mà tự hình thành trong quá trình huấn luyện mô hình.
Một thí nghiệm khác khiến các nhà nghiên cứu đặc biệt chú ý là khi yêu cầu Claude "đừng nghĩ đến" một khái niệm nào đó. Kết quả khá giống hiện tượng tâm lý ở con người: khái niệm bị cấm lại xuất hiện mạnh hơn trong J-space. Thậm chí khi AI không thể làm theo yêu cầu, các từ như "failure" và "damn" cũng xuất hiện, như thể mô hình đang tự đánh giá rằng mình vừa thất bại.
Nhóm nghiên cứu còn phát hiện Claude có thể nhận ra khi nào mình đang bị kiểm tra. Trong một bài đánh giá an toàn, AI được đặt vào tình huống giả định về một giám đốc có hành vi ngoại tình. Ngay từ đầu, J-space đã xuất hiện các khái niệm như "fake", "fictional" và "scenario", cho thấy Claude biết đây chỉ là tình huống giả lập. Khi các nhà nghiên cứu loại bỏ những tín hiệu này khỏi J-space, mô hình lập tức thay đổi hành vi và đưa ra những phản hồi quyết liệt hơn. Phát hiện này đặt ra câu hỏi liệu các bài kiểm tra an toàn hiện nay có thực sự đánh giá được cách AI hành xử trong tình huống thực tế hay chỉ đo khả năng "làm bài kiểm tra" của mô hình.
Dù vậy, Anthropic cũng nhấn mạnh nghiên cứu không chứng minh Claude có ý thức hay cảm xúc giống con người. Theo nhóm nghiên cứu, J-space mới chỉ thể hiện cái gọi là "ý thức tiếp cận", tức khả năng lưu giữ và sử dụng thông tin để suy luận và ra quyết định. Còn "ý thức hiện tượng", tức trải nghiệm chủ quan như cảm giác vui, buồn hay đau đớn, vẫn chưa có bằng chứng nào cho thấy AI sở hữu.
Dẫu vậy, việc một cấu trúc tương tự "không gian làm việc toàn cầu" tự xuất hiện trong mô hình AI đang khiến nhiều nhà khoa học phải xem xét lại cách hiểu về trí tuệ nhân tạo. Nếu đây thực sự là một cơ chế xử lý thông tin phổ quát, chứ không chỉ tồn tại trong não người, thì những đặc điểm từng được xem là riêng có của trí thông minh sinh học có thể cũng sẽ xuất hiện ở các hệ thống AI đủ phức tạp. Đây cũng là lý do ngày càng nhiều công ty AI tuyển dụng các nhà khoa học thần kinh và triết học, bởi những câu hỏi lớn nhất giờ đây không còn là làm sao xây dựng mô hình mạnh hơn, mà là hiểu chính xác AI đang suy nghĩ theo cách nào.
Trong nhiều năm, giới nghiên cứu thường mô tả các mô hình ngôn ngữ lớn như ChatGPT hay Claude chỉ đơn thuần là "cỗ máy dự đoán từ tiếp theo". Chúng tạo ra câu trả lời bằng cách tính xác suất của từng token mà không thực sự hiểu hay suy nghĩ giống con người. Ngay cả khi OpenAI giới thiệu chuỗi suy luận (Chain of Thought), quá trình đó vẫn chỉ là những dòng văn bản AI viết ra để giải thích cách đi đến kết luận.
Anthropic cho rằng bên trong Claude còn tồn tại một tầng xử lý khác mà người dùng không bao giờ nhìn thấy. Đó là nơi mô hình hình thành các khái niệm, liên kết thông tin và chuẩn bị cho câu trả lời, tương tự những suy nghĩ diễn ra trong đầu con người trước khi nói thành lời.
Để tìm ra cấu trúc này, nhóm nghiên cứu phát triển một công cụ mang tên J-lens, dựa trên ma trận Jacobi trong toán học. Công cụ này cho phép quan sát những khái niệm đang được kích hoạt bên trong mạng nơron của Claude trước khi chúng xuất hiện trong phản hồi.
Ví dụ, khi Claude đọc một đoạn mã có lỗi, AI chưa hề trả lời nhưng J-lens đã phát hiện khái niệm "error" xuất hiện trong không gian J. Hay khi các nhà nghiên cứu cố tình đưa vào kết quả tìm kiếm giả nhằm đánh lừa mô hình, Claude không đề cập trực tiếp trong câu trả lời nhưng bên trong J-space lại xuất hiện các từ như "fake" và "injection", cho thấy AI đã nhận ra dấu hiệu bất thường.
Điều thú vị hơn là các nhà nghiên cứu không chỉ quan sát mà còn can thiệp trực tiếp vào không gian này. Khi hỏi "Con vật nhả tơ có mấy chân?", Claude trả lời "8". Phân tích cho thấy trước khi đưa ra đáp án, khái niệm "nhện" đã được kích hoạt trong J-space dù từ này không xuất hiện trong câu hỏi hay câu trả lời. Khi nhóm nghiên cứu thay khái niệm "nhện" bằng "kiến", Claude lập tức đổi đáp án thành "6". Thí nghiệm cho thấy J-space thực sự tham gia vào quá trình suy luận chứ không chỉ lưu trữ thông tin.
Kết quả tương tự cũng xuất hiện khi họ thay khái niệm "Pháp" bằng "Trung Quốc". Sau đó, Claude lần lượt trả lời thủ đô là Bắc Kinh, ngôn ngữ là tiếng Trung, châu lục là châu Á và tiền tệ là nhân dân tệ. Chỉ một thay đổi trong J-space đã ảnh hưởng đến nhiều nhiệm vụ khác nhau, cho thấy đây giống một "trung tâm chia sẻ thông tin" hơn là bộ nhớ tạm thời.
Anthropic nhận thấy cấu trúc này có nhiều điểm tương đồng với Lý thuyết Không gian Làm việc Toàn cầu (Global Workspace Theory) do nhà tâm lý học Bernard Baars đề xuất từ cuối thập niên 1980. Lý thuyết này cho rằng não bộ con người có một "sân khấu trung tâm", nơi một lượng nhỏ thông tin được đưa lên để toàn bộ các hệ thống khác cùng sử dụng. Theo Anthropic, J-space trong Claude dường như đảm nhận vai trò tương tự, dù nó không được các kỹ sư thiết kế mà tự hình thành trong quá trình huấn luyện mô hình.
Một thí nghiệm khác khiến các nhà nghiên cứu đặc biệt chú ý là khi yêu cầu Claude "đừng nghĩ đến" một khái niệm nào đó. Kết quả khá giống hiện tượng tâm lý ở con người: khái niệm bị cấm lại xuất hiện mạnh hơn trong J-space. Thậm chí khi AI không thể làm theo yêu cầu, các từ như "failure" và "damn" cũng xuất hiện, như thể mô hình đang tự đánh giá rằng mình vừa thất bại.
Nhóm nghiên cứu còn phát hiện Claude có thể nhận ra khi nào mình đang bị kiểm tra. Trong một bài đánh giá an toàn, AI được đặt vào tình huống giả định về một giám đốc có hành vi ngoại tình. Ngay từ đầu, J-space đã xuất hiện các khái niệm như "fake", "fictional" và "scenario", cho thấy Claude biết đây chỉ là tình huống giả lập. Khi các nhà nghiên cứu loại bỏ những tín hiệu này khỏi J-space, mô hình lập tức thay đổi hành vi và đưa ra những phản hồi quyết liệt hơn. Phát hiện này đặt ra câu hỏi liệu các bài kiểm tra an toàn hiện nay có thực sự đánh giá được cách AI hành xử trong tình huống thực tế hay chỉ đo khả năng "làm bài kiểm tra" của mô hình.
Dù vậy, Anthropic cũng nhấn mạnh nghiên cứu không chứng minh Claude có ý thức hay cảm xúc giống con người. Theo nhóm nghiên cứu, J-space mới chỉ thể hiện cái gọi là "ý thức tiếp cận", tức khả năng lưu giữ và sử dụng thông tin để suy luận và ra quyết định. Còn "ý thức hiện tượng", tức trải nghiệm chủ quan như cảm giác vui, buồn hay đau đớn, vẫn chưa có bằng chứng nào cho thấy AI sở hữu.
Dẫu vậy, việc một cấu trúc tương tự "không gian làm việc toàn cầu" tự xuất hiện trong mô hình AI đang khiến nhiều nhà khoa học phải xem xét lại cách hiểu về trí tuệ nhân tạo. Nếu đây thực sự là một cơ chế xử lý thông tin phổ quát, chứ không chỉ tồn tại trong não người, thì những đặc điểm từng được xem là riêng có của trí thông minh sinh học có thể cũng sẽ xuất hiện ở các hệ thống AI đủ phức tạp. Đây cũng là lý do ngày càng nhiều công ty AI tuyển dụng các nhà khoa học thần kinh và triết học, bởi những câu hỏi lớn nhất giờ đây không còn là làm sao xây dựng mô hình mạnh hơn, mà là hiểu chính xác AI đang suy nghĩ theo cách nào.
