Anthropic vừa công bố một phát hiện bất ngờ: bên trong Claude tồn tại một cấu trúc nội tại được đặt tên là 'J-Space' — một không gian biểu diễn ẩn mà trước đây chưa được ghi nhận. Phát hiện này không chỉ là kết quả kỹ thuật đơn thuần; nó mở ra câu hỏi lớn hơn về việc các mô hình ngôn ngữ lớn thực sự 'nghĩ' như thế nào.
Theo Firstpost đưa tin, nhóm nghiên cứu của Anthropic đã phát hiện J-Space trong quá trình phân tích cơ chế bên trong Claude — một phần trong nỗ lực dài hơi của công ty nhằm hiểu rõ hơn hành vi của AI thay vì chỉ đo lường đầu ra của nó.
J-Space là gì và tại sao nó khiến giới nghiên cứu Claude chú ý
J-Space được mô tả là một không gian ẩn — tức một lớp biểu diễn nội tại mà mô hình sử dụng để xử lý thông tin trước khi tạo ra phản hồi. Không giống như các vector kích hoạt thông thường vốn đã được nghiên cứu nhiều, J-Space dường như hoạt động như một tầng trung gian có cấu trúc riêng, không dễ quan sát bằng các phương pháp phân tích thông thường.
Anthropic là một trong số ít công ty AI đặt interpretability — khả năng giải thích và hiểu bên trong mô hình — lên ngang tầm với việc phát triển năng lực mới. Phát hiện J-Space phản ánh đúng hướng đi đó: thay vì chỉ hỏi 'Claude làm được gì', câu hỏi đặt ra là 'Claude đang làm điều đó như thế nào, và tại sao'.
Điều đáng chú ý là cấu trúc này được tìm thấy không phải qua thiết kế có chủ đích, mà thông qua quá trình quan sát và phân tích ngược. Nói cách khác, J-Space là thứ Claude tự hình thành trong quá trình huấn luyện — chứ không phải thứ kỹ sư đặt vào.
Ý nghĩa với hướng nghiên cứu interpretability của các mô hình ngôn ngữ lớn
Với cộng đồng AI safety và interpretability, đây là loại phát hiện được chờ đợi từ lâu. Các mô hình ngôn ngữ lớn hiện nay vẫn phần lớn là 'hộp đen' — người dùng biết đầu vào và đầu ra, nhưng rất ít biết về những gì xảy ra ở giữa. Mỗi cấu trúc ẩn được phát hiện và ghi chép lại đều là một mảnh ghép nhỏ trong bức tranh lớn hơn về cách trí tuệ nhân tạo thực sự vận hành.
Nếu J-Space tồn tại trong Claude, câu hỏi tiếp theo là liệu các mô hình khác như GPT hay Gemini có cấu trúc tương tự hay không — và chúng hoạt động theo cơ chế giống hay khác nhau. Đây là vùng nghiên cứu mà hiện tại chưa có nhiều câu trả lời dứt khoát.
Anthropic chưa công bố đầy đủ chi tiết kỹ thuật về J-Space tại thời điểm bài viết này được đăng tải. Phát hiện được nhắc đến qua bài đưa tin của Firstpost, nhưng báo cáo nghiên cứu gốc — nếu có — vẫn chưa được trích dẫn công khai rộng rãi. Điều đó có nghĩa là nhiều câu hỏi kỹ thuật quan trọng vẫn còn bỏ ngỏ, bao gồm cả việc J-Space ảnh hưởng thế nào đến hành vi thực tế của Claude trong các tình huống cụ thể.
Dù vậy, chỉ riêng việc đặt tên và xác định sự tồn tại của một cấu trúc như thế này đã là bước đầu của một quá trình dài hơn — từ quan sát, đến hiểu, đến kiểm soát. Với Anthropic, đó chính xác là lộ trình họ đang theo đuổi.