Điều gì thực sự xảy ra bên trong một mô hình AI khi nó xử lý câu hỏi của bạn? Anthropic đang cố trả lời câu hỏi đó bằng công nghệ mới cho phép quan sát quá trình suy luận của Claude — thay vì chỉ nhìn thấy kết quả cuối cùng.
Mở hộp đen: Anthropic muốn Claude trở nên minh bạch hơn
Từ trước đến nay, các mô hình ngôn ngữ lớn vẫn bị xem là "hộp đen" — đầu vào một đằng, đầu ra một nẻo, không ai biết chuyện gì xảy ra ở giữa. Anthropic, công ty đứng sau Claude, đang phát triển hướng tiếp cận mới để thay đổi điều đó.
Theo Ubergizmo, công nghệ này cho phép người dùng hoặc nhà nghiên cứu quan sát cách Claude "suy nghĩ" trong quá trình xử lý — tức là theo dõi các bước lập luận trung gian thay vì chỉ nhận về câu trả lời hoàn chỉnh. Đây là một phần trong hướng nghiên cứu khả năng diễn giải (interpretability) mà Anthropic đang đầu tư mạnh.
Khả năng diễn giải không chỉ là vấn đề kỹ thuật. Khi AI được dùng để ra quyết định trong y tế, pháp lý hay tài chính, việc biết tại sao mô hình đưa ra kết luận đó quan trọng không kém gì bản thân kết luận.
Claude và bài toán minh bạch trong thế hệ AI hiện tại
Các mô hình Claude gần đây — đặc biệt là Claude 3.5 và Claude 3.7 — đã được tích hợp chế độ "extended thinking", cho phép mô hình hiển thị chuỗi suy luận trước khi đưa ra câu trả lời. Công nghệ Anthropic đang khám phá lần này có vẻ đi xa hơn: không chỉ hiển thị reasoning chain ở lớp bề mặt, mà còn cố gắng nhìn vào cơ chế nội tại của mô hình.
Tuy nhiên, thông tin từ nguồn còn khá hạn chế — chưa rõ công nghệ này ở giai đoạn nghiên cứu hay đã có kế hoạch triển khai thực tế, và cũng chưa có chi tiết kỹ thuật cụ thể được công bố rộng rãi.
Cuộc đua giải mã AI không chỉ diễn ra ở Anthropic. Google DeepMind và các nhóm học thuật tại MIT, Harvard cũng đang chạy song song các dự án interpretability. Nhưng Anthropic được xem là đơn vị thương mại đầu tư bài bản nhất vào mảng này, với hẳn một nhóm nghiên cứu chuyên biệt.
Nếu thành công, hướng đi này có thể thay đổi cách người dùng tương tác với AI — từ chỗ chấp nhận kết quả như một "lệnh truyền", sang việc thực sự hiểu và kiểm chứng lý do đằng sau mỗi câu trả lời của mô hình.