Tại Liên hoan Văn học và Văn hóa Babell ở Porto, Bồ Đào Nha, nhà văn Margaret Atwood — tác giả nổi tiếng của 'The Handmaid's Tale' và 'The Blind Assassin' — đã thẳng thắn bày tỏ quan điểm về trí tuệ nhân tạo khi được phỏng vấn trên sân khấu.
Một lần dùng Claude, một lần thất vọng
Theo ghi nhận của Deadline từ sự kiện, Atwood cho biết bà chỉ dùng chatbot AI đúng một lần trong đời — đó là Claude của Anthropic. Kết quả không như kỳ vọng.
Bà đã hỏi Claude về series phim trinh thám Anh 'Father Brown', nhưng chatbot đưa ra câu trả lời sai. Atwood nhận xét thẳng thắn: 'Claude đã trả lời sai, hoặc nó đã nói dối. Dĩ nhiên, nó không biết mình đang nói dối vì nó không phải con người — nó là một mô hình ngôn ngữ lớn… Nó chỉ lướt qua dữ liệu.'
Đây là hiện tượng thường được gọi là 'ảo giác AI' (hallucination) — khi mô hình ngôn ngữ tự tin trình bày thông tin sai lệch mà không hề hay biết. Với Atwood, đây chính là vấn đề cốt lõi của công nghệ này.
'Garbage in, garbage out' — bài toán chưa có lời giải
Nhà văn người Canada dùng cụm từ kinh điển trong ngành máy tính — 'garbage in, garbage out' (rác vào, rác ra) — để chỉ ra rằng chất lượng đầu ra của AI phụ thuộc hoàn toàn vào chất lượng dữ liệu đầu vào mà nó được huấn luyện.
Nếu dữ liệu huấn luyện chứa thông tin sai, thiên kiến hay nội dung kém chất lượng, mô hình AI sẽ tái tạo và khuếch đại những vấn đề đó thay vì khắc phục chúng. Đây là một trong những chỉ trích học thuật và kỹ thuật phổ biến nhất nhắm vào các hệ thống AI tạo sinh hiện nay.
Claude đã trả lời sai, hoặc nó đã nói dối. Dĩ nhiên, nó không biết mình đang nói dối vì nó không phải con người; nó là một mô hình ngôn ngữ lớn.
Phát biểu của Atwood tại Porto phản ánh mối lo ngại ngày càng tăng trong giới văn học và học thuật về độ tin cậy của các công cụ AI — đặc biệt khi chúng được sử dụng để tra cứu thông tin thực tế. Trong khi các công ty công nghệ liên tục cải tiến mô hình nhằm giảm thiểu hiện tượng ảo giác, bài toán này vẫn chưa được giải quyết triệt để.
Là một trong những tiếng nói văn chương có ảnh hưởng nhất thế giới, quan điểm của Atwood một lần nữa nhắc nhở rằng sự hào hứng xung quanh AI cần đi kèm với tư duy phê phán — đặc biệt đối với những người dùng tìm kiếm thông tin chính xác từ các hệ thống này.
Về bài này
Bài viết do AI tổng hợp + biên tập tự động từ The Verge. AI Teacher Park không kiểm duyệt từng câu. Khuyến nghị đọc bản gốc để có thông tin đầy đủ.