Có một hiện tượng mà bất cứ ai dùng chatbot lâu cũng gặp: nó đưa ra một thông tin rất cụ thể, rất thuyết phục — và hoàn toàn không có thật.
Cơ chế
Mô hình ngôn ngữ không lưu trữ sự thật theo kiểu một cuốn từ điển. Nó học các mẫu thống kê về việc từ nào thường đi sau từ nào trong văn bản.
Khi được hỏi, nó sinh ra chuỗi từ có khả năng cao nhất theo mẫu đã học.
Với thông tin phổ biến, các mẫu này ổn định và câu trả lời thường đúng. Với thông tin hiếm hoặc rất cụ thể, mô hình vẫn sinh ra một chuỗi — chỉ là chuỗi đó được ghép từ các mảnh có hình dạng giống thông tin thật, chứ không phải là thông tin thật.
Nó không có cơ chế nội tại để phân biệt hai trường hợp.
Vì sao nó không nói "tôi không biết"
Vì trong dữ liệu huấn luyện, câu trả lời đầy đủ và tự tin xuất hiện nhiều hơn nhiều so với lời thừa nhận không biết.
Mô hình học rằng "một câu trả lời tốt" trông như thế nào — và một câu trả lời tốt thì mạch lạc, có cấu trúc, có chi tiết.
Nên khi thiếu thông tin, thứ nó làm không phải là dừng lại, mà là ghép ra một câu trả lời trông giống câu trả lời tốt.
Các dạng ảo giác trong nội dung y tế
Trích dẫn giả
Tên nghiên cứu, tên tạp chí, năm công bố — tất cả nghe đúng kiểu, nhưng nghiên cứu đó không tồn tại. Đây là dạng phổ biến nhất và khó nhận ra nhất.
Con số không nguồn
"Khoảng bảy mươi phần trăm trường hợp..." — con số có thể gần đúng, có thể sai hẳn, và thường không có cách truy ngược.
Ghép nhầm tên thuốc
Đặc biệt với các thuốc ít gặp hoặc tên thương mại khác nhau giữa các nước.
Trộn lẫn các bệnh gần nhau
Đặc điểm của bệnh A bị gán cho bệnh B, khi hai bệnh có tên hoặc biểu hiện tương tự.
Khuyến cáo đã lỗi thời
Hướng dẫn điều trị thay đổi theo thời gian, và mô hình phản ánh dữ liệu tại thời điểm huấn luyện.
Nghịch lý của sự cụ thể
Đây là điểm quan trọng nhất cần nhớ:
Chi tiết càng cụ thể thì khả năng sai càng cao — nhưng chính sự cụ thể lại làm câu trả lời trông đáng tin hơn.
Một câu nói chung chung về cơ chế bệnh thường đúng. Một câu nêu đích danh tên nghiên cứu và con số phần trăm thì đáng nghi hơn nhiều — dù nó nghe chuyên nghiệp hơn hẳn.
Cách kiểm chứng
Yêu cầu nguồn rồi tự tra nguồn
Đây là bước quyết định. Không dừng ở việc mô hình đưa ra một cái tên — hãy tra cái tên đó.
Nếu tra không ra, đó không phải là do bạn tìm kém.
Hỏi lại theo cách khác
Đặt lại cùng một câu hỏi bằng cách diễn đạt khác, trong một cuộc trò chuyện mới. Nếu hai lần cho ra hai chi tiết khác nhau, đó là dấu hiệu mô hình đang sinh chứ không đang nhớ.
Đối chiếu nguồn chính thống
Trang của hội chuyên ngành, của các trung tâm y tế lớn, hoặc tài liệu hướng dẫn điều trị.
Hỏi ngược
"Thông tin bạn vừa nói có thể sai ở điểm nào?" Câu này đôi khi làm mô hình tự nêu ra các điểm không chắc.
Vì sao nó nguy hiểm hơn trong y tế
Với phần lớn chủ đề, một thông tin sai chỉ gây bất tiện.
Trong y tế, chuỗi hệ quả dài hơn: thông tin sai dẫn tới hiểu sai mức độ nghiêm trọng, dẫn tới trì hoãn đi khám hoặc ngược lại là lo lắng quá mức, dẫn tới quyết định sai về chính cơ thể mình.
Một nguyên tắc thực dụng
Dùng chatbot cho hiểu, không dùng cho quyết định.
Hiểu một thuật ngữ, hiểu cơ chế chung của một bệnh, hiểu mình nên hỏi gì — đây là nơi nó có ích và sai sót ít tốn kém.
Quyết định có đi khám không, dùng thuốc gì, liều bao nhiêu, ngừng thuốc nào — đây là nơi cần một người có bệnh sử của bạn trong tay và có trách nhiệm với lời khuyên của mình.
Câu hỏi thường gặp
Ảo giác của AI nghĩa là gì?
Là hiện tượng mô hình tạo ra thông tin nghe hợp lý nhưng không có thật: một nghiên cứu không tồn tại, một con số không có nguồn, một tên thuốc ghép nhầm. Nó không phải lỗi kỹ thuật thỉnh thoảng mà là hệ quả của cách mô hình sinh văn bản.
Vì sao mô hình lại bịa thay vì nói không biết?
Vì nó được huấn luyện để tạo ra chuỗi từ có khả năng cao, và một câu trả lời trôi chảy luôn có khả năng cao hơn một câu thừa nhận không biết. Nó không có cơ chế nội tại để phân biệt điều mình chắc với điều mình đang ghép ra.
Chỗ nào trong câu trả lời dễ sai nhất?
Các chi tiết cụ thể có thể kiểm chứng được: tên nghiên cứu, tên tác giả, năm công bố, con số tỷ lệ, liều thuốc chính xác, tên thuốc ít gặp. Nghịch lý là những chi tiết này lại làm câu trả lời trông đáng tin hơn.
Có cách nào giảm ảo giác không?
Yêu cầu nêu nguồn rồi tự tra nguồn đó, hỏi lại cùng một câu theo cách khác để xem có nhất quán không, và đối chiếu với trang chính thống. Không cách nào loại bỏ hoàn toàn, nên với thông tin y tế thì việc kiểm chứng vẫn là bắt buộc.