Khi AI đọc sai: ai chịu trách nhiệm

Một phần mềm đọc phim bỏ sót một tổn thương. Bác sĩ đọc lại cũng không thấy. Người bệnh được cho về, và vài tháng sau bệnh tiến triển.

Ai chịu trách nhiệm?

Câu hỏi này chưa có đáp án thống nhất ở nhiều nơi — và chính sự chưa rõ ràng đó đang định hình cách các hệ thống AI y tế được thiết kế.

Mô hình hiện nay: giữ người ở cuối chuỗi

Gần như mọi hệ thống AI y tế được phê duyệt đều được định vị là công cụ hỗ trợ, với bác sĩ đưa ra kết luận cuối cùng.

Điều này có hai lý do.

Lý do lâm sàng

AI chưa đủ tin cậy để hoạt động độc lập, đặc biệt với các ca không điển hình.

Lý do pháp lý

Khi có một người chịu trách nhiệm ở cuối chuỗi, khung trách nhiệm hiện hành vẫn áp dụng được. Không cần một hệ thống pháp lý mới.

Nói cách khác, mô hình "AI hỗ trợ, bác sĩ quyết" vừa là lựa chọn kỹ thuật vừa là lựa chọn pháp lý.

Các bên liên quan

Bác sĩ

Là người đưa ra kết luận và chịu trách nhiệm lâm sàng. Việc có dùng công cụ hỗ trợ hay không không thay đổi điều này.

Cơ sở y tế

Chịu trách nhiệm về việc lựa chọn, triển khai và giám sát công cụ: có kiểm định trước khi dùng không, có đào tạo nhân viên không, có theo dõi hiệu năng không.

Nhà sản xuất

Chịu trách nhiệm về chất lượng sản phẩm và về việc mô tả đúng phạm vi sử dụng.

Điểm này quan trọng: nếu sản phẩm được quảng bá cho một chỉ định vượt quá phạm vi đã được phê duyệt, đó là vấn đề của nhà sản xuất.

Tình huống khó: bác sĩ không đồng ý với AI

Đây là tình huống mới mà nghề y chưa từng gặp trước đây.

Trường hợp một: AI đánh dấu, bác sĩ bỏ qua

Nếu sau này hoá ra AI đúng, bác sĩ có thể bị đặt câu hỏi vì sao bỏ qua cảnh báo.

Trường hợp hai: AI nói bình thường, bác sĩ thấy nghi ngờ

Nếu bác sĩ tin AI mà bỏ qua nghi ngờ của mình, và hoá ra mình đúng — đây cũng là vấn đề.

Hệ quả thực tế: việc ghi lại lý do của quyết định trong hồ sơ trở nên quan trọng hơn hẳn so với trước.

Một ghi chú ngắn giải thích vì sao bác sĩ đánh giá khác với gợi ý của phần mềm là tài liệu có giá trị — cả về mặt lâm sàng lẫn về mặt pháp lý.

Hiện tượng thiên lệch tự động hoá

Đây là khái niệm có tên trong nghiên cứu về tương tác người-máy: xu hướng con người tin vào gợi ý của hệ thống tự động hơn mức hợp lý.

Trong y tế, nó thể hiện theo hai chiều:

• Chấp nhận gợi ý của AI mà không kiểm tra kỹ.
• Bỏ qua đánh giá của chính mình khi nó mâu thuẫn với máy.

Nghịch lý là một hệ thống AI tốt có thể làm tăng hiện tượng này — vì nó đúng nhiều lần, người dùng dần tin tưởng, và sự cảnh giác giảm đi đúng vào lúc cần nhất.

Các chương trình triển khai nghiêm túc có tính tới điều này trong thiết kế giao diện và trong đào tạo.

Giám sát sau lưu hành

Với thiết bị y tế thông thường, sau khi được phê duyệt vẫn phải có cơ chế theo dõi sự cố và báo cáo.

Với phần mềm AI, việc này có thêm một chiều nữa: hiệu năng có thể giảm dần theo thời gian khi dữ liệu thực tế thay đổi.

Nên yêu cầu giám sát không chỉ là ghi nhận sự cố mà còn là đo hiệu năng định kỳ.

Một câu hỏi thực tế cho cơ sở y tế: ai đang theo dõi xem hệ thống này còn hoạt động tốt như ngày đầu không?

Vấn đề mô hình tự cập nhật

Một số hệ thống được thiết kế để học tiếp từ dữ liệu mới. Điều này đặt ra câu hỏi khó cho khung phê duyệt truyền thống:

Nếu phần mềm được phê duyệt ở phiên bản A, rồi tự thay đổi thành phiên bản B qua quá trình học — phê duyệt còn hiệu lực không?

Các cơ quan quản lý đang xây dựng cách tiếp cận cho vấn đề này, thường theo hướng yêu cầu nhà sản xuất mô tả trước phạm vi thay đổi được phép và có cơ chế kiểm soát.

Quyền của người bệnh

Câu hỏi đang được thảo luận ở nhiều nơi: người bệnh có quyền biết AI đã được dùng trong ca của mình không?

Quy định chưa thống nhất, nhưng việc hỏi thì hoàn toàn chính đáng:

• "Kết quả này có dùng phần mềm hỗ trợ không ạ?"
• "Bác sĩ có đọc lại không?"
• "Ai là người đưa ra kết luận cuối cùng?"

Một cơ sở làm việc minh bạch trả lời rõ ba câu này.

Một cách nhìn

Sự chưa rõ ràng về trách nhiệm không phải là lý do để từ chối công nghệ, cũng không phải là lý do để triển khai nó một cách vội vàng.

Nó là lý do để giữ nguyên tắc đang được áp dụng: công cụ hỗ trợ, con người quyết định, và mọi quyết định đều được ghi lại.

Nguyên tắc này không mới. Nó chỉ là cách nghề y vốn vẫn làm với mọi công cụ chẩn đoán — và AI, xét cho cùng, là một công cụ chẩn đoán nữa.

Câu hỏi thường gặp