Khi ChatGPT xuất hiện cuối năm 2022, ngành y tế toàn cầu lập tức bước vào một trạng thái hào hứng xen lẫn hoài nghi. Chỉ trong vài tháng, hàng trăm bài báo khoa học và hàng nghìn thử nghiệm không chính thức đã xuất hiện, chứng minh rằng mô hình ngôn ngữ có khả năng trả lời câu hỏi lâm sàng ở mức đáng ngạc nhiên. Nhưng cũng nhanh không kém, những giới hạn của công nghệ này bộc lộ: mô hình có thể hư cấu triệu chứng, gán sai tên thuốc, gợi ý liều lượng ngoài phác đồ, và tệ nhất là làm việc đó bằng một giọng điệu tự tin đến mức người bệnh khó phân biệt đâu là kiến thức, đâu là ảo giác.
Trong bối cảnh ấy, Hội Thầy thuốc trẻ Việt Nam đứng trước một câu hỏi thực tế: chúng ta sẽ để người dân tự đi hỏi các mô hình ngôn ngữ nước ngoài về sức khoẻ mà không có bất kỳ điểm neo nào, hay chúng ta chủ động xây dựng một trợ lý AI y tế có kiểm soát, đặt trong khuôn khổ pháp lý và chuyên môn Việt Nam? Medibot ra đời từ câu trả lời thứ hai, và toàn bộ triết lý thiết kế của sản phẩm được đặt trên nền hai chữ "có kiểm soát".
Không phải cuộc thi mô hình, mà là cuộc thi kỹ thuật hệ thống
Nhiều đội phát triển AI y tế những năm gần đây rơi vào một cái bẫy quen thuộc: dồn quá nhiều nguồn lực vào việc chọn hoặc huấn luyện lại mô hình gốc, trong khi bỏ ngỏ lớp hạ tầng đảm bảo an toàn cho người dùng. Chúng tôi tiếp cận Medibot theo hướng ngược lại. Mô hình gốc được coi là một cấu phần có thể thay thế; giá trị dài hạn nằm ở lớp kiến trúc mà chúng tôi đặt xung quanh: bộ tài liệu tham chiếu được kiểm định, quy trình biên tập lâm sàng hai tầng, các luật chặn theo miền, hệ thống ghi nhận sự cố, và cơ chế đo lường độ tin cậy sau khi triển khai.
Nói cách khác, Medibot không cạnh tranh với các mô hình ngôn ngữ lớn về khả năng suy luận. Nó cạnh tranh về khả năng chịu trách nhiệm cho mỗi câu trả lời mà người dùng nhận được. Điều đó đòi hỏi một khối lượng công việc thiết kế hệ thống nhiều hơn nhiều so với việc gọi API và trả về kết quả.
Lớp tri thức là điểm neo, không phải mô hình
Trái tim của Medibot là một kho tri thức được biên tập chặt, gồm ba nhóm: văn bản pháp quy y tế Việt Nam, hướng dẫn chuyên môn của Bộ Y tế và các hội chuyên khoa, và tài liệu giáo dục sức khoẻ cộng đồng đã được kiểm định. Mọi câu trả lời của Medibot đều được yêu cầu tham chiếu về nguồn cụ thể trong kho này, thay vì tự sinh nội dung dựa trên tri thức tiềm ẩn của mô hình gốc. Đây là điều mà giới kỹ thuật quen gọi là kiến trúc RAG, nhưng thực tế triển khai không chỉ là chuyện gắn một bộ vector store. Việc khó hơn nằm ở chỗ quyết định tài liệu nào được đưa vào kho, ai chịu trách nhiệm về bản chuẩn của tài liệu đó, khi nào cần cập nhật, và làm thế nào để rút một tài liệu ra khỏi kho nếu phát hiện lỗi.
Vì lý do đó, chúng tôi đầu tư một khối lượng lớn vào MediDB, lớp quản trị dữ liệu và tài liệu tham chiếu của Medibot. MediDB không chỉ là một kho lưu trữ, mà là một quy trình biên tập có phiên bản, có phân quyền, có nhật ký truy cập, có công cụ so sánh phiên bản để hội đồng chuyên môn dễ dàng phê duyệt các thay đổi. Một hướng dẫn chẩn đoán, khi được cập nhật bởi Bộ Y tế, phải đi qua bảy bước biên tập trong MediDB trước khi thay thế phiên bản cũ trong kho tri thức. Chính lớp quản trị này khiến Medibot khác biệt với một chatbot y tế thông thường.
Ranh giới an toàn được đặt bằng luật, không bằng lời khuyên
Một trợ lý AI y tế cho người dân bắt buộc phải có những vùng cấm rõ ràng. Medibot từ chối trả lời các câu hỏi có tính chất chẩn đoán trực tiếp trên triệu chứng cụ thể, từ chối tính toán liều lượng thuốc cá nhân hoá, và từ chối tư vấn thay thế cho ý kiến bác sĩ khi vấn đề vượt quá năng lực của một hệ thống tra cứu. Điều quan trọng là các ranh giới này được cài đặt ở tầng hệ thống, thông qua các luật lọc chạy trước và sau lời gọi mô hình, chứ không chỉ bằng câu prompt yêu cầu mô hình "hãy cẩn thận". Kinh nghiệm cho thấy prompt đơn thuần luôn có thể bị vượt qua; luật hệ thống thì không.
Trong mỗi câu trả lời có yếu tố sức khoẻ, Medibot đính kèm cảnh báo và các đường dẫn đến kênh chính thống: tổng đài y tế, cơ sở khám chữa bệnh gần nhất, đường dây tư vấn của các bệnh viện tuyến trung ương. Chúng tôi không muốn người dùng dừng lại ở câu trả lời của Medibot; chúng tôi muốn Medibot là bước đầu tiên đưa họ đến đúng nơi cần đến trong hệ thống y tế thực.
Quy trình biên tập lâm sàng: ba tầng bảo vệ
Bất kỳ tài liệu nào trước khi vào kho tri thức của Medibot đều đi qua ba tầng bảo vệ. Tầng thứ nhất là biên tập viên y tế, những người có nền tảng dược hoặc y đảm nhiệm việc chuẩn hoá cấu trúc, đối chiếu với văn bản gốc và ghi chú xung đột. Tầng thứ hai là chuyên gia thẩm định, thường là bác sĩ chuyên khoa hoặc thành viên hội chuyên khoa, chịu trách nhiệm phê duyệt nội dung chuyên môn. Tầng thứ ba là hội đồng biên tập chung của Hội Thầy thuốc trẻ Việt Nam, xem xét các thay đổi có ảnh hưởng đến chính sách hoặc phạm vi trách nhiệm.
Quy trình này chậm hơn nhiều so với cách một số nền tảng thương mại chọn: đưa tài liệu vào kho ngay, để mô hình tự xử lý, và sửa sai khi có phản hồi tiêu cực. Nhưng trong y tế, một câu trả lời sai không phải một trải nghiệm khó chịu; nó có thể dẫn đến chậm trễ điều trị, dùng thuốc sai, hoặc trì hoãn cấp cứu. Chúng tôi chọn chậm mà chắc, và điều này đã được các hội viên chuyên môn ủng hộ.
Đo lường sau triển khai là bắt buộc, không phải tuỳ chọn
Một sai lầm phổ biến của các sản phẩm AI y tế là chỉ đo hiệu quả tại giai đoạn thử nghiệm rồi coi đó là bằng chứng đủ để mở rộng. Thực tế cho thấy hành vi mô hình có thể thay đổi khi chạy trên tập câu hỏi thực tế của người dân, vốn phong phú và khó lường hơn bộ thử nghiệm kiểm soát rất nhiều. Chính vì vậy, Medibot đưa vào ngay từ đầu một hệ thống giám sát sau triển khai gồm ba lớp: đo lường tự động về tỷ lệ bám nguồn, tỷ lệ từ chối trả lời chính đáng, tỷ lệ phản hồi tiêu cực; kiểm tra ngẫu nhiên bởi biên tập viên y tế trên mẫu ngẫu nhiên các cuộc hội thoại; và đánh giá định kỳ theo tháng bởi hội đồng chuyên môn.
Nếu bất kỳ ngưỡng nào bị vượt, Medibot có thể tự chuyển sang chế độ hạn chế, chỉ trả lời các câu hỏi trong danh mục an toàn nhất, cho đến khi vấn đề được khắc phục. Cơ chế này không phải để làm màu; nó là biểu hiện cụ thể của cam kết "có kiểm soát" mà chúng tôi đặt vào cốt lõi sản phẩm.
Bài học từ giai đoạn thí điểm và bước đi tiếp theo
Sau các đợt thí điểm giới hạn cùng đội ngũ Hội Thầy thuốc trẻ, ba bài học nổi lên rõ nhất. Thứ nhất, phần khó nhất của một trợ lý AI y tế Việt Nam không phải công nghệ, mà là dữ liệu chuyên môn được chuẩn hoá đủ độ tin cậy để mô hình dựa vào. Thứ hai, người dùng Việt hỏi Medibot theo cách rất khác một chatbot phương Tây: nhiều câu hỏi mang tính chia sẻ hơn là truy vấn, đòi hỏi chúng tôi thiết kế lại giọng điệu trả lời cho gần gũi mà vẫn giữ tính chuyên môn. Thứ ba, giá trị lớn nhất không đến từ những câu trả lời phức tạp, mà từ những trường hợp Medibot biết cách nói "tôi không được phép trả lời câu hỏi này, mời anh chị liên hệ trực tiếp với cơ sở y tế".
Bước đi tiếp theo của Medibot không phải là mở rộng vô hạn, mà là mở rộng có kiểm soát: mở thêm chuyên khoa với sự tham gia của đúng hội chuyên khoa, kết nối với VietPHR để người dùng có thể nhận tư vấn có ngữ cảnh cá nhân sau khi đồng ý chia sẻ dữ liệu, và tiếp tục cùng Bộ Y tế xây dựng khung pháp lý riêng cho các sản phẩm AI y tế phục vụ cộng đồng. Không có bước nào trong danh sách trên có thể được làm nhanh, nhưng đó là con đường duy nhất để một sản phẩm AI y tế có thể trở thành một phần đáng tin của hệ thống chăm sóc sức khoẻ Việt Nam.
Nếu phải tóm lược Medibot bằng một câu, tôi sẽ chọn câu này: một trợ lý AI y tế xứng đáng với niềm tin không phải là trợ lý biết trả lời mọi thứ, mà là trợ lý biết chính xác nó không nên trả lời điều gì. Và trong y tế, đó là loại tri thức khó xây nhất.