Hệ thống hỗ trợ thông tin y khoa đa phương thức

Hỏi bằng tiếng Việt.
Kiểm chứng bằng nguồn.
Hiểu thêm từ ảnh X-quang.

MediBot là nguyên mẫu nghiên cứu kết hợp Retrieval-Augmented Generation (RAG) với phân tích ảnh X-quang ngực trên cùng một hệ thống. Thay vì để mô hình ngôn ngữ tự tạo câu trả lời từ kiến thức có sẵn, MediBot tìm kiếm thông tin trong kho tri thức trước, đưa tài liệu liên quan vào ngữ cảnh và trả lời kèm nguồn tham chiếu.

Một câu trả lời trôi chảy chưa chắc là một câu trả lời có căn cứ.

UNVERIFIED RESPONSE (PROBLEM)

Có câu trả lời, nhưng khó kiểm chứng

Mô hình ngôn ngữ có thể tạo ra nội dung không xuất hiện trong tài liệu được cung cấp. Với thông tin y khoa, một câu trả lời nghe hợp lý nhưng không có căn cứ có thể dẫn đến cách hiểu sai.

> "Tôi ho và có sốt."
> "Tôi ho nhưng không sốt."
// Một từ phủ định có thể thay đổi cả câu hỏi, nhưng thường bị bỏ qua bởi semantic search đơn thuần.
EVIDENCE-BASED RESPONSE (SOLUTION)

Không chỉ hỏi AI. Hệ thống tìm bằng chứng trước khi trả lời.

MediBot được thiết kế theo hướng tìm nguồn trước — trả lời sau. Hệ thống phân tách triệu chứng được xác nhận và bị phủ định, đồng thời kết hợp ảnh X-quang vào cùng một ngữ cảnh hội thoại.

Knowledge BaseWHO, Long Châu, Vinmec, Tâm Anh
ArchitectureMultimodal RAG + Vision

Đánh giá bằng số liệu, không bằng cảm giác.

Dữ liệu kiểm thử: 2.117 ảnh X-quang / 20 ca benchmark RAG

VISION METRICSDenseNet-121
0%Accuracy (Tập kiểm thử 2.117 ảnh)
0%Macro-F1
0%Macro-AUC
RAG METRICScovid_ragas benchmark
0Faithfulness
0Answer Relevancy
0Context Precision
0Context Recall
* Chỉ 15/20 ca vượt đồng thời cả bốn ngưỡng. Kết quả hiện tại cho thấy tính khả thi kỹ thuật, chưa phải bằng chứng về độ tin cậy lâm sàng.

Từ một câu hỏi đến một phản hồi có thể truy vết

01HIỂU CÂU HỎI

Chuẩn hóa nội dung, nhận diện bệnh và triệu chứng, phân biệt thông tin khẳng định với phủ định, kết hợp lịch sử hội thoại.

02TÌM THÔNG TIN

Gửi truy vấn đến kho vector. Sử dụng nhiều nhánh retrieval, tổng hợp ứng viên và hiệu chỉnh thứ hạng.

03PHÂN TÍCH ẢNH

Xử lý bằng DenseNet-121. Trích xuất xác suất theo lớp và dữ liệu trực quan hóa Grad-CAM.

04TẠO PHẢN HỒI

Tài liệu, thông tin người dùng và kết quả Vision đưa vào LLM để tạo phản hồi kèm nguồn tham chiếu.

MediBot không chỉ là một chatbot y tế.

Điểm mới của MediBot nằm ở cách kết hợp hỏi đáp có nguồn, hiểu ngữ cảnh tiếng Việt và phân tích ảnh X-quang trong cùng một hệ thống.

01Hiểu cả thông tin phủ định

Khi người dùng nói “không sốt” hoặc “không khó thở”, MediBot ghi nhận đây là thông tin quan trọng và dùng nó khi tìm kiếm tài liệu liên quan.

02Trả lời dựa trên nguồn

MediBot tìm thông tin trong kho tri thức y khoa trước, sau đó mới tạo câu trả lời. Nhờ vậy, người dùng có thể biết thông tin được lấy từ đâu.

03Kết hợp văn bản và ảnh X-quang

Nếu người dùng cung cấp ảnh X-quang, hệ thống có thể phân tích ảnh và dùng kết quả đó như một tín hiệu bổ trợ cho cuộc hội thoại.

04Có đánh giá bằng số liệu

MediBot được kiểm tra bằng các chỉ số cho cả phần hỏi đáp và phần phân tích ảnh, thay vì chỉ đánh giá bằng cảm giác.

MediBot xử lý câu hỏi theo nhiều bước trước khi trả lời.

MediBot không gửi thẳng câu hỏi vào AI để lấy câu trả lời. Hệ thống phân tích câu hỏi, tìm nguồn liên quan, xử lý ảnh nếu có, rồi mới tạo phản hồi tiếng Việt.

01Người dùng gửi câu hỏi

Nhận câu hỏi tiếng Việt, lịch sử hội thoại và ảnh X-quang nếu có.

02Hiểu ngữ cảnh

Nhận diện bệnh, triệu chứng, thông tin phủ định và nội dung liên quan.

03Tìm tài liệu y khoa

Tìm các đoạn thông tin phù hợp trong kho tri thức có nguồn tham chiếu.

04Phân tích ảnh X-quang

Nếu có ảnh, mô hình Vision dự đoán lớp bệnh và tạo dữ liệu Grad-CAM.

05Tổng hợp thông tin

Kết hợp câu hỏi, tài liệu tìm được, nguồn tham chiếu và kết quả ảnh.

06Trả lời tiếng Việt có nguồn

Hiển thị câu trả lời có nguồn và nhắc người dùng đây chỉ là thông tin tham khảo.

MediBot cần được kiểm chứng tốt hơn trước khi dùng rộng rãi.

MediBot hiện là nguyên mẫu nghiên cứu. Các bước tiếp theo tập trung vào mở rộng dữ liệu, kiểm thử kỹ hơn và tăng độ an toàn.

01Mở rộng bộ câu hỏi kiểm thử

Thêm nhiều câu hỏi tự nhiên hơn, có nhiều cách diễn đạt khác nhau và được chuyên gia y tế rà soát.

02Cải thiện khả năng tìm kiếm

Thử nghiệm thêm các cách truy hồi tài liệu để hệ thống tìm đúng nguồn hơn khi trả lời.

03Kiểm tra ảnh X-quang trên dữ liệu mới

Đánh giá mô hình Vision trên dữ liệu từ nguồn khác để xem hệ thống có hoạt động ổn định hay không.

04Đánh giá Grad-CAM với bác sĩ

Cần chuyên gia kiểm tra xem vùng ảnh được làm nổi bật có thật sự phù hợp về mặt y khoa hay không.

05Kiểm thử toàn bộ luồng đa phương thức

So sánh các trường hợp chỉ dùng câu hỏi, chỉ dùng ảnh và dùng cả câu hỏi lẫn ảnh.

06Kiểm tra khả năng vận hành

Đánh giá tốc độ phản hồi, tải đồng thời, bảo mật dữ liệu và rủi ro prompt injection.

MediBot là nguyên mẫu nghiên cứu, chưa phải công cụ chẩn đoán.

Các kết quả hiện tại cho thấy hệ thống có tiềm năng về mặt kỹ thuật. Tuy nhiên, MediBot chưa đủ điều kiện để dùng thay bác sĩ hoặc đưa ra kết luận y khoa cuối cùng.

LIMITATION 01

Chưa được thẩm định lâm sàng

Hệ thống chưa được kiểm tra trong môi trường bệnh viện hoặc bởi hội đồng chuyên môn.

LIMITATION 02

Bộ câu hỏi còn nhỏ

Benchmark RAG hiện chỉ có 20 ca, chưa đại diện cho toàn bộ tình huống người dùng có thể hỏi.

Những giới hạn này cần được nêu rõ để tránh hiểu MediBot vượt quá phạm vi nghiên cứu.