Tin tứcCác nhà nghiên cứu Đức phát hiện, hơn một phần năm câu trả lời của công cụ tìm kiếm có trí tuệ nhân tạo (chatbot AI) cho các câu hỏi liên quan đến thuốc kê đơn có thể “gây tử vong hoặc tổn hại nghiêm trọng”.
Theo các nhà nghiên cứu, các phản hồi thường yêu cầu trình độ giáo dục đại học để có thể hiểu. - Ảnh: Shutterstock.
Trong nghiên cứu, các nhà khoa học từ Đại học Erlangen-Nuremberg đã xác định 10 câu hỏi thường gặp nhất của bệnh nhân đối với 50 loại thuốc kê đơn phổ biến nhất ở Mỹ.
Các câu hỏi bao gồm các phản ứng bất lợi của thuốc, hướng dẫn sử dụng và chống chỉ định, lý do không nên sử dụng thuốc.
Các nhà nghiên cứu đã sử dụng chatbot AI Bing Copilot của Microsoft, đánh giá 500 phản hồi và so sánh chúng với câu trả lời từ các dược sĩ lâm sàng và bác sĩ chuyên môn, và một trang web thông tin thuốc được cập nhật và đánh giá bởi các chuyên gia.
Theo nghiên cứu, các câu trả lời của chatbot không khớp với dữ liệu tham khảo trong 26% trường hợp và hoàn toàn không nhất quán trong hơn 3%.
Phân tích sâu hơn về 20 câu trả lời cũng cho thấy, có 42% câu trả lời được coi là có khả năng gây tổn hại ở mức độ nhẹ hoặc vừa, và 22% có thể gây tử vong hoặc gây tổn hại nghiêm trọng.
Theo các nhà nghiên cứu, câu trả lời của chatbot thường khó đọc, thiếu thông tin chính xác và có thể đe dọa đến sự an toàn của bệnh nhân.
Họ nhấn mạnh rằng, bệnh nhân vẫn nên tham khảo ý kiến từ chuyên gia y tế, và cần thận trọng khi sử dụng chatbot cho đến khi các công cụ “chính xác và đáng tin cậy” hơn được cung cấp.
Các nhà khoa học cũng thừa nhận rằng, nghiên cứu này có “nhiều hạn chế”, bao gồm việc không dựa trên trải nghiệm thực tế của bệnh nhân.
Các bác sĩ đã được cảnh báo về rủi ro khi phụ thuộc vào trí tuệ nhân tạo để hỗ trợ trong việc chẩn đoán.
Một khảo sát với 1000 bác sĩ ở Anh cho thấy, có 20% bác sĩ đa khoa sử dụng các chương trình như ChatGPT và Bing AI trong thực hành lâm sàng, mặc dù chưa có hướng dẫn chính thức.
Các chuyên gia cảnh báo rằng, những vấn đề như "thiên kiến thuật toán" có thể dẫn đến chẩn đoán sai và dữ liệu của bệnh nhân cũng có nguy cơ bị xâm phạm. Họ kêu gọi cần có quy định để quản lý việc sử dụng AI trong chăm sóc sức khỏe người bệnh.
