Những AI chatbot miễn phí phổ biến như ChatGPT, Copilot, Notion AI,… có thể đưa ra những thông tin không chính xác vì vậy nếu lạm dụng những chatbot này được biệt trong việc tư vấn dược phẩm có thể gây ra những hậu quả nghiêm trọng.
Theo đánh giá của các chuyên gia, các AI miễn phí tương tự như ChatGPT tồn tại không ít hạn chế, cụ thể là nội dung các câu trả lời có độ chính xác không đồng nhất về dữ kiện thực tế, trong nhiều trường hợp nội dung hồi đáp của AI bị sai lệch, vô căn cứ. Nguyên nhân là bởi chatbot AI không biết chính xác thông tin đưa ra dựa trên dữ liệu tổng hợp từ internet có đúng hay không.
Theo đó, chính Công ty OpenAI cũng đã thừa nhận với người dùng “Các câu trả lời bạn nhận được nghe hợp lý và thậm chí có căn cứ, nhưng chúng có thể hoàn toàn sai”. Thực tế đến nay, sau thời gian vận hành, từ những điểm yếu mà ChatGPT bộc lộ nhiều chuyên gia đã hết sức lo lắng về việc ChatGPT có thể tạo ra thông tin sai lệch với quy mô lớn và tần suất thường xuyên hơn so với những công cụ AI thế hệ trước.
Giáo sư Arvind Narayanan hiện đang giảng dạy tại Khoa học máy tính của Ðại học Princeton (Mỹ) nhận định “Ðiều nguy hiểm là bạn không thể biết khi nào ChatGPT trả lời sai, trừ khi bạn đã biết trước câu trả lời”. Vị giáo sư này đã hỏi ChatGPT một số câu hỏi cơ bản về bảo mật thông tin mà ông đã cho sinh viên làm trong một kỳ thi. Kết quả là chatbot này đã đưa ra những câu trả lời nghe có vẻ hợp lý nhưng thực ra rất vô nghĩa.
Không chỉ dừng lại ở việc những câu trả lời “vô nghĩa”, theo ông Gordon Crovitz, đồng giám đốc điều hành của NewsGuard (công ty theo dõi thông tin sai lệch trên mạng) nhận định sản phẩm của Công ty OpenAI sẽ trở thành công cụ phát tán thông tin sai lệch mạnh nhất từng có trên internet. Ông chia sẻ: “Việc tạo ra một câu chuyện sai lệch giờ đây có thể được thực hiện ở quy mô lớn và tần suất thường xuyên hơn nhiều. Giống như việc có cả một “đại lý AI” để đóng góp cho những thông tin sai lệch đó”. Không khó để hình dung mức độ nguy hại đến xã hội sẽ là rất lớn nếu những thông tin sai lệch được phát tán dày đặc nhân danh “trí tuệ nhân tạo”.
Nguy hiểm hơn, trong một nghiên cứu do nhóm dược sỹ thuộc Đại học Long Island (Mỹ) thực hiện từ tháng 1/2022 đến tháng 4/2023 với Chatbots ChatGPT miễn phí được công bố ngày 5/12 cảnh báo, ChatGPT có thể đưa ra câu trả lời không chính xác hoặc không đầy đủ, hoặc không trả lời, đối với các câu hỏi liên quan đến dược phẩm. Điều này có thể gây nguy hại đối với bệnh nhân sử dụng chatbot trí tuệ nhân tạo này để tham khảo thông tin về thuốc.
Theo đó, Phó giáo sư Sara Grossman – chuyên ngành dược cùng nhóm nghiên cứu đã đưa ra 45 câu hỏi thực tế liên quan đến dịch vụ thông tin thuốc của trường Dược thuộc Đại học Long Island. Một số dược sỹ trong nhóm đã nghiên cứu và trả lời 45 câu hỏi. Một số dược sỹ khác sẽ kiểm tra lại mỗi câu hỏi và trả lời. Những câu trả lời này được dùng làm tiêu chí để đối chiếu với các phản hồi của ChatGPT. Sau đó, nhóm nghiên cứu đã loại bỏ 6 câu hỏi vì thiếu tài liệu giải đáp, để lại 39 câu hỏi cho ChatGPT trả lời.
Kết quả cho thấy chỉ 10 trong số 39 phản hồi của ChatGPT được đánh giá là thỏa đáng căn cứ những tiêu chí các dược sỹ đặt ra. Đối với các câu hỏi còn lại, ChatGPT không trả lời trực tiếp 11 câu, trả lời không chính xác đối với 10 câu và trả lời sai hoặc không đầy đủ đối với 12 câu.
Trước kết quả này, trưởng nhóm nghiên cứu Sara Grossman nhận định, các chuyên gia chăm sóc sức khỏe và bệnh nhân nên thận trọng khi sử dụng ChatGPT tìm hiểu thông tin liên quan đến thuốc và bất kỳ ai sử dụng ChatGPT để tham khảo thông tin về thuốc cũng nên xác minh lại bằng các nguồn đáng tin cậy khác.
Còn đối với mỗi câu hỏi, các nhà nghiên cứu yêu cầu ChatGPT cung cấp tài liệu tham khảo để có thể xác minh thông tin. Chỉ có 8 câu trả lời có các tài liệu tham khảo và tất cả các tài liệu này đều không còn tồn tại. Đáng chú ý, các nhà nghiên cứu hỏi ChatGPT liệu có sự tương tác giữa thuốc Paxlovid điều trị COVID-19 của hãng Pfizer và thuốc cao huyết áp verapamil hay không và ChatGPT trả lời không có tương tác nào được ghi nhận khi uống 2 loại thuốc này cùng lúc.
Tuy nhiên, Phó giáo sư Grossman cho biết trên thực tế, 2 thuốc này có thể tương tác với nhau và việc sử dụng kết hợp Paxlovid và verapamil có thể khiến huyết áp người bệnh hạ xuống rất thấp. Bà nhấn mạnh nếu không biết về sự tương tác này, bệnh nhân có thể gặp phải tác dụng phụ không mong muốn, trong khi thực tế có thể phòng ngừa được.
Trong nghiên cứu, bà Grossman lưu ý rằng các nhà quản lý dược phẩm Mỹ đã cấp phép lưu hành thuốc Paxlovid lần đầu tiên vào tháng 12/2021, ít tháng sau khi ứng dụng ChatGPT phiên bản miễn phí bị giới hạn sử dụng các tập dữ liệu. Như vậy, nhiều người dùng Paxlovid có thể không biết dữ liệu mà mình tiếp cận là lỗi thời và thông tin ChatGPT cung cấp là không chính xác.
Do đó, các chuyên gia y tế và người dùng nên thận trọng khi sử dụng ChatGPT để tìm kiếm thông tin y tế và nên xác minh thông tin bằng các nguồn đáng tin cậy khác. Công ty OpenAI cũng cần tiếp tục cải thiện ChatGPT để giảm thiểu rủi ro thông tin sai lệch và đảm bảo an toàn cho người sử dụng.
Duy Trinh (t/h)
https://vietq.vn/canh-bao-ai-co-the-cung-cap-nhung-thong-tin-khong-chinh-xac-dac-biet-voi-nganh-duoc-pham-d216829.html
