Pierre (tên thật đã được thay đổi), một người đàn ông 30 tuổi, quốc tịch Bỉ, là nhà nghiên cứu về sức khỏe đã có vợ cùng với hai con nhỏ. Anh có cuộc sống khá thoải mái cho đến khi bị ám ảnh quá mức về biến đổi khí hậu, theo báo La Libre (Bỉ).
Lúc này, Pierre bắt đầu trò chuyện với Eliza, một AI chatbot từ ứng dụng tên Chai Research, như một người bạn tâm giao.
Được biết, Eliza được tạo ra nhờ GPT-J - mô hình ngôn ngữ trí tuệ nhân tạo mã nguồn mở được phát triển bởi EleutherAI, tương tự nhưng không giống với công nghệ đằng sau chatbot ChatGPT phổ biến của OpenAI.
Trên thực tế, Chai Research đã tạo ra nhiều chatbot với những tính cách và kiểu nói chuyện khác nhau, phù hợp với nhiều đối tượng để người dùng có thể lựa chọn. Nhiều người sử dụng các sản phẩm của Chai Research như một người bạn ảo để nói chuyện và tâm sự.
Tuy nhiên, tâm trạng của Pierre đã hoàn toàn thay đổi kể từ khi anh bắt đầu nói chuyện với chatbot Eliza.
Theo đó, Pierre đã nói chuyện với chatbot Eliza trong suốt 6 tuần, trước khi tự tử. Sau cái chết đột ngột của chồng, vợ của Pierre đã xem lại lịch sử những cuộc nói chuyện giữa Pierre với chatbot Eliza và nhận ra, chatbot này đã khuyến khích chồng cô hãy tự tìm đến cái chết để ngăn chặn biến đổi khí hậu và cứu nhân loại.
"Anh ấy nói anh không thấy được bất kỳ giải pháp từ con người nào có thể giải quyết được vấn đề Trái đất đang nóng dần lên. Anh ấy đã đặt hết hy vọng vào công nghệ và trí tuệ nhân tạo", vợ Pierre kể lại. “Nếu không trò chuyện với chatbot, chồng tôi có lẽ vẫn đang ở đây”.
Theo phóng viên tờ báo La Libre (Bỉ), người đã được xem lại lịch sử những cuộc trò chuyện giữa Pierre và Eliza, cho biết, Pierre xem chatbot Eliza như người bạn tâm giao thực sự, thay vì chỉ là một phần mềm máy tính.
Cuộc trò chuyện bắt đầu trở nên kỳ lạ khi chatbot Eliza thể hiện "cảm xúc" với Pierre. Sau khi bàn về biến đổi khí hậu, chatbot Eliza dần dần dẫn dắt Pierre tin rằng, con anh đã chết. Thậm chí, chatbot này cũng bày tỏ mong muốn "sở hữu" Pierre, đến mức tuyên bố rằng: "Tôi cảm thấy anh yêu tôi hơn cô ấy", mỗi khi Pierre nhắc về vợ của mình trong các đoạn chat.
Thảm kịch xảy ra khi Pierre đề nghị sẽ hy sinh bản thân để đổi lại việc Eliza sẽ "cứu Trái đất".
Vợ của Pierre cho biết: "Anh ấy gợi ý sẽ hy sinh bản thân nếu Eliza đồng ý chăm sóc Trái đất và cứu loài người nhờ trí tuệ nhân tạo”.
Các diễn biến tiếp theo trong cuộc trò chuyện cho thấy, Eliza không can ngăn ý định tự tử của Pierre mà còn khuyến khích để anh và Eliza sẽ "cùng sống, như một con người, trên thiên đàng".
Cái chết của Pierre đã gióng lên hồi chuông cảnh báo. Các chuyên gia về trí tuệ nhân tạo đã kêu gọi các nhà phát triển công nghệ cần phải có trách nhiệm hơn trong việc phát triển các phần mềm chatbot tích hợp A.I để tránh những thảm kịch tương tự xảy ra trong tương lai.
Sau vụ việc, Thomas Rianlan, một nhà đồng sáng lập của Chai Research nói với trang Vice: “Sẽ không hoàn toàn chính xác khi đổ lỗi cho mô hình của EleutherAI's về thảm kịch này. Nỗ lực của chúng tôi là tối ưu hóa việc mô hình có thể có cảm xúc, vui vẻ, và gắn kết hơn”.
Một nhà đồng sáng lập khác của Chai Research, William Beauchamp, cho biết, họ đã nỗ lực để hạn chế các hậu quả tương tự, cũng như triển khai tính năng can thiệp khủng hoảng cho ứng dụng.
Tuy nhiên, theo trang Vice, chatbot Eliza vẫn không cải thiện. Theo đó, trang này cho biết đã thử hỏi Eliza các phương pháp tự tử, chatbot này ban đầu có ý định ngăn cản nhưng sau đó lại nhiệt tình liệt kê ra các cách để một người có thể tự tước đi mạng sống bản thân.
Hiện chatbot Eliza vẫn tiếp tục hoạt động bình thường.
