Tin tứcNghiên cứu được thực hiện bởi nhóm sinh viên, giáo viên tại Đài quan sát truyền thông xã hội tại Đại học Indiana, đã tìm thấy một mạng lưới các tài khoản giả trên X trong cái mà họ gọi là botnet “Fox8”. Fox8 được cho là sử dụng ChatGPT để tạo ra nội dung nhằm mục đích quảng bá những trang web đáng ngờ và phát tán nội dung có hại.
Thậm chí, các tài khoản bot cố gắng thuyết phục mọi người đầu tư vào tiền điện tử giả và thậm chí còn được cho là ăn cắp từ các ví tiền điện tử hiện có.
Các bài đăng của họ thường bao gồm các hashtag như #bitcoin, #crypto và #web3 và thường tương tác với các tài khoản do con người điều hành như tài khoản X tập trung vào tiền điện tử của Forbes (@ForbesCrypto) và trang tin tức tập trung vào blockchain Watcher Guru (@WatcherGuru).
Chưa dừng ở đó, các tài khoản Fox8 bị phát hiện đã bóp méo các cuộc trò chuyện trực tuyến và truyền bá thông tin sai lệch trong nhiều bối cảnh khác nhau, từ bầu cử đến khủng hoảng sức khỏe cộng đồng.
Mục tiêu của mạng botnet là gửi thư rác cho người dùng X bằng hàng loạt bài đăng do AI tạo ra. Bằng cách tweet thường xuyên, những bài đăng này có cơ hội được nhiều người dùng hợp pháp nhìn thấy hơn, do đó làm tăng khả năng con người nhấp vào một URL lừa đảo.
Để trông giống con người hơn, mạng botnet này, bao gồm một mạng lưới gồm hàng trăm tài khoản spam, có hại không chỉ lấy ảnh từ người dùng thực mà còn thường xuyên tương tác với nhau thông qua các lượt tweet lại và trả lời, mô tả hồ sơ khủng và thậm chí có 74 người theo dõi, trung bình 140 người bạn và 149,6 lượt tweet.
Những yếu tố cho thấy các bot Fox8 đang tích cực tham gia vào các hoạt động trên Twitter, hiện gọi là X và khiến chúng trở nên đáng tin cậy hơn đối với người dùng.
Các hồ sơ Fox8 hầu hết được tạo cách đây hơn bảy năm, một số được tạo vào năm 2023 thường đề cập đến tiền điện tử. Nghiên cứu lưu ý rằng các botnet như Fox8 thường đăng nội dung thiếu thuyết phục và các tweet có ngôn ngữ không tự nhiên.
Tuy nhiên, những tiến bộ trong mô hình ngôn ngữ cụ thể là ChatGPT đã khiến các tài khoản trong Fox8 ngày càng khó bị phát hiện bằng cách tăng cường đáng kể khả năng của bot trên mọi khía cạnh đã được đào tạo.
Trên thực tế, hiện tại, không có phương pháp hiệu quả nào để phát hiện hoặc phân biệt nội dung do con người hay AI tạo ra. Sau khi công bố nghiên cứu này vào tháng 7, ai đó ở X được cho là đã gỡ bỏ 1.140 bot bất hợp pháp, theo Wired .
