Tin tứcMạng X (trước đây là Twiter) đã chặn các tìm kiếm về ca sĩ Taylor Swift để phản ứng với xu hướng gần đây về việc giả mạo bằng AI hình ảnh của ngôi sao ca sĩ thu âm nổi tiếng thế giới được đăng lên trang mạng.
Ngay bây giờ, nếu bạn gõ từ tìm kiếm từ “Taylor Swift” hoặc “Taylor Swift AI” trên mạng X, bạn có thể thấy thông báo “Đã xảy ra lỗi”.
Giám đốc kinh doanh X, Joe Benarroch thừa nhận đây là biện pháp “tạm thời”, nhằm “ưu tiên an toàn”, theo tờ The Wall Street Journal. Nhưng nó rất dễ thay đổi, khi thử một số tìm kiếm khác.
Ví dụ: sắp xếp lại các từ trong tìm kiếm của bạn thành “Taylor AI Swift” hoặc chỉ đơn giản là đặt dấu ngoặc kép xung quanh tên đầy đủ của Swift đều trả về kết quả ban đầu.
Ngay cả việc thêm một từ khác vào một trong các cụm từ tìm kiếm bị chặn cũng sẽ có kết quả như vậy.
X đã đăng một tuyên bố gần một ngày sau khi những bức ảnh deepfake xuất hiện nói rằng họ đang "tích cực xóa tất cả các hình ảnh đã được xác định" và có hành động chống lại các tài khoản đăng chúng.
Trang web nghiêm cấm hình ảnh khỏa thân không có sự đồng thuận cũng như các phương tiện truyền thông tổng họp và bị thao túng.
Công ty Meta (công ty mẹ của Facebook) dường như cũng đang giải quyết vấn đề, vì cả mạng Threads và Instagram đều đề xuất “Taylor Swift AI” nếu bạn bắt đầu nhập “Taylor” vào hộp tìm kiếm của họ, nhưng cả hai nền tảng này đều không hiển thị kết quả tìm kiếm. Thay vào đó, bạn có thể thấy một thông báo cho biết thuật ngữ này “đôi khi liên quan đến hoạt động của các tổ chức và cá nhân nguy hiểm.”
Các báo cáo cho biết Swift đang xem xét hành động pháp lý chống lại các trang web lưu trữ hình ảnh mà người dùng cho biết họ muốn Microsoft Designer thực hiện.
Giám đốc điều hành Microsoft Satya Nadella đã gọi các deepfake là “đáng báo động và khủng khiếp” trong một cuộc phỏng vấn với NBC Nightly News vào thứ Sáu vào thứ Sáu, đồng thời cho biết ông tin rằng các công ty AI cần “ cải tiến nhanh” để có được các biện pháp bảo vệ tốt hơn.
Thư ký báo chí Nhà Trắng Karine Jean-Pierre cũng đã cân nhắc vào thứ Sáu, kêu gọi Quốc hội ra luật để bảo vệ mọi người khỏi nội dung khiêu dâm deepfake.
Deepfakes sử dụng trí tuệ nhân tạo để tạo video về ai đó bằng cách thao túng khuôn mặt hoặc cơ thể của họ.
Một nghiên cứu vào năm 2023 cho thấy việc tạo ra các hình ảnh được chỉnh sửa đã tăng 550% kể từ năm 2019, được thúc đẩy bởi sự xuất hiện của AI.
Ở Mỹ, hiện tại không có luật liên bang nào chống lại việc chia sẻ hoặc tạo hình ảnh deepfake, mặc dù đã có những động thái ở cấp tiểu bang để giải quyết vấn đề này.
Tại Vương quốc Anh, việc chia sẻ nội dung khiêu dâm deepfake đã trở thành bất hợp pháp theo Đạo luật An toàn Trực tuyến vào năm 2023.
