Trung Quốc đã thắt chặt giám sát các công nghệ và ứng dụng như vậy trong bối cảnh lừa đảo do AI điều khiển gia tăng, chủ yếu liên quan đến việc thao túng dữ liệu giọng nói và khuôn mặt, đồng thời áp dụng các quy tắc mới vào tháng 1 để bảo vệ nạn nhân một cách hợp pháp.
Cảnh sát thành phố Bao Đầu, khu vực Nội Mông, cho biết thủ phạm đã sử dụng công nghệ hoán đổi khuôn mặt do AI cung cấp để đóng giả một người bạn của nạn nhân trong một cuộc gọi video và nhận khoản chuyển khoản 4,3 triệu nhân dân tệ (khoảng 14,6 tỷ đồng).
Anh ta chuyển tiền với niềm tin rằng bạn của anh cần đặt cọc trong quá trình đấu thầu, cảnh sát cho biết trong một tuyên bố hôm thứ Bảy (20/5).
Người đàn ông chỉ nhận ra mình đã bị lừa sau khi người bạn tỏ ra không biết gì về tình huống này. Cảnh sát cho biế họ đã thu hồi được phần lớn số tiền bị đánh cắp và đang cố gắng truy tìm phần còn lại.
Vụ việc đã gây ra cuộc thảo luận trên trang tiểu blog Weibo về mối đe dọa đối với quyền riêng tư và bảo mật trực tuyến, với hashtag “Trò lừa đảo”, “AI” đang bùng nổ trên mạng xã hội và thu được hơn 120 triệu lượt xem và tìm kiếm vào đầu tuần vừa qua.
"Điều này cho thấy rằng tất cả ảnh, giọng nói và video đều có thể được sử dụng bởi những kẻ lừa đảo", một người dùng viết. "Các quy tắc bảo mật thông tin có thể theo kịp các kỹ thuật của những người này không?", người khác hoang mang.
