Tin tứcPhó Chánh văn phòng Nhà Trắng Bruce Reed nói với Politico: “Sao chép giọng nói là một điều khiến tôi mất ngủ hàng đêm” . Reed, người được giao nhiệm vụ lãnh đạo chiến lược AI của chính quyền Biden, gọi công nghệ này là “tốt một cách đáng kinh ngạc”, mặc dù nó vẫn còn khá mới.
Ông nói: “Xã hội vẫn chưa nhận ra khái niệm giả mạo giọng nói hoàn hảo có thể ảnh hưởng đến cuộc sống của chúng ta đến mức nào. Sẽ không ai trả lời điện thoại nếu họ không chắc chắn liệu giọng nói ở đầu bên kia là thật hay giả”.
Ví dụ, những kẻ lừa đảo qua điện thoại đã khai thác những tiến bộ trong công nghệ nhân bản giọng nói để làm cho kế hoạch của chúng trở nên đáng tin cậy hơn.
Vào tháng 3, FTC cho biết những kẻ lừa đảo đang dựa vào công nghệ AI để “tăng cường” các vụ lừa đảo khẩn cấp trong gia đình họ sử dụng các chương trình nhân bản giọng nói để thuyết phục mọi người rằng các thành viên trong gia đình họ đang gặp nạn.
Vào tháng 4, một bà mẹ ở Arizona nhận được cuộc gọi từ một kẻ lừa đảo đã sử dụng phần mềm nhân bản giọng nói để giả vờ rằng hắn đã bắt cóc con gái bà.
Cô nói với một hãng tin địa phương vào thời điểm đó: “Đó hoàn toàn là giọng nói của cô ấy. Đó là sự suy nghĩ của con bé”. Theo báo cáo từ phần mềm bảo mật McAfee, những kẻ lừa đảo chỉ cần ba hoặc bốn giây giọng nói của ai đó để tạo ra một bản sao thuyết phục với tỷ lệ trùng khớp 85%.
Đồng thời, Thị trưởng thành phố New York Eric Adams nói rằng các bản sao giọng nói của chính ông do AI tạo ra đã giúp ông kết nối với đông đảo người dân thành phố hơn.
Kể từ năm ngoái, ông đã gọi điện cho cư dân bằng một số ngôn ngữ mà ông không nói được, bao gồm tiếng Quan Thoại, tiếng Tây Ban Nha và tiếng Yiddish.
Adams cho biết các cuộc gọi tự động đã giúp anh tiếp cận được nhiều cư dân không nói tiếng Anh hơn trong thành phố. Mọi người thậm chí còn chặn anh lại trên đường để hỏi anh có nói được tiếng phổ thông không. Một số học giả và chuyên gia về quyền riêng tư cho rằng sáng kiến của Adam vẫn mang tính lừa đảo, hoặc ít nhất chỉ ra thực tế là các chính trị gia cần đặt ra các quy tắc cơ bản rõ ràng hơn về cách họ sử dụng AI.
