Jennifer DeStefano cho biết cô nhận được một cuộc gọi từ một số điện thoại lạ và gần như để nó vào hộp thư thoại. Tuy nhiên, cô con gái 15 tuổi của cô đang đi trượt tuyết ở ngoài thị trấn nên cô đã nhấc điện thoại vì sợ có thể đã có tai nạn.
“Tôi nhấc điện thoại và nghe thấy giọng nói của con gái mình, nó nói: 'Mẹ ơi!' và khóc nức nở. Tôi hỏi, 'Chuyện gì đã xảy ra vậy?' Và con bé cứ tiếp tục nói, 'Mẹ ơi, con làm hỏng việc rồi' và khóc không ngừng”, DeStefano nhớ lại.
Sau đó DeStefano nghe thấy giọng nói của một người đàn ông "Hãy ngả đầu ra sau, nằm xuống."
Sự bối rối của DeStefano trở thành nỗi kinh hoàng. “Người đàn ông này bắt máy và nói, 'Nghe đây. Con gái bà đang trong tay tôi. Bà mà gọi cảnh sát hay bất cứ ai, tôi sẽ nhét ma túy vào người nó. Tôi sẽ làm theo cách của mình và sẽ đưa đến Mexico',” DeStefano nhớ lại. “Và vào lúc đó, tôi bắt đầu run rẩy.
Ở phía sau, con gái cô cứ liên tục nói, 'Mẹ ơi cứu con'”. Sau đó, người đàn ông qua điện thoại đòi tiền, đầu tiên yêu cầu 1 triệu USD, sau đó hạ yêu cầu xuống 50.000 USD khi DeStefano nói rằng cô không có tiền. Khi đang nghe cuộc điện thoại này, DeStefano đang có mặt ở phòng tập nhảy của cô con gái, xung quanh là những bà mẹ lo lắng muốn giúp đỡ.
Một người gọi 911, và người khác gọi cho chồng của DeStefano. Chỉ trong vòng bốn phút, họ xác nhận con gái thật ra cô bé đang ở trong phòng. Sau khi phát hiện điều đó, DeStefano vô cùng tức giận “Cái gì? Chuyện gì đang xảy ra vậy?'”. Khi nhận ra con gái mình đã an toàn, DeStefano đã cúp máy.
Nhưng DeStefano chắc chắn rằng đó là giọng nói của con gái. “Đó hoàn toàn là giọng nói của con bé. Đó là cách suy nghĩ của con bé, là tiếng khóc của nó, y như thật ”cô nói. “Tôi chưa bao giờ nghi ngờ dù chỉ một giây”.
Nhưng hóa ra, đứa bé chưa bao giờ nói bất cứ điều gì về điều đó. Giọng nói trên điện thoại chỉ là một bản sao do trí tuệ nhân tạo tạo ra. Subbarao Kambhampati, giáo sư khoa học máy tính tại Đại học bang Arizona chuyên về AI, cho biết công nghệ nhân bản giọng nói đang được cải thiện nhanh chóng. Kambhampati nói: “Bạn không còn có thể tin vào tai mình nữa”.
Trước đây, nhân bản giọng nói sẽ lấy một số lượng lớn mẫu từ người được nhân bản. Ngày nay, Kambhampati cho biết một giọng nói có thể được nhân bản chỉ với ba giây từ giọng nói của bạn.
“Và với ba giây, nó có thể tiến gần đến âm thanh chính xác của bạn. Hầu hết việc nhân bản giọng nói thực sự nắm bắt được sự biến điệu cũng như cảm xúc”, Kambhampati chia sẻ. Công nghệ học sâu hiện có rất ít sự giám sát và theo Kambhampati, nó đang trở nên dễ dàng truy cập và sử dụng hơn.
Dan Mayo, trợ lý đặc vụ phụ trách văn phòng Phoenix của FBI, cho biết những kẻ lừa đảo sử dụng công nghệ nhân bản giọng nói thường tìm con mồi trên mạng xã hội.
Để tránh trở thành nạn nhân của những trò gian lận như thế này, Mayo kêu gọi mọi người giữ hồ sơ ở chế độ riêng tư và không hiển thị công khai. “Bạn phải khóa những thứ đó lại. Vấn đề là, nếu bạn công khai, bạn đang cho phép mình bị lừa bởi những người như thế này, bởi vì họ sẽ tìm kiếm những hồ sơ công khai có càng nhiều thông tin về bạn càng tốt và khi họ nắm được về điều đó, họ sẽ đào sâu vào bạn”, Mayo nói.
Theo Ủy ban Thương mại Liên bang, những kẻ lừa đảo thường yêu cầu nạn nhân chuyển tiền, gửi tiền điện tử hoặc trả tiền chuộc bằng thẻ quà tặng. Một khi tiền đã được chuyển, việc lấy lại gần như là không thể.
Mayo cho biết các cảnh báo nguy hiểm cần tìm bao gồm số điện thoại đến từ mã vùng mà bạn không quen thuộc, số điện thoại là số quốc tế và người trên điện thoại không cho phép bạn nói chuyện với các thành viên khác trong gia đình để được giúp đỡ.
Không biết có bao nhiêu người đã nhận được các cuộc gọi lừa đảo tương tự về trường hợp khẩn cấp trong gia đình hoặc vụ bắt cóc giả bằng cách sử dụng bản sao giọng nói AI, nhưng Mayo cho biết điều đó “xảy ra hàng ngày”, nhưng không phải ai cũng báo cáo cuộc gọi.
Mayo cho biết ông tin rằng mọi người cảm thấy nhẹ nhõm vì các thành viên gia đình của họ được an toàn nên họ quên báo cáo vụ lừa đảo. “Tuy nhiên, có một số người nhượng bộ những điều này và cuối cùng họ gửi tiền cho những cá nhân này” Mayo nói. “Tin tôi đi, FBI đang điều tra những người này, và chúng tôi đã tìm ra họ".
Về phần DeStefano, cô cảm thấy biết ơn vì đã không gửi tiền cho những kẻ lừa đảo, nhưng điều đó không ngăn cô khỏi bị tổn thương. “Tôi thực sự chỉ biết ngồi xuống và bật khóc” cô nói. “Đó là những giọt nước mắt cho tất cả những gì xảy ra nếu như. Tất cả dường như rất thật”.
