Tin tứcVới sự phát triển vượt trội của AI, những kẻ vô đạo đức đã lợi dụng và trục lợi bằng nhiều cách khác nhau. Cụ thể các hình ảnh đồi trụy và nội dung khiêu dâm do AI tạo ra có thể được tạo chỉ bằng một vài cú nhấp chuột.
Những tiến bộ này làm tăng rủi ro đối với hiện trạng đang khiến nhiều người lo lắng, được gọi là tống tiền sex. Nạn nhân sau khi chia sẻ hình ảnh nhạy cảm của mình với người lạ và vô tình trở thành con mồi béo bở.
Jordan DeMay, 17 tuổi, đã tự kết liễu đời mình sau khi những kẻ lừa đảo người Nigeria lừa cậu ta gửi những bức ảnh của mình qua Instagram cho người mà DeMay nghĩ là một cô gái đang quan tâm cậu.
Những kẻ lừa đảo đã hack tài khoản của cô gái, gạ gẫm DeMay chụp ảnh khỏa thân và yêu cầu khoản tiền chuộc 1.000 đô la nếu không chúng sẽ gửi ảnh cho bạn bè và gia đình của cậu.
Vụ việc của DeMay chỉ là một trong số hơn chục vụ tự sát do bị tống tiền được ghi nhận vào năm ngoái, một tội ác lớn có 3.000 nạn nhân trong năm đó, chủ yếu là thanh niên và trẻ em trai, theo FBI.
Vào ngày 5/6, văn phòng đã cảnh báo rằng những tiến bộ công nghệ trong AI sẽ đưa những trò gian lận như vậy lên một tầm cao mới đáng sợ thông qua công nghệ tiên tiến nhất.
“FBI tiếp tục nhận được báo cáo từ các nạn nhân, bao gồm cả trẻ vị thành niên và người lớn, những người có ảnh hoặc video bị thay đổi thành nội dung tục tĩu”, theo một thông cáo của FBI.
“Kể từ tháng 4 năm 2023, FBI đã quan sát thấy vụ việc ngày càng gia tăng khi các nạn nhân bị tống tiền theo giới tính báo cáo việc sử dụng hình ảnh hoặc video giả mạo được tạo từ nội dung đăng trên các trang mạng xã hội hoặc bài đăng trên web của họ. Toàn bộ hình ảnh và video này đều được cung cấp cho kẻ ác theo yêu cầu hoặc được ghi lại trong các cuộc trò chuyện video”, đại diện FBI cho biết.
Lisa Palmer, thuộc công ty tư vấn AI Leaders, nói với The NYPost: AI hiện mạnh đến mức bất kỳ người bình thường nào cũng có thể tạo ra nội dung giả, đáng tin cậy ở quy mô lớn mà không cần đào tạo nâng cao.
Để tránh những rủi ro này, cha mẹ có thể thực hiện một số cách để bảo vệ con mình như cài đặt quyền riêng tư trên điện thoại ở mức tối đa, nên có một cuộc trò chuyện trung thực giữa cha mẹ và con cái.
Chuyên gia an ninh mạng Joseph Steinberg cho biết, cách tốt nhất để ngăn thanh thiếu niên tự đặt mình vào tình thế nguy hiểm khi sử dụng mạng xã hội là chia sẻ với chúng về những rủi ro có thể xảy ra trong cuộc sống. “Bạn muốn ngăn chúng khỏi những tình huống nguy hiểm, bạn nên nói với chúng, không có sự thay thế nào khác cả, phải nói với chúng về tất cả tình huống xấu có thể xảy ra", ông nói với The NYPost.
