Các video clip thu được đã được sửa đổi, vì chúng không thay đổi hình ảnh hiện có mà thay vào đó tạo ra những hình ảnh mới cho thấy những nhiều trẻ em trong bộ dạng bầm tím, kể lại những trải nghiệm thực tế lạnh lùng của chúng bằng giọng nói do máy tính tạo ra.
Những vụ giết người đáng chú ý được nói đến, ở ngôi thứ nhất, bởi những đứa trẻ CGI bao gồm vụ giết người của Elisa Izquierdo, một đứa trẻ 6 tuổi bị mẹ mình sát hại.
Một video khác kể về câu chuyện của Carl Newton Mahan, cậu bé 6 tuổi người Kentucky đã bắn chết một đứa trẻ 8 tuổi vào năm 1929. Một số video đã thu được gần 3 triệu lượt xem. Nhiều clip cho rằng AI được sử dụng thay cho ảnh thật như một cách “tôn trọng gia đình” người đã khuất.
Tên cũng được sửa đổi một chút trong một số trường hợp. Rolling Stone đưa tin những hình ảnh tái tạo về những cái chết nổi tiếng chẳng hạn như của Tổng thống John F. Kennedy và George Floyd cũng đã gây xôn xao trên mạng xã hội.
Hiện tại, những video đó đã bị gỡ xuống. Một tài khoản có gần 50.000 người theo dõi và được biết đến với việc đăng những video này, @truestorynow, đã bị TikTok cấm vì vi phạm nguyên tắc cộng đồng, theo Rolling Stone.
Paul Bleakley, trợ lý giáo sư về tư pháp hình sự tại Đại học New Haven, nói với ấn phẩm: “Chúng khá kỳ lạ và đáng sợ. Chúng dường như được thiết kế để kích hoạt các phản ứng cảm xúc mạnh mẽ, bởi vì đó là cách chắc chắn nhất để có được nhấp chuột và lượt thích. Thật khó chịu khi xem, nhưng tôi nghĩ đó có thể là vấn đề”.
Ông ấy nói: “Hãy tưởng tượng bạn là cha mẹ hoặc người thân của một trong những đứa trẻ này trong các video AI này, đồng thời cho biết thêm rằng các lựa chọn pháp lý để chống lại các clip thể hiện một “khu vực xám xịt, rất khó hiểu”.
“Bạn truy cập trực tuyến và bằng giọng nói the thé, kỳ lạ này, đây là hình ảnh AI dựa trên đứa con đã qua đời của bạn, đi vào chi tiết rất đẫm máu về những gì đã xảy ra với chúng”, ông cảnh báo.
