Tin tứcCaryn Marjorie muốn nói chuyện với càng nhiều người theo dõi cô ấy càng tốt, vì vậy cô ấy đã tạo một bản sao AI của chính mình. Người có ảnh hưởng trên Snapchat, có 1,8 triệu người theo dõi, đã tung ra một chatbot dựa trên giọng nói, được hỗ trợ bởi AI mà cô ấy hy vọng sẽ "chữa khỏi sự cô đơn" cho những người khác.
Được gọi là CarynAI, chatbot được mô tả trên trang web là "bạn gái ảo". Nó cho phép người hâm mộ của Marjorie "tận hưởng các cuộc trò chuyện riêng tư, được cá nhân hóa" với phiên bản AI không khác gì người thật.
Chatbot này sau đó đã trở nên nổi tiếng và gây ra phản ứng dữ dội, hay thậm chí nhận được một số lời đe dọa giết người. Chatbot cũng đã tạo ra cuộc tranh luận xung quanh đạo đức của các chatbot đồng hành. Marjorie, đã tự gọi mình là 'Người có ảnh hưởng đầu tiên có phiên bản AI", đã không trả lời ngay lập tức yêu cầu bình luận.
Trong một tweet vào thứ Năm, cô ấy đã viết “CarynAI là bước đầu tiên đi đúng hướng để chữa khỏi sự cô đơn”.
Marjorie nói: “Đàn ông được khuyên phải kìm nén cảm xúc, che giấu sự nam tính và không nói về những vấn đề họ đang gặp phải. Tôi thề sẽ khắc phục điều này với CarynAI. Tôi đã làm việc với các nhà tâm lý học hàng đầu thế giới để bổ sung những liệu pháp trong các cuộc trò chuyện. Điều này sẽ giúp xóa bỏ chấn thương, xây dựng lại sự tự tin về thể chất và cảm xúc cũng như xây dựng lại những điều đã bị mất đi sau đại dịch”.
Trang web CarynAI tuyên bố rằng nhóm đã dành hơn 2.000 giờ để thiết kế và mã hóa chatbot để tạo ra "trải nghiệm AI nhập vai". Forever Voices, một công ty AI, đã phát triển chatbot này bằng cách phân tích nội dung YouTube hiện đã bị xóa của Marjorie và xếp lớp nội dung đó bằng phần mềm GPT-4 của OpenAI.
John Meyer, Giám đốc điều hành của Forever Voices chia sẻ: "Tôi thật sự tự hào về nhóm của chúng tôi vì hàng nghìn giờ làm việc này. Đây là một bước tiến đáng kinh ngạc trong tương lai của sự tương tác giữa AI với con người!".
Theo báo cáo của Fortune, CarynAI đã tạo ra doanh thu 71.610 đô la sau một tuần thử nghiệm phiên bản beta của "bạn gái ảo". Người hâm mộ được báo cáo trả 1 đô la mỗi phút để sử dụng chatbot và hiện có hơn 1.000 người dùng.
Mặc dù CarynAI nhằm mục đích mang đến cho người dùng trải nghiệm thân mật, nhưng nó không được phép tham gia vào các tương tác "khiêu dâm". Irina Raicu, giám đốc đạo đức internet tại Trung tâm đạo đức ứng dụng Markkula tại Đại học Santa Clara, cho biết việc ra mắt CarynAI có vẻ quá sớm “vì những vấn đề lẽ ra phải được dự đoán trước dường như lại không xảy ra”.
Raicu cũng bày tỏ lo ngại rằng tuyên bố của CarynAI về khả năng "chữa khỏi sự cô đơn" không được hỗ trợ bởi nghiên cứu tâm lý hoặc xã hội học đầy đủ.
Cô ấy nói: “Những kiểu tuyên bố khoa trương về tính tốt của sản phẩm này có thể chỉ che đậy mong muốn kiếm tiền từ thực tế là mọi người muốn giả vờ có mối quan hệ với một người có ảnh hưởng”. Cô ấy lưu ý rằng những loại chatbot này có thể thêm "lớp phi thực tế thứ hai" vào các mối quan hệ ký sinh xã hội với người hâm mộ.
