Tin tứcCông cụ nhằm mục đích giữ an toàn cho mọi người bằng cách lắng nghe những trò gian lận nhưng thực sự có thể khiến họ gặp rủi ro, các chuyên gia bảo mật cảnh báo.
Tính năng này đã khiến các nhà vận động bảo vệ quyền riêng tư lo ngại. Điều đó có nghĩa là cho phép AI của họ lắng nghe cuộc gọi của bạn.
Công cụ này sử dụng trí tuệ nhân tạo để nghe các cuộc gọi điện thoại của mọi người và thử phát hiện xem chúng có giống lừa đảo hay không. Nếu họ làm như vậy thì một cửa sổ bật lên sẽ hiển thị cảnh báo mọi người về “có khả năng là lừa đảo”.
Tính năng này đã được công bố tại sự kiện I/O của Google đầu tuần này, trong đó hãng đã công bố một loạt công cụ AI mới. Giống như nhiều tính năng trong buổi công bố, Google không cho biết chính xác khi nào nó sẽ chính thức xuất hiện.
Buổi công bố cũng cung cấp rất ít thông tin về cách thức hoạt động thực sự của tính năng này, chẳng hạn như loại cuộc hội thoại nào sẽ khiến AI gợi ý rằng cuộc gọi có thể là lừa đảo.
Tính năng này sẽ được tích hợp vào phiên bản Android trong tương lai, sử dụng Gemini Nano phiên bản nhỏ nhất trong các sản phẩm AI tổng hợp của Google, có thể chạy hoàn toàn trên thiết bị. Hệ thống lắng nghe một cách hiệu quả “các mẫu hội thoại thường liên quan đến lừa đảo” trong thời gian thực.
Google nhấn mạnh rằng tất cả việc nghe và phân tích các cuộc gọi điện thoại sẽ diễn ra trên chính điện thoại, do đó các cuộc trò chuyện riêng tư sẽ không được gửi đến máy chủ của hãng. “Tất cả sự bảo vệ này đều diễn ra trên thiết bị để cuộc trò chuyện của bạn được giữ kín với bạn,” nó cho biết trong thông báo của mình.
Tuy nhiên, các chuyên gia bảo mật cho rằng việc nghe điện thoại theo cách như vậy là “cực kỳ nguy hiểm” và “đáng sợ”. Họ lưu ý rằng ngay cả khi các cuộc gọi vẫn còn trên thiết bị, việc cho phép AI nghe cuộc gọi có thể dẫn đến các vấn đề khác.
Mặc dù việc sử dụng Gemini Nano có nghĩa là hệ thống sẽ không tự động tải lên đám mây nhưng hệ thống vẫn lắng nghe các cuộc hội thoại của bạn một cách hiệu quả. Đó là điều khiến những người ủng hộ quyền riêng tư dựng tóc gáy.
Albert Fox Cahn, giám đốc điều hành của Dự án Giám sát Công nghệ Giám sát, nói với NBC News : “Những cuộc gọi điện thoại mà chúng tôi thực hiện trên thiết bị của mình có thể là một trong những việc riêng tư nhất mà chúng tôi thực hiện”. “Các nhà quảng cáo rất dễ dàng thu thập mọi tìm kiếm chúng tôi thực hiện, mọi URL chúng tôi nhấp vào, nhưng những gì chúng tôi thực sự nói trên thiết bị của mình, vào micrô, trước đây chưa được giám sát.”
Meredith Whittaker, chủ tịch ứng dụng nhắn tin Signal, cho biết: “Điều này cực kỳ nguy hiểm. “Nó dẫn đường cho việc tập trung “quét” máy điện thoạt của khách.”
Bà Whittaker, người đã làm việc tại Google 13 năm nói rằng việc sử dụng công nghệ này có thể nhanh chóng mở rộng.
Bà nói: “Từ việc phát hiện “lừa đảo”, đây là một bước ngắn để tiến tới “phát hiện các mô hình thường liên quan đến việc tìm kiếm dịch vụ chăm sóc sinh sản” hoặc “thường liên quan đến việc cung cấp tài nguyên LGBTQ” hoặc “thường liên quan đến việc tố cáo nhân viên công nghệ”…
