Yoshua Bengio nói thêm rằng anh ấy sẽ ưu tiên sự an toàn hơn tính hữu dụng nếu anh ấy biết công nghệ sẽ phát triển nhanh như thế nào, theo BBC.
Ông ấy có biệt danh "bố già AI" cùng với Geoffrey Hinton và Yann LeCun sau khi họ giành được Giải thưởng Turing, một giải thưởng khoa học máy tính danh giá, cho những đột phá về máy học vào năm 2018.
Những lo ngại về AI đã gia tăng kể từ khi ChatGPT được phát hành công khai vào tháng 11 năm ngoái, chủ yếu là do lo ngại rằng nó gần đạt đến trí thông minh cấp độ con người hơn so với suy nghĩ trước đây.
Sam Altman, Giám đốc điều hành của OpenAI, nói với Quốc hội vào đầu tháng này rằng anh tin rằng một cơ quan chính phủ nên được thành lập để giám sát AI và ngăn chặn nó phát triển ngoài tầm kiểm soát. Bengio cũng nói với BBC cần có quy định cho các công ty và phòng thí nghiệm AI.
Ông nói: “Các chính phủ cần theo dõi những gì họ đang làm. Đó chỉ là điều tối thiểu chúng tôi làm cho bất kỳ lĩnh vực nào khác như chế tạo máy bay, ô tô hay dược phẩm”.
Và giáo sư kêu gọi "đào tạo đạo đức" mà các nhà khoa học máy tính "thường không nhận được", theo BBC. "Chúng tôi cũng cần những người ở gần các hệ thống này phải có một loại chứng nhận," Bengio nói với đài truyền hình.
Hôm thứ Ba vừa qua, ông đã ký một tuyên bố do Trung tâm An toàn AI đưa ra, trong đó cảnh báo công nghệ này có nguy cơ "tuyệt chủng" tương đương với chiến tranh hạt nhân.
Nó cũng được ký bởi các CEO của các phòng thí nghiệm AI hàng đầu, như Demis Hassabis của Altman và Google DeepMind, cũng như Hinton.
Hinton đã nghỉ việc tại Google và nói với The New York Times hồi đầu tháng này về sự hối tiếc của mình khi tiên phong về AI. Anh ấy nói rằng anh ấy lo lắng nó sẽ thúc đẩy thông tin giả mạo và loại bỏ việc làm.
Mặc dù LeCun – “bố già” thứ 3 đã vài lần tweet rằng ông cho rằng niềm tin như vậy là thái quá. Ông nói: “Cho đến khi chúng ta có một thiết kế cơ bản cho AI thậm chí ở cấp độ chó (chứ chưa nói đến cấp độ con người), thảo luận về cách làm cho nó an toàn là quá sớm”.
