Tin tứcOpenAI đã công bố nhóm mới, nhằm mục đích nghiên cứu và bảo vệ trước các mối đe dọa tiềm tàng có thể phát sinh từ các khả năng AI tiên tiến.
OpenAI viết trong thông báo: “Chúng tôi tin rằng các mô hình AI tiên tiến, sẽ vượt quá khả năng hiện có của các mô hình tiên tiến nhất hiện có, có tiềm năng mang lại lợi ích cho toàn nhân loại. Nhưng chúng cũng gây ra những rủi ro ngày càng nghiêm trọng”.
mới này sẽ giúp "theo dõi, đánh giá, dự báo và bảo vệ trước các rủi ro thảm khốc", bao gồm các mối đe dọa hóa học, sinh học, hạt nhân và an ninh mạng.
Nó cũng sẽ phát triển “Chính sách phát triển có tính đến rủi ro” bao gồm các hành động bảo vệ và cơ cấu quản trị để buộc các hệ thống AI phải chịu trách nhiệm.
Aleksander Madry sẽ lãnh đạo nhóm với tư cách là người đứng đầu bộ phận chuẩn bị của OpenAI. Là thành viên của nhóm, OpenAI đang tuyển dụng một nhà nghiên cứu mối đe dọa an ninh quốc gia và một kỹ sư nghiên cứu.
Theo danh sách việc làm, mỗi người có thể kiếm được mức lương hàng năm từ 200.000 đến 370.000 USD. Trong nhiều tháng, các nhà lãnh đạo công nghệ tại các công ty AI hàng đầu đã đưa ra cảnh báo về sự an toàn của AI.
Elon Musk, người đã giúp đồng sáng lập OpenAI trước khi rời công ty, cho biết vào tháng 2 rằng AI là “một trong những rủi ro lớn nhất đối với tương lai của nền văn minh”.
Vào tháng 3, Giám đốc điều hành OpenAI Sam Altman cho biết trên một tập podcast của Lex Fridman rằng anh đồng cảm với những người sợ AI, lưu ý rằng những tiến bộ trong công nghệ đi kèm với những rủi ro liên quan đến vấn đề thông tin sai lệch, cú sốc kinh tế như thay thế việc làm, và những mối đe dọa vượt xa mọi thứ mà chúng ta chuẩn bị.
