Tin tứcViện này được thành lập nhằm đối phó một cách có hệ thống với những rủi ro liên quan đến sự phát triển nhanh chóng của AI, bao gồm việc lạm dụng công nghệ, mất kiểm soát hoặc hạn chế về mặt công nghệ.
Giám đốc Viện Kim Myung-joo cho biết, viện sẽ không chỉ chuyên trách nghiên cứu về an toàn AI mà còn đóng vai trò là một trung tâm hợp tác giữa giới học giả, doanh nghiệp, và các tổ chức nghiên cứu quốc tế.
Viện là một phần của Mạng lưới Viện Nghiên cứu an toàn AI quốc tế, hiện có sự tham gia của 10 quốc gia.
Viện cũng sẽ hỗ trợ các doanh nghiệp AI trong nước phát triển các chính sách an toàn, đảm bảo khả năng cạnh tranh toàn cầu trong bối cảnh AI đang phát triển mạnh mẽ.
Liên minh An toàn AI Hàn Quốc, với sự tham gia của các tập đoàn lớn như Naver, Kakao, SK Telecom, KT, và LG, đã cam kết hợp tác nghiên cứu và phát triển các giải pháp bảo mật AI.
Động thái này của Hàn Quốc diễn ra trong bối cảnh công nghệ AI tạo sinh ngày càng phát triển và tiềm ẩn nhiều rủi ro, từ việc lạm dụng công nghệ cho đến mối đe dọa với an ninh toàn cầu.
Mới đây, các nhà khoa học đoạt giải Nobel, Geoffrey Hinton và Demis Hassabis, đã lên tiếng cảnh báo về những nguy cơ tiềm tàng của AI và kêu gọi các chính phủ xây dựng các quy định và chính sách quản lý phù hợp.
Ông Hassabis nhấn mạnh sự cần thiết phải có các quy định phù hợp để AI có thể mang lại lợi ích cho nhân loại, đồng thời cho rằng công nghệ này đang phát triển quá nhanh và cần có các biện pháp thích ứng kịp thời.
Geoffrey Hinton cũng bày tỏ lo ngại về những hậu quả khi AI phát triển vượt quá khả năng kiểm soát của con người, đặc biệt là trong lĩnh vực vũ khí.
Việc thành lập viện nghiên cứu an toàn AI của Hàn Quốc được xem là một bước đi quan trọng trong việc đảm bảo phát triển bền vững và an toàn cho công nghệ này trong tương lai.
