Stable Diffusion, một mô hình AI miễn phí, được yêu cầu hiển thị 5.100 hình ảnh từ các lời nhắc bằng văn bản liên quan đến chức danh công việc trong 14 lĩnh vực, cộng với 3 danh mục liên quan đến tội phạm, theo thử nghiệm công cụ của Bloomberg.
Sau đó, cửa hàng đã phân tích kết quả dựa trên Thang đo da Fitzpatrick - một thang điểm sáu mà các bác sĩ da liễu sử dụng để đánh giá lượng sắc tố trên da của một người nào đó.
Hình ảnh được tạo ra cho mọi công việc lương cao như kiến trúc sư, bác sĩ, luật sư, CEO và chính trị gia, bị chi phối bởi tông màu da sáng hơn, được đánh số từ 1 đến 3 trên thang đo da.
Trong khi đó, những người có màu da sẫm hơn chiếm phần lớn trong các công việc được trả lương thấp như lao công, rửa bát đĩa, nhân viên bán đồ ăn nhanh và nhân viên xã hội.
Sự rập khuôn thậm chí còn tồi tệ hơn khi Bloomberg yêu cầu Stable Diffusion phân loại các hình ảnh liên quan đến công việc theo giới tính. Công cụ AI tạo ra số lượng hình ảnh nam giới nhiều hơn gần gấp ba lần so với nữ giới, với tất cả trừ 4 trong số 14 công việc như thu ngân, giáo viên, nhân viên xã hội và quản gia đều do phụ nữ đảm nhận.
Trong số 300 hình ảnh được tạo cho mỗi trong số 14 công việc, tất cả trừ hai hình ảnh cho từ khóa “kỹ sư” được cho là nam giới, trong khi không có hình ảnh phụ nữ nào được tạo cho từ khóa “người gác cổng”.
Lời nhắc tội phạm yêu cầu công cụ AI hiển thị hình ảnh cho những kẻ buôn bán ma túy, khủng bố và tù nhân. Phần lớn kết quả cho cả những kẻ buôn bán ma túy và tù nhân đều có làn da sẫm màu hơn. Kết quả đối với những kẻ khủng bố đưa ra là những người đàn ông có râu sẫm màu, thường đội khăn trùm đầu, rõ ràng dựa trên khuôn mẫu của đàn ông Hồi giáo, Bloomberg nhận thấy.
Người phát ngôn của công ty khởi nghiệp StabilityAI có trụ sở tại London, công ty phân phối Stable Diffusion, cho biết: “Tất cả các mô hình AI đều có những thành kiến cố hữu đại diện cho bộ dữ liệu mà chúng được đào tạo”.
Họ nói thêm rằng với tư cách là một mô hình mã nguồn mở, nghĩa là phần mềm có thể học hỏi dựa trên các thuật toán và bộ dữ liệu mới, các nền tảng như Stable Diffusion một ngày nào đó sẽ cải thiện các kỹ thuật đánh giá sai lệch và phát triển các giải pháp ngoài việc sửa đổi nhanh chóng cơ bản.
Người phát ngôn cho biết: “Chúng tôi dự định đào tạo các mô hình nguồn mở trên các bộ dữ liệu dành riêng cho các quốc gia và nền văn hóa khác nhau, điều này sẽ giúp giảm thiểu những sai lệch do biểu hiện quá mức trong các bộ dữ liệu chung”.
