Việc Microsoft quyết định thay thế con người bằng robot có vẻ đang phản tác dụng khi phần mềm này không phân biệt được hai ca sĩ da màu trong ban nhạc Little Mix.
Cuối tháng Năm vừa qua, Microsoft đã quyết định sử dụng trí tuệ nhân tạo thay thế con người vận hành, biên tập cho trang tin tức và tìm kiếm MSN.com. Tuy nhiên, hành động này vừa bị dự luận chỉ trích vì hệ thống trí tuệ nhân tạo tự động nhầm lẫn giữa hai thành viên da màu trong nhóm nhạc Little Mix của Anh.
Theo The Guardian, các biên tập viên robot của MSN.com đã chọn một bài viết nói về những điều ca sĩ Jade Thirlwall thuộc nhóm nhạc Little Mix đã phải đối mặt với nạn phân biệt chủng tộc ở trường. Tuy nhiên, hệ thống AI của MSN.com lại sử dụng ảnh của Leigh-Anne Pinnock (cùng là thành viên trong Little Mix) để minh họa.
Sai lầm của MSN.com làm cho Thirlwall khá tức giận. Cô đã đăng bài viết lên Instagram về vấn đề này và cho rằng hệ thống của Microsoft đang không phân biệt được hình ảnh chính xác của những thành viên da màu. “Điều này xảy ra với tôi và Leigh-Anne Pinnock gần như luôn luôn, cứ như một trò đùa đang diễn ra. Tôi cảm thấy bị xúc phạm khi bạn không thể phân biệt hai phụ nữ da màu trong số bốn thành viên của nhóm”.
Theo The Guardian, lỗi này thuộc về các hệ thống tự động của Microsoft. “Gã khổng lồ công nghệ” đã sa thải đội ngũ biên tập viên của MSN hồi cuối tháng trước và sử dụng hệ thống AI để viết, biên tập lại vào từ những tờ báo khác.
Chưa rõ nguyên nhân chính xác gây ra lỗi này, nhưng vì đây là hệ thống tự động, có thể sai sót nằm trong phần kỹ thuật. Rõ ràng sự cố này sẽ khó phát sinh nếu biên tập viên là con người, nhưng trên thực tế đây không phải lần đầu xảy ra sai lầm tương tự. Đầu năm nay, BBC phải xin lỗi sau khi sử dụng cảnh quay của cầu thủ bóng rổ LeBron James để minh họa cho tin tức về cái chết của đồng đội Kobe Bryant.
Đại diện Microsoft cho biết: “Ngay khi phát hiện vấn đề này, chúng tôi đã giải quyết ngay lập tức, thay thế hình ảnh không chính xác”.
Đáng chú ý, The Guardian cho biết các nhân viên của MSN không thể ngăn robot chọn bài viết để đăng tải lên trang. Họ nói rằng AI được toàn quyền chọn và xuất bản bài viết trên MSN.com, nếu nhân viên phát hiện bất thường và xóa thì hệ thống AI vẫn có thể chọn và tiếp tục xuất bản lại.