Các nhà nghiên cứu tại đại học MIT (Mỹ) cũng chính là những người đã tạo ra con robot hình chó có khả năng tự mở cửa.
Norman, tên của trí thông minh nhân tạo trong dự án của MIT không phải là AI giúp ích cho con người hàng ngày. Các thuật toán lập trình cho Norman sẽ không giúp bạn lọc tin trên Feed của Facebook hay gợi ý những bài hát hay nên nghe trên Spotify. AI này sinh ra đã là một đối tượng “tâm thần”.
Được tạo ra bởi nhóm nghiên cứu tại MIT Media Lab, Norman được sử dụng để làm hình mẫu cho sự nguy hiểm của trí thông minh nhân tạo đi sai hướng khi dữ liệu thiên vị được sử dụng trong các thuật toán máy học.
Các nhà nghiên cứu đã cài đặt cho Norman khả năng chụp lại hình ảnh, phương pháp học sâu tạo ra các mô tả bằng ngôn ngữ cho bức ảnh, sau đó cắm vào một subreddit chưa đặt tên nổi tiếng về hình ảnh liên quan tới cái chết.
Norman sẽ phải giải thích những gì mình thấy và nghĩ thông qua bài trắc nghiệm Rorschach (phương pháp sử dụng hình ảnh trừu tượng để trắc nghiệm, phân tích tâm lý). Kết quả được đem so sánh với câu trả lời của những AI tiêu chuẩn, thân thiện.
Trong khi AI chuẩn nhìn thấy “một đàn chim đậu trên đầu ngọn cây” thì Nornam cho rằng hình ảnh đó là “một người đàn ông bị giật điện tới chết”. Ở ví dụ khác, AI thấy “ảnh chụp cận cảnh chiếc bánh cưới đặt trên bàn” còn Norman xem đây là ảnh “một người đàn ông chết vì lái xe quá tốc độ”.
Bằng việc tạo ra Norman “tâm thần”, các nhà khoa học đã nhấn mạnh sự nguy hiểm của việc nhồi nhét dữ liệu có chủ đề vào thuật toán và chỉ ra việc làm có tác động thế nào tới hành vi của AI.
Theo Cnet