AI của Facebook tự sáng tạo ra ngôn ngữ giao tiếp mà con người không thể hiểu, và đây là điều đáng lo ngại

Viễn cảnh AI có thể vượt quá ngưỡng kiểm soát của các người tạo ra chúng gây ra lo ngại về phiên bản thực của bộ phim The Terminator.

Nhiều điều tuyệt vời đang được tạo ra từ tiến bộ trong công nghệ trí tuệ nhân tạo và công nghệ máy học. Nhưng đồng thời, một sự sợ hãi về việc máy móc có thể nổi lên và chống lại con người là luôn hiện hữu. Trước đây một kịch bản này thường là câu chuyện đùa, nhưng đối với các nhà nghiên cứu tại Facebook thì không. Họ vừa tắt một AI mà họ đã phát minh, sau khi nó đã tự học một ngôn ngữ mới, theo báo cáo từ Digital Journal.

AI của Facebook đã tự sáng tạo ra ngôn ngữ riêng khiến họ phải tắt chúng đi

Theo đó, ban đầu này AI được luyện tập bằng tiếng Anh, nhưng dường như nó đã chán ngán với những sắc thái và sự không nhất quán. Thay vào đó, nó đã tự phát triển một hệ thống các từ mã để truyền thông hiệu quả hơn.

Các nhà nghiên cứu đã lo ngại rằng những cụm từ được sử dụng bởi AI trông như là vô nghĩa và không thể hiểu đối với họ, nhưng hoàn toàn có ý nghĩa đối với chúng. Điều này cho phép các AI giao tiếp với nhau mà không cần các nhà nghiên cứu biết những thông tin nào đang được chia sẻ.

Cụ thể, trong một lần trao đổi, hai chương trình Bob và Alice đã từ bỏ các quy tắc ngữ pháp tiếng Anh, bắt đầu giao tiếp bằng cách sử dụng ngôn ngữ chúng tự tạo ra. Bob nói, “Tôi có thể tôi tất cả mọi thứ khác” (“I can i i everything else,”), rồi Alice trả lời, “quả bóng không với tôi để tôi cho tôi …” (“balls have zero to me to me to me…”) Cuộc trao đổi tiếp tục theo cách đó.

Các nhà nghiên cứu tin rằng sự trao đổi này đại diện cho nhiều thứ chứ không chỉ là một loạt những điều vô nghĩa như họ đang thấy. Họ lưu ý rằng việc lặp lại các từ và cụm từ như “i” và “với tôi” (to me) là cách AI hoạt động. Trong cuộc trao đổi đặc biệt trên, họ tin rằng các chương trình đang thảo luận có bao nhiêu mục mà nó nên thực hiện.

Các công nghệ AI sử dụng hệ thống “khen thưởng”, trong đó nó mong đợi một hành động có “lợi ích”.

“Không có phần thưởng nào liên quan đến tiếng Anh.” Dhruv Batra, nhà nghiên cứu thuộc Viện Công nghệ Georgia Tech, người đã từng làm việc tại Facebook AI Research (FAIR), nói với Fast Co. Design: “Các AI sẽ bỏ qua ngôn ngữ dễ hiểu và sáng tạo ra các từ mã cho bản thân chúng. Giống như việc nếu tôi nói ‘the’ 5 lần, bạn giải thích điều đó nghĩa là tôi muốn 5 bản sao của mục này, không khác gì cách cộng đồng con người tạo ra các từ lóng.”

Cuối cùng, Facebook xác định rằng họ muốn các con bot nói chuyện bằng tiếng Anh thuần, một phần vì chương trình quan tâm đến việc tạo ra bot có thể trao đổi với con người. Tuy nhiên, các nhà nghiên cứu tại Facebook thừa nhận rằng họ không thể thực sự hiểu các ngôn ngữ phát minh ra bởi AI.

Dịch từ PCGamer