GPT2, một hệ thống trí tuệ nhân tạo mới của OpenAI, sẽ không được công bố. Công ty e sợ nếu không kiểm soát an toàn sẽ bị kẻ xấu lợi dụng.
OpenAI, một công ty nghiên cứu phi lợi nhuận, vừa tạo ra một mô hình trí tuệ nhân tạo (AI) hoạt động tốt nhất từ trước tới nay. Theo báo cáo, hệ thống AI có tên GPT2, vận hành hoàn hảo đến nỗi công ty không dám công bố nghiên cứu.
Bởi nếu không kiểm soát tốt, sản phẩm có khả năng bị lạm dụng vào mục đích xấu rất cao. OpenAI nói họ cần thêm thời gian để thảo luận về bước đột phá công nghệ này.
Cốt lõi của GPT2 là một trình tạo văn bản. Khi được cung cấp vài từ và yêu cầu viết, hệ thống sẽ tự động vẽ ra một câu chuyện trên các từ khóa đó. Những đoạn văn được viết ra rất mạch lạc và hợp với chủ đề. OpenAI cho biết mô hình này hoàn hảo đến nỗi không mắc bất kỳ một lỗi nào như các hệ thống trước đây, chẳng hạn như quên điều đang viết, sai cú pháp ở những câu dài…
Từ quan điểm nghiên cứu, GPT2 đạt được hai bước đột phá. Một là về kích thước, mô hình này lớn hơn 12 lần, bộ dữ liệu lớn hơn 15 lần và rộng hơn rất nhiều so với mô hình AI tiên tiến nhất đã được công bố. Bộ dữ liệu chứa khoảng 10 triệu bài báo được tuyển chọn trên trang tin tức xã hội Reddit. Bộ sưu tập văn bản khổng lồ nặng đến 40 GB giúp hệ thống có thêm nhiều kiến thức hơn.
Bước đột phá thứ hai là về mục đích, GPT2 có thể thực hiện những nhiệm vụ khác nhau như dịch thuật, so sánh, vượt qua các bài kiểm tra đọc hiểu đơn giản. Hệ thống được phát triển với nhiều chức năng hơn so với những AI trước chỉ được xây dựng riêng cho từng tác vụ.
Tuy nhiên chính điều này đã khiến OpenAI phải giữ GPT2 lại vì e ngại bị kẻ xấu lợi dụng. “Chúng tôi cần thực hiện thêm thử nghiệm để tìm hiểu và dự đoán tất cả mọi khả năng của mô hình. Bởi vì rất nhiều người thông minh hơn chúng tôi có thể suy nghĩ ra cách biến GPT2 trở nên độc hại”, Jack Clark, trưởng phòng chính sách của OpenAI cho biết.
Công ty đã tạo ra một phiên bản mới của GPT2 với vài điều chỉnh nhỏ để thực hiện các thử nghiệm khác, cả tích cực lẫn tiêu cực về sản phẩm. Thư rác và tin giả là hai nhược điểm tiềm năng đầu tiên. Vì được đào tạo trên internet nên hệ thống này dễ dàng sáng tác ra những tác phẩm văn học hư cấu, tin tức giả, thậm chí là thuyết âm mưu…
Hiện tại, OpenAI đã quyết định chỉ phát hành một bài viết kỹ thuật về “phiên bản nhỏ hơn của GPT2”. Đại diện công ty cho biết họ không chắc quyết định mình đưa ra có đúng hay không bởi vì những nhà khoa học dữ liệu thành thạo vẫn có thể tái tạo hệ thống. Nhưng công ty hy vọng quyết định của mình sẽ mở ra nhiều cuộc thảo luận mang tính giáo dục và nghiêm túc hơn về những ứng dụng sai của AI.
Đồng thời, OpenAI khuyến nghị cơ quan chính phủ thúc đẩy nhiều chương trình nghiên cứu kỹ lưỡng về tác động của AI đối với xã hội, giám sát sự phát triển của các hệ thống AI, từ đó triển khai quy định tốt hơn trong lĩnh vực này.
Bên cạnh đó, mô hình cũng cho thấy trong 1 – 2 năm tới thế giới sẽ tiến bộ đến mức nào. Các quy tắc kiểm soát công nghệ sẽ thay đổi về cơ bản, phần mềm luôn khiến cho công nghệ giảm giá. Clark nói “Chúng tôi không tự nhận mình biết điều gì đúng đắn và nên làm. Chúng tôi cũng sẽ không đặt vấn đề và áp đặt ‘đây là cách giải quyết’. OpenAI chỉ đang cố gắng xây dựng một con đường”.
Theo: The Guardian