Facebook hy vọng công nghệ chống lạm dụng trên hệ thống của mình sẽ góp phần hỗ trợ các nền tảng khác nhanh chóng phát hiện những nội dung khủng bố, bạo lực và ấu dâm.
Hai thuật toán này đã phát hành trên GitHub để hỗ trợ doanh nghiệp, tổ chức phi lợi nhuận và những nhà phát triển ứng dụng xác định bài viết có nội dung ấu dâm, tuyên truyền khủng bố, hình ảnh, đồ họa bạo lực trên nền tảng của mình và kịp thời đưa ra phương án xử lý. Riêng với những hãng đã có công nghệ riêng, thuật toán sẽ bổ sung thêm lớp bảo vệ phụ cho hệ thống.
Theo Facebook, hai thuật toán PDQ và TMK + PDQF đều được thiết kế để hoạt động ở mức độ cao, dựa trên ý tưởng từ các mô hình hiện có như pHash, PhotoDNA của Microsoft, aHash và dHash. PDQ phù hợp với hình ảnh mô phỏng theo pHash còn TMK + PDQF chuyên nhận dạng video – được phát triển bởi nhóm Nghiên cứu AI Facebook và một số học giả từ trường đại học Modane và Reggio Emilia (Ý).
Cả hai thuật toán đều lưu trữ tập tin hiệu quả dưới dạng các hàm băm kỹ thuật số ngắn (short digital hash) và so sánh với những ví dụ có sẵn chứa nội dung độc hại xem hai tập tin có giống nhau không, ngay cả khi không có hình ảnh hoặc video gốc. Facebook cho biết những hàm băm này có thể chia sẻ dễ dàng giữa các công ty, tổ chức phi lợi nhuận cùng nhiều đối tác trong ngành thông qua diễn đàn Innetnet Chống Khủng bố Toàn cầu (GIFCT). Các doanh nghiệp khác có thể dùng công nghệ này để phát hiện và nhanh chóng gỡ bỏ nội dung xấu trên dịch vụ của họ.
Các nền tảng Internet đang phải chịu nhiều áp lực với nội dung độc hại. Sau vụ nổ súng ở thành phố Christchurch (Úc), chính quyền Úc cảnh báo sẽ trừng phạt Facebook nếu không nhanh chóng gỡ bỏ những video về vụ khủng bố. Hồi tháng 5, “gã khổng lồ mạng xã hội” cùng nhiều nền tảng công nghệ khác đã ký cam kết Christchurch Call, hứa sẽ cộng tác với những công ty khác và dành nhiều nguồn lực hơn để kiểm soát nội dung độc hại.
Giải pháp này của Facebook cũng góp phần giảm video chứa nội dung ấu dâm – đang có xu hướng gia tăng trên các nền tảng trực tuyến.
“Theo thống kê của CyberTipline, tromg năm qua lượng video ấu dâm đã tăng 541%. Chúng tôi hy vọng sự đóng góp của Facebook cho công nghệ nguồn mở này sẽ giúp xác định và giải cứu nhiều trẻ em bị lạm dụng tình dục”, John Clark, Chủ tịch kiêm CEO của Trung tâm Trẻ em Mất tích và bị Bóc lột – NCMEC (Mỹ).
Đây là lần đầu tiên Facebook chia sẻ rộng rãi công nghệ nguồn mở liên quan đến hình ảnh và video. Ngoài ra, “gã khổng lồ truyền thông” đang hợp tác với Đại học Maryland, Đại học Cornell, Viện Công nghệ Massachusetts và Đại học California, Berkeley (Mỹ) nghiên cứu cách ngăn chặn những người dùng cố tình vượt qua hệ thống kiểm duyệt để đăng tải hình ảnh và video bị cấm.
Theo The Verge