Hoạt động này của Trung Quốc được cho là nhằm vào mục tiêu tuyên truyền của chính phủ nước này về Biển Đông trên Facebook và Instagram.
Theo nghiên cứu của công ty phân tích Graphika, Facebook đã triệt hạ một mạng lưới tài khoản giả mạo có trụ sở tại Trung Quốc. Điều đáng chú ý là mạng lưới này sử dụng khuôn mặt do AI tạo ra với mục tiêu để truyền bá thông tin tuyên truyền của chính phủ trên nền tảng mạng xã hội này.
Mạng xã hội này thông báo hôm thứ Ba rằng đã xóa 155 tài khoản, 11 Trang (Fanpage), 9 Nhóm và 6 tài khoản Instagram vì “hành vi không xác thực phối hợp, thay mặt cho một tổ chức nước ngoài hoặc chính phủ”.
Các tài khoản giả được cho biết là chủ yếu tập trung vào Đông Nam Á, nơi họ đăng về các sự kiện bao gồm lợi ích của Bắc Kinh ở Biển Đông và các diễn biến tại Hồng Kông. Rồi một nhóm nhỏ hơn đóng giả là người Mỹ đã đăng nội dung vừa ủng hộ, vừa chỉ trích các ứng cử viên tổng thống khi đó là Pete Buttigieg, Joe Biden và Donald Trump.
Trước khi gỡ bỏ, Facebook đã yêu cầu Graphika phân tích dữ liệu. Công ty liên kết với Lầu Năm Góc phát hiện ra rằng một số tài khoản đã đánh cắp ảnh hồ sơ của họ từ người thật, những ảnh này có thể bị lộ là không xác thực thông qua truy vết tìm kiếm ảnh.
Một số tài khoản khác cố gắng trốn tránh bị phát hiện bằng cách sử dụng Mạng đối thủ chung (Generative Adversarial Networks – GAN) để tạo ảnh giả, một chiến thuật mà Graphika cho biết là “đã bùng nổ trong năm ngoái”.
Công ty này đã tìm thấy 12 ảnh hồ sơ mà họ nghi ngờ là do AI tạo, do hình nền bị bóp méo và các đặc điểm ngoại vi không đối xứng như tai, kính và tóc. Graphika phát hiện ra một số tín hiệu này bằng cách làm cho hình ảnh trở nên mờ đục, sau đó chồng chúng lên nhau để hiển thị sự liên kết của các đối tượng. Công ty nghi ngờ rằng một số bức ảnh đã bị cắt xén hoặc có thêm nhãn dán để che đậy hành vi giả mạo.
Đây là lần thứ 2 trong tháng này, một mạng lưới các tài khoản Facebook giả mạo đã sử dụng ảnh hồ sơ do AI tạo. Rất có thể chiến thuật này sẽ đóng một vai trò ngày càng lớn trong các hoạt động thông tin trong tương lai.