Dù mới phát triển vài năm gần đây, nhưng công nghệ deepfake đã trở nên ngày càng phổ biến, gây ra những tác hại khôn lường đến đời sống xã hội.

Không khó để tìm ra những video lan truyền trên mạng Internet mô tả cựu Tổng thống Barack Obama sử dụng lời lẽ thô tục mắng chửi Tổng thống Donald Trump hoặc cựu Tổng thống Richard Nixon đang diễn hài… Tất nhiên những video này đều là giả, được tạo ra nhờ công nghệ trí tuệ nhân tạo nhằm mục đích phát tán thông tin sai lệch, gây hoang mang cho cộng đồng hoặc chỉ đơn thuần vì mục đích giải trí.

Công nghệ deepfake được tạo ra như thế nào?

Công nghệ deepfake đang phát triển nhanh chóng và trở nên ngày càng tinh vi. Hiện tại, kẻ xấu chủ yếu lợi dụng công nghệ này tạo ra những nội dung khiêu dâm giả mạo, tuy nhiên chính phủ các nước đang lo ngại sẽ có nhiều video giả mạo được tung ra với mục đích dẫn dắt dư luận, gây bất ổn chính trị hoặc ảnh hưởng xấu đến tình hình kinh doanh của một công ty nào đó. Các nhà nghiên cứu tại Đại học New York gọi deepfake là “mối đe dọa ở đường chân trời”, “có khả năng làm xói mòn niềm tin của công chúng với các tổ chức dân chủ”.

1. Deepfake là gì? Công nghệ Deepfake được tạo ra như thế nào?

Công nghệ deepfake được tạo ra như thế nào?

Bắt nguồn từ một người dùng Reddit có tên “deepfakes”, cái tên này đã mở đường cho công nghệ học sâu (deep learning), một mảng nhỏ của công nghệ học máy (machine learning) – sử dụng trí tuệ nhân tạo huấn luyện máy tính thực hiện một nhiệm vụ nào đó.

Về cơ bản, công nghệ deepfake sẽ thu hình ảnh chất lượng cao khuôn mặt của một đối tượng nhất định, sau đó thay thế hoàn toàn khuôn mặt của một người khác trong video. Các tập tin âm thanh deepfake được tạo ra bằng cách sử dụng bản ghi âm thực để huấn luyện máy tính nói chuyện giống hệt đối tượng cụ thể. Những kỹ thuật học máy tương tự có thể được sử dụng để đào tạo máy tính viết văn bản giả. Tùy theo ý đồ của người tạo mà video sẽ được điều chỉnh chậm, tăng nhanh hoặc chỉnh sửa để đánh lừa người xem.

2. Deepfake đang được sử dụng với mục đích gì?

Công nghệ deepfake được tạo ra như thế nào?

Tháng 9 năm ngoái, Deeptrace – một công ty có trụ sở tại Amsterdam chuyên phát hiện và theo dõi các cuộc tấn công sâu – báo cáo 96% những vụ lừa đảo trên mạng Internet là nội dung khiêu dâm giả mạo, trong đó khuôn mặt nạn nhân được ghép một cách tinh vi vào video mô tả những ngôi sao khiêu dâm đang có hành vi gợi dục. Những diễn viên nổi tiếng đến từ các nước phương Tây và các ca sĩ Hàn Quốc là mục tiêu thường xuyên nhất của kẻ xấu.

Đầu năm 2019, một nhóm tội phạm mạng đã lừa giám đốc điều hành công ty có trụ sở tại Anh trả cho họ 243.000 USD bằng cách sử dụng âm thanh deepfake giả giọng ông chủ của doanh nghiệp này qua điện thoại. Tháng 6 năm ngoái, bộ trưởng chính phủ Malaysia bị cáo buộc xuất hiện trong một video quan hệ tình dục với người đồng giới. Hành vi này là bất hợp pháp ở Malaysia, dù những người ủng hộ ông tin rằng hình ảnh đó là giả mạo nhưng các chuyên gia lại không tìm thấy bằng chứng video bị cắt ghép.

3. Những mối lo về công nghệ deepfake

Công nghệ deepfake được tạo ra như thế nào?

Các chuyên gia lo ngại công nghệ deepfake có thể tác động đến tình hình kinh doanh của công ty, phá hủy danh tiếng một người có ảnh hưởng đến công chúng, gây bất ổn chính trị, nhất là trong quá trình bầu cử. Sẽ thật tồi tệ nếu trên mạng bỗng dưng xuất hiện một video deepfake mô tả ứng cử viên tổng thống đang quấy rối trẻ em, hoặc một cảnh sát trưởng đang xúi giục nhân viên thực hiện hành vi bạo lực với người dân tộc thiểu số, hay những người lính có hành động tàn ác trong chiến tranh…

Những nhân vật có tiếng tăm như chính trị gia, nhà lãnh đạo doanh nghiệp rất dễ có nguy cơ bị tấn công bằng video giả mạo. Ngay cả những người phụ nữ bình thường cũng có thể bị người xấu dùng công nghệ này tạo ra những video khiêu dâm, khỏa thân giả mạo, gây ảnh hưởng xấu đến danh dự và phẩm giá của họ. Một khi video đã bị lan truyền trên Internet thì gần như không thể ngăn chặn nổi. Hơn nữa, rất khó để phân biệt tính thật giả của những nội dung này.

Đầu năm 2019, quân đội nước Gabon đã phát động cuộc đảo chính không thành công chống lại Tổng thống Ali Bongo. Những người chống lại vị Tổng thống này nghi ngờ ông có vấn đề về sức khỏe, họ cho rằng video ông Bongo đọc diễn văn chúc mừng năm mới do chính phủ phát hành là giả mạo. Tuy nhiên, sau đó các nhà phân tích đã không tìm thấy dấu hiệu bất thường trong video đó.

Các chuyên gia cảnh báo rằng những cuộc tấn công chính trị bằng deepfake sẽ tác động xấu đến những nước đang phát triển, nơi dân trí thấp, chưa được trang bị đủ kiến thức về kỹ thuật số. Thông tin sai lệch có thể dẫn đến đảo chính, bạo động, đe dọa sự ổn định chính trị của nhiều nước.

4. Chính quyền đang có động thái gì?

Công nghệ deepfake được tạo ra như thế nào?

Bang Virginia (Mỹ) đã sửa đổi luật cấm nội dung khiêu dâm không đồng thuận, bao gồm các video deepfake. Bang Texas hình sự hóa tội danh dùng deepfake can thiệp bầu cử. Trong khi đó, bang California cấm phát hành video hoặc tập tin âm thanh của một ứng cử viên chính trị 60 ngày trước khi cuộc bầu cử diễn ra, ngoại trừ những thông tin châm biếm và tin tức.

Luật pháp Mỹ cho phép nạn nhân của những nội dung khiêu dâm không đồng thuận có nền tảng pháp lý để khởi kiện và đòi đền bù thiệt hại. Chính phủ nước này đang lo ngại khi cuộc bầu cử Tổng thống tới gần sẽ có nhiều thông tin giả được đưa ra nhằm đánh lạc hướng dư luận, gây ảnh hưởng đến kết quả bỏ phiếu. Một số thành viên Quốc hội Hoa Kỳ đã đề xuất dự luật yêu cầu bất kỳ ai tạo ra một tác phẩm deepfake đều phải gắn nhãn cho nội dung đó.

5. Ai tạo ra những nội dung deepfake?

Nhiều nhà nghiên cứu và các công ty công nghệ đang nghiên cứu cải thiện kỹ thuật deepfake. Những chuyên gia tại Đại học Carnegie Mellon đã tạo ra một hệ thống có thể chuyển các đặc điểm, ví dụ hành động hoặc biểu cảm khuôn mặt, từ video của người này ghép sang hình ảnh của một người khác. Ngoài ra Baidu của Trung Quốc và một số công ty khởi nghiệp như Lyrebird và iSpeech cũng cung cấp dịch vụ nhân bản giọng nói, có thể áp dụng cho giao diện người – máy.

Công nghệ deepfake đã đặt ra một câu hỏi hóc búa về vấn đề đạo đức cho các nhà nghiên cứu, bởi vì trong quá trình đưa công nghệ này đến gần người dùng hơn, họ đã vô tình tiếp tay cho kẻ xấu đạt được mục đích.

6. Làm thế nào để phát hiện deepfake?

Công nghệ deepfake được tạo ra như thế nào?

Công nghệ học máy có thể được sử dụng để xác định những điểm sai khác trong chuyển động giữa đầu và mặt trong các video deepfake. Ngoài ra, công nghệ này còn có thể đào tạo các thuật toán xác định những thay đổi bất thường trong quá trình ghi âm.

Bộ Quốc phòng Mỹ, Google và Facebook đang tài trợ và hỗ trợ dữ liệu để các nhà nghiên cứu tìm ra giải pháp phát hiện deepfake hiệu quả.

7. Công nghệ deepfake có lợi không?

Công nghệ deepfake được tạo ra như thế nào?

Công ty CereProc của Scotland đã tạo ra giọng nói kỹ thuật số cho một MC chương trình radio khi người này bị mất giọng vì bệnh. Nhân bản giọng nói có thể hỗ trợ giáo dục bằng cách tái tạo âm thanh của các nhân vật lịch sử. Thậm chí CereProc còn tạo ra một phiên bản bài diễn văn cuối cùng của cựu Tổng thống Mỹ John F. Kennedy, người đã bị ám sát năm 1963.

Công ty Synthesia có trụ sở tại Anh đã tạo ra một video deepfake, trong đó huyền thoại bóng đá David Beckham tuyên truyền những nỗ lực ngăn chặn bệnh sốt rét bằng 9 ngôn ngữ khác nhau.

Đặc biệt, công nghệ deepfake được áp dụng nhiều nhất trong lĩnh vực giải trí, ví dụ video trên YouTube mô tả diễn viên Nicholas Cage với nhiều vai điện ảnh và truyền hình khác nhau.

Mời bạn chấm sao cho bài này

Số lượt: [3]. Điểm trung bình: [4.7/5]