Microsoft đã không kiểm soát chặt công cụ tìm kiếm của mình, dẫn đến các hình ảnh khiêu dâm trẻ em rất dễ dàng được tìm thấy trên Bing.
Hình ảnh lạm dụng trẻ em bất hợp pháp rất dễ tìm thấy trên Bing của Microsoft. Điều đáng nói hơn nữa là công cụ tìm kiếm này sẽ đề xuất các từ khóa và hình ảnh liên quan đến khiêu dâm trẻ em để cung cấp cho những kẻ ấu dâm. TechCrunch đã nhận được báo cáo từ AntiToxin – startup chuyên về điều tra an toàn trực tuyến bằng một mẹo nặc danh. Kết quả thật sự đáng báo động.
Nghiên cứu cho thấy, các từ khóa như có liên quan đến khiêu dâm trẻ em như “porn kids”, “porn CP” (một tên viết tắt của “child pornography”) và “nude family kids” sẽ cho kết quả là các tất cả các hình ảnh khai thác trẻ em bất hợp pháp nổi lên. Kể cả những người không tìm kiếm loại hình ảnh ghê tởm này thì cũng có thể được Bing dẫn đến.
Khi các nhà nghiên cứu tìm kiếm “Omegle Kids” thì kết quả dẫn đến một ứng dụng trò chuyện video phổ biến với thanh thiếu niên, các đề xuất tự động của Bing như “Omegle Kids Girls 13” cho kết quả nội dung khiêu dâm trẻ em khi tìm kiếm. Và nếu người dùng nhấp vào những hình ảnh đó, Bing sẽ hiển thị nhiều hình ảnh lạm dụng trẻ em bất hợp pháp hơn trong tính năng Hình ảnh Tương tự (Similar Images). Một từ khóa khác về “Omegle for 12 years old” đã hiển thị gợi ý tìm kiếm về “Kids On Omegle Showing,”, điều này dẫn đến rất nhiều hành vi phạm tội khác.
Bằng chứng trên cho thấy đây là một thất bại lớn của Microsoft vì đã kiểm soát không chặt chẽ công cụ tìm kiếm Bing. Rõ ràng là công cụ này đã không ngăn chặn các đề xuất cho kết quả tìm kiếm những nội dung khiêu dâm trẻ em. Tìm kiếm tương tự trên Google không cho ra các hình ảnh bất hợp pháp rõ ràng hoặc nhiều nội dung liên quan đến khiêu dâm như ở Bing.
Các công ty Internet như Microsoft Bing phải đầu tư nhiều hơn vào việc chống lại loại lạm dụng này thông qua cả giải pháp công nghệ mở rộng lẫn bằng nhân lực. Không có lý do gì cho một công ty như Microsoft, đơn vị đã kiếm được 8,8 tỷ USD lợi nhuận trong quý trước, lại không thực hiện các biện pháp an toàn cho người dùng.
Trước đây, Bing từng bị phát hiện đề xuất các từ khóa tìm kiếm nội dung phân biệt chủng tộc, hình ảnh khỏa thân trong một báo cáo của Chris Hoffman đăng trên How To Geek, nhưng đến giờ công cụ này vẫn chưa xử lý xong.
TechCrunch đã nhận được một mẹo ẩn danh về vấn đề đáng lo ngại trên Bing sau bài viết về các cuộc trò chuyện nhóm trên WhatsApp khai thác hình ảnh khiêu dâm trẻ em, ứng dụng trên Google Play của bên thứ ba giúp những nhóm này dễ tìm ra nội dung bất hợp pháp và cách phần mềm chạy quảng cáo của Google và Facebook để kiếm tiền trên nền tảng đó.
Trước những báo cáo đưa ra, WhatsApp đã cấm nhiều nhóm và thành viên vi phạm, Google loại bỏ nhiều ứng dụng tìm kiếm nhóm WhatsApp khỏi Cửa hàng Play. Cả Google và Facebook đều đã chặn các ứng dụng chạy quảng cáo bất hợp pháp và đồng ý hoàn trả tiền cho nhà quảng cáo.
Tìm kiếm không an toàn
TechCrunch đã ủy quyền cho AntiToxin điều tra vấn đề Bing. Nghiên cứu được tiến hành từ ngày 30/12/2018 đến ngày 7/1/2019 với sự giám sát hợp pháp. Các tìm kiếm đã được tiến hành trên phiên bản máy tính để bàn của Bing và tắt tìm kiếm an toàn. AntiToxin được thành lập vào năm ngoái để xây dựng công nghệ bảo vệ mạng lưới chống lại những kẻ ngược đãi, lạm dụng tình dục và nhiều hình thức tấn công khác.
Giám đốc điều hành của AntiToxin – ông Zohar Levkovitz cho biết: “Nói với tư cách là cha mẹ, chúng ta đều kỳ vọng các công ty công nghệ có trách nhiệm hơn gấp đôi và thậm chí gấp ba lần để đảm bảo họ không thêm các nội dung độc hại vào môi trường trực tuyến bởi điều này quá nguy hiểm cho trẻ em. Với vai trò Giám đốc điều hành của AntiToxin Technologies, tôi muốn khẳng định chúng tôi luôn sẵn sàng để hỗ trợ cho bất kỳ công ty nào đặt vấn đề này là ưu tiên hàng đầu”.
TechCrunch đã đặt câu hỏi về vấn đề này với Microsoft và cung cấp danh sách đầy đủ các truy vấn tìm kiếm. Ông Jordi Ribas – Phó chủ tịch của Bing & AI Products – cho biết: “Rõ ràng những kết quả này không phù hợp với các tiêu chuẩn và chính sách của Bing và chúng tôi đánh giá cao TechCrunch đã thông báo điều này. Chúng tôi đã hành động ngay lập tức để khắc phục vấn đề, và sẽ cố gắng ngăn chặn những vi phạm tương tự trong tương lai. Bing sẽ rút kinh nghiệm để có thể thực hiện các cải cách cần thiết”.
Microsoft đã chỉ định một nhóm kỹ thuật khắc phục các sự cố nêu trên và hiện cố gắng chặn mọi truy vấn và các đề xuất tìm kiếm, hình ảnh liên quan có vấn đề. Tuy nhiên, AntiToxin nhận thấy rằng trong khi một số từ khóa tìm kiếm từ báo cáo của mình bị cấm hoặc được dọn sạch, thì những từ khóa khác vẫn hiển thị nội dung bất hợp pháp.
Microsoft cho biết đang thay đổi các tùy chọn gắn cờ của Bing thành một nhóm danh mục rộng hơn để người dùng có thể báo cáo, bao gồm “child sexual abuse” (lạm dụng tình dục trẻ em). Khi được hỏi về các giải quyết vấn đề, một phát ngôn viên của Microsoft nói: “Chúng tôi lập một danh mục mọi thứ, giống như Google, và làm mọi cách để sàng lọc. Chúng tôi sử dụng kết hợp cả người kiểm soát lẫn công nghệ PhotoDNA nhưng điều đó cũng không thể đảm bảo Bing lúc nào cũng hoàn hảo. Nhưng Microsoft cam kết sẽ càng lúc càng trở nên tốt hơn”.
Người này từ chối tiết lộ có bao nhiêu thành viên điều hành làm việc cho Bing hoặc liệu công ty có kế hoạch tăng đội ngũ nhân viên để củng cố hệ thống kiểm soát hay không. Nhưng sau đó, phía Microsoft đã cố gắng phản đối lập luận đó. “Tôi có cảm giác bạn đang nói rằng chúng tôi hoàn toàn sai lầm ở đây và từ trước tới nay chúng tôi luôn thật tệ, nhưng rõ ràng không phải vậy.” Sự thật thì Microsoft đã đi tiên phong trong công nghệ phát hiện hình ảnh bất hợp pháp bằng công nghệ PhotoDNA so với các công ty công nghệ khác.
Vấn đề khiêu dâm trẻ em xuất hiện trên Bing là một ví dụ khác về việc các công ty công nghệ từ chối tái đầu tư đầy đủ lợi nhuận để đảm bảo an ninh cho khách hàng và xã hội. Công chúng không thể chấp nhận những thiếu sót này khi những “gã khổng lồ công nghệ” vô trách nhiệm chỉ ưu tiên lợi nhuận tăng trưởng và hiệu quả.
Các giải pháp công nghệ đang chứng minh các biện pháp bảo vệ không đủ, cần có thêm sự hỗ trợ thủ công từ yếu tố con người. Các công ty kinh doanh công nghệ phải chi tiền ngay bây giờ để bảo vệ mọi người khỏi những nguy hiểm từ họ.
Theo: TechCrunch