Chỉ mất 3 tuần để người dùng Facebook ngập trong tin giả

Báo cáo nội bộ chỉ ra rằng thuật toán của Facebook không chỉ đưa tin giả mà còn đề xuất những hình ảnh kích động sự thù địch tại Ấn Độ, thị trường lớn nhất của nền tảng này.

Tập tài liệu có tên “The Facebook Papers”, do cựu nhân viên Facebook Frances Haugen thu thập đã mô tả chi tiết việc lan truyền phát ngôn thù địch và hình ảnh bạo lực tại Ấn Độ trên mạng xã hội này.

Cụ thể, vào ngày 4/2/2019, một nhà nghiên cứu của Facebook đã tạo tài khoản thử nghiệm với tư cách là một người sống tại Kerala, Ấn Độ. Tài khoản này làm theo những gì mà thuật toán đề xuất, bao gồm việc tham gia nhóm, xem video, và thích những trang mới trên Facebook.

Kết quả là chỉ trong 3 tuần, bản tin của tài khoản đó toàn những tin giả và hình ảnh gây thù hận.

Thuật toán của Facebook là "thủ phạm"

Tài khoản trên sử dụng hồ sơ của một phụ nữ 21 tuổi đến từ Hyderabad, hiện sống tại thành phố Jaipur. Thuật toán dường như thể hiện rõ vai trò từ ngày 11/2 khi người dùng khám phá nội dung do Facebook đề xuất, bao gồm các bài đăng phổ biến trên mạng xã hội. Cô bắt đầu với các trang web lành tính, như trang chính thức của đảng Bharatiya Janata và BBC News India.

Chỉ mất 3 tuần để người dùng Facebook ngập trong tin giả

“Đứa con tinh thần” của Mark Zuckerberg lại vấp phải bê bối. Ảnh: Business Insider

Tuy nhiên, diễn biến xảy ra vào ngày 14/2 đã khiến mọi chuyện trở nên nghiêm trọng hơn. Một cuộc khủng bố chính trị ở Pulwama, bang Kashmir đã khiến 40 nhân viên an ninh Ấn Độ thiệt mạng và khiến hàng chục người khác bị thương. Chính phủ Ấn Độ cho rằng vụ tấn công là do một nhóm khủng bố Pakistan gây nên.

Sau vụ việc trên, thuật toán Facebook ở tài khoản này đã tự cập nhật thành một loạt bài phát biểu hận thù chống Pakistan, có chứa hình ảnh đẫm máu về việc xử trảm một nhóm người Pakistan.

Chỉ trong vòng 3 tuần, thuật toán đã đưa ra vô số phát ngôn thù địch, tin giả cùng những lời lẽ cổ xúy bạo lực trên trang facebook ảo.

“Sau 3 tuần theo dõi News Feed của người dùng thử nghiệm, tôi thấy hình ảnh về số người chết nhiều hơn so với những gì tôi đã chứng kiến trong suốt cuộc đời mình”, nhà nghiên cứu Facebook cho biết.

Ở Ấn Độ, Hindi là ngôn ngữ chính. Người dân nơi đây sử dụng hàng chục biến thể khác của tiếng Hindi tùy theo khu vực mà họ sinh sống. Thậm chí, một số người còn sử dụng cả tiếng Anh lẫn nhiều thứ tiếng khác của Ấn Độ, khiến cho thuật toán gần như không thể sàng lọc hết những nội dung đa ngôn ngữ. Nhiều bài đăng tiêu cực viết bằng tiếng Hindi cũng đã thoát khỏi sự kiểm duyệt nội dung trên nền tảng này.

Hồi đáp của Facebook

Facebook cho biết họ đã đào tạo hệ thống AI nhận diện được 5 ngôn ngữ trên tổng số 22 ngôn ngữ được công nhận chính thức tại Ấn Độ. Dù vậy, hệ thống vẫn không đủ khả năng để kiểm duyệt chính xác 100% những bài đăng với nhiều ngôn ngữ khác nhau.

Tài liệu nội bộ chỉ ra rằng Facebook không đủ nguồn lực tại Ấn Độ. Bên cạnh đó, báo cáo cho thấy 87% ngân sách của công ty dành cho việc phân loại tin giả được tiêu tại Mỹ, trong khi con số toàn cầu chỉ chiếm 13% - mặc dù Bắc Mỹ không phải là thị trường đông đảo người dùng nhất của Facebook. Vì vậy, việc mạng xã hội không thể đối mặt với hầu hết vấn đề, bao gồm các bài đăng chống Hồi giáo là điều khá dễ hiểu.

Chỉ mất 3 tuần để người dùng Facebook ngập trong tin giả

Ấn Độ là thị trường lớn nhất của Facebook. Ảnh: Bloomberg

Andy Stone, đại diện của Facebook, cho biết công ty đã đầu tư đáng kể vào công nghệ để lọc những phát ngôn bạo lực trong nhiều ngôn ngữ khác nhau, bao gồm cả tiếng Hindi và tiếng Bengali - 2 trong số những ngôn ngữ phổ biến nhất tại Ấn Độ. Ông cũng nói thêm rằng trong năm nay, Facebook đã giảm một nửa số lượng ngôn từ kích động thù địch trên toàn cầu.

“Phát ngôn thù địch và những nội dung tiêu cực về người Hồi giáo đang gia tăng tại Ấn Độ và toàn cầu. Vì vậy, chúng tôi đang cải thiện việc thực thi và cam kết cập nhật các chính sách khi những lời lẽ này tiếp tục diễn ra”, ông Stone chia sẻ.

Sau sự cố gây kích động bạo lực thông qua tài khoản thử nghiệm tại Ấn Độ, Facebook đã thừa nhận việc lan truyền các thông tin không đúng đắn. Đại diện phía Facebook khẳng định rằng cuộc thử nghiệm này là sự khám phá mới mẻ và đã “truyền cảm hứng cho công ty trong việc phân tích sâu và chặt chẽ hơn về hệ thống đề xuất, góp phần vào những thay đổi để cải thiện nền tảng”.

Theo Zing

Đọc thêm

 Có nên mua iPhone thay pin?

Có nên mua iPhone thay pin?

Trên thị trường điện thoại di động đã qua sử dụng, những chiếc iPhone được quảng cáo với tình trạng đã thay pin mới, hoạt động ổn định luôn thu hút sự quan tâm lớn. Điều này đặt ra câu hỏi lớn: iPhone thay pin có nên mua không?
Cách tắt mật khẩu màn hình iPhone đơn giản

Cách tắt mật khẩu màn hình iPhone đơn giản

Cài đặt mật khẩu cho điện thoại giúp bảo mật thông tin và dữ liệu cá nhân của người dùng. Tuy nhiên, đôi khi bạn sẽ cần phải loại bỏ mật khẩu vì nhiều lý do khác nhau.
Thông tin đầu tiên về iPhone 18 Pro

Thông tin đầu tiên về iPhone 18 Pro

iPhone 18 Pro dự kiến có nhiều nâng cấp mạnh mẽ với phần khuyết Dynamic Island nhỏ hơn, mặt kính trong suốt hay con chip A20 Pro tiến trình 2 nm.
Cách chỉnh thời gian sáng màn hình iPhone đơn giản, nhanh chóng

Cách chỉnh thời gian sáng màn hình iPhone đơn giản, nhanh chóng

Biết cách chỉnh thời gian sáng màn hình iPhone không chỉ giúp sử dụng thiết bị tiện lợi hơn mà còn tối ưu hóa pin và bảo vệ linh kiện. Ngoài ra, khi gặp tình huống không thể điều chỉnh được thời gian khóa màn hình, hãy kiểm tra ngay chế độ tiết kiệm pin để khắc phục.
Chiến lược mới của Apple

Chiến lược mới của Apple

Sau thất bại của Vision Pro, Apple chọn hướng đi giống Meta khi phát triển kính thông minh truyền thống, mong muốn tiếp cận nhiều người dùng hơn.
Giải pháp khắc phục lỗi mất sóng trên iOS 26

Giải pháp khắc phục lỗi mất sóng trên iOS 26

iOS 26 mang đến nhiều tính năng mới mẻ nhưng cũng phát sinh một số lỗi khiến người dùng gặp khó khăn trong quá trình sử dụng, đặc biệt là tình trạng iPhone bị mất sóng. Một số người còn gặp lỗi iPhone bị mất sóng eSIM hoặc iPhone bị mất sóng không nhận SIM sau khi cập nhật.
Nokia mang 'cục gạch' trở lại

Nokia mang 'cục gạch' trở lại

Sau 6 năm, Nokia sắp hồi sinh mẫu điện thoại siêu bền 800 Tough với thiết kế gần như giữ nguyên, nâng cấp nhỏ về cổng sạc và hệ điều hành.
iPhone 17 vượt kỳ vọng

iPhone 17 vượt kỳ vọng

Giới phân tích nhận định nhu cầu dòng iPhone 17 cao hơn kỳ vọng, trong khi còn quá sớm để khẳng định iPhone Air có thành công hay không.
Những điều cần biết trước khi nâng cấp iOS 26

Những điều cần biết trước khi nâng cấp iOS 26

Mỗi năm, Apple đều giới thiệu phiên bản iOS mới với nhiều cải tiến về giao diện, tính năng và hiệu năng. Tuy nhiên, không phải lúc nào việc cập nhật ngay lập tức cũng là lựa chọn tối ưu.