Bên trong thuật toán của TikTok: Cơ chế an toàn giả mạo bị bang New York vạch trần tại Mỹ
Đơn kiện từ New York hé lộ TikTok bí mật vô hiệu hóa công cụ bảo vệ người dùng, duy trì gợi ý video độc hại để tối ưu hóa thời gian sử dụng và doanh thu.
Nền tảng mạng xã hội TikTok vừa bị Tổng chưởng lý bang New York Letitia James đệ đơn kiện vào ngày 7/10, công bố những tài liệu nội bộ cho thấy ứng dụng này đã âm thầm triển khai hàng loạt công cụ an toàn vô hiệu lực đối với người dùng. Cáo buộc chỉ rõ nền tảng đã đưa hàng nghìn tài khoản, bao gồm cả trẻ em và thanh thiếu niên, vào các nhóm thử nghiệm nhằm tối ưu hóa thời gian tương tác và doanh thu quảng cáo.
Cơ chế thử nghiệm ngầm đằng sau tính năng Algo Refresh
Tính năng "Algo Refresh" (Làm mới thuật toán) vốn được TikTok quảng bá ra công chúng như một công cụ hỗ trợ người dùng thiết lập lại luồng video đề xuất, giúp họ thoát khỏi các chuỗi nội dung độc hại hoặc tiêu cực. Về mặt kỹ thuật, khi kích hoạt tính năng này, hệ thống được kỳ vọng sẽ xóa bỏ lịch sử tương tác trước đó để xây dựng lại danh sách gợi ý hoàn toàn mới.
Tuy nhiên, hồ sơ pháp lý từ bang New York vạch trần việc TikTok đã bí mật tạo ra một nhóm "thử nghiệm giả". Hệ thống chọn ngẫu nhiên hàng nghìn người dùng và gán vào nhóm này. Khi người dùng thao tác bấm nút làm mới, giao diện vẫn hiển thị trạng thái hoàn tất nhưng thuật toán nền tảng lại giữ nguyên toàn bộ luồng cấp dữ liệu cũ mà không thực hiện bất kỳ thay đổi nào.
Hệ lụy từ việc gỡ bỏ bộ lọc an toàn để tăng doanh thu
Đáng chú ý, các tài liệu điều tra nội bộ cho thấy chính quản lý phụ trách bộ phận "Sức khỏe kỹ thuật số" của TikTok từng lên tiếng cảnh báo rằng thử nghiệm trên mang tính lừa dối và đi ngược lại cam kết bảo vệ người dùng. Dẫu vậy, ban điều hành TikTok vẫn tiếp tục duy trì thử nghiệm này trong suốt năm 2023. Mục đích được xác định là nhằm đo lường mức độ giữ chân người dùng và doanh thu thương mại khi các rào cản nội dung bị loại bỏ.
Bên cạnh đó, các hồ sơ giải mật còn phơi bày một thử nghiệm kỹ thuật khác, nơi TikTok chủ động tắt toàn bộ bộ lọc ngăn chặn nội dung nguy hại trên một tập hợp tài khoản thử nghiệm. Đơn kiện dẫn lại cuộc điều tra từ hãng tin Bloomberg, chỉ ra hậu quả nghiêm trọng khi một thiếu niên tại New York đã kết thúc sự sống sau chuỗi ngày tài khoản cá nhân liên tục bị thuật toán phân phối các video mang nội dung tự hại và tự sát.
Phản hồi từ phía TikTok và làn sóng pháp lý tại Mỹ
Trước các cáo buộc gay gắt, đại diện TikTok khẳng định việc bảo vệ nhóm người dùng trẻ tuổi luôn là ưu tiên cốt lõi của công ty. Người phát ngôn mạng xã hội này cho rằng các thử nghiệm kể trên chỉ nhằm mục đích nghiên cứu, đánh giá trải nghiệm thực tế và phía cơ quan chức năng bang New York đã hiểu sai cách thức vận hành kỹ thuật của tính năng "Algo Refresh".
Vụ kiện tại bang New York hiện nằm trong làn sóng pháp lý quy mô lớn với sự tham gia của hơn 20 bang tại Mỹ, cùng nhắm vào cáo buộc TikTok xây dựng thuật toán gây nghiện để trục lợi. Trước đó vào tháng 9, mạng xã hội này đã chấp nhận chi trả khoản tiền 300 triệu USD để dàn xếp vụ kiện đầu tiên với bang Alabama, đồng thời cam kết điều chỉnh cơ chế hoạt động đối với nhóm tài khoản thanh thiếu niên.
