Meta dùng AI nhận diện tài khoản khai gian tuổi và cảnh báo phụ huynh về rủi ro tâm lý của trẻ

Meta vừa mở rộng loạt tính năng bảo vệ thanh thiếu niên tại Việt Nam trên Facebook, Instagram, Messenger và Threads. Hai giải pháp chính gồm cảnh báo sớm cho phụ huynh về rủi ro tâm lý và ứng dụng trí tuệ nhân tạo (AI) để nhận diện độ tuổi thực của người dùng.

Cảnh báo khẩn tới phụ huynh: hệ thống kích hoạt trong trường hợp nào?

Theo cập nhật mới cho tính năng giám sát, phụ huynh tại Việt Nam sẽ nhận thông báo trực tiếp khi hệ thống phát hiện con em có dấu hiệu gặp rủi ro tâm lý. Có hai trường hợp kích hoạt cảnh báo:

• Tìm kiếm lặp lại nhiều lần các từ khóa liên quan đến hành vi tự tử hoặc tự làm hại bản thân trên Facebook hoặc Instagram trong thời gian ngắn.
• Xuất hiện nội dung thảo luận về việc tự tử hoặc tự hại trong các cuộc trò chuyện với Meta AI trên Messenger, Instagram hoặc Facebook.

Khi nhận diện nguy cơ, Meta AI tự động cung cấp thông tin liên hệ của các đường dây nóng hỗ trợ khẩn cấp. Hệ thống cũng khuyến khích thanh thiếu niên trò chuyện với cha mẹ hoặc chuyên gia tâm lý. Song song đó, phụ huynh nhận được cảnh báo kèm tài liệu hướng dẫn cách tiếp cận từ chuyên gia.

Ưu tiên không bỏ sót: cái giá của cách tiếp cận thận trọng

Meta cho biết doanh nghiệp áp dụng nguyên tắc thận trọng. Hệ thống chấp nhận khả năng gửi cảnh báo ngay cả khi mức độ lo ngại chưa thực sự nghiêm trọng, nhằm đảm bảo không bỏ sót các trường hợp cần can thiệp. Điều này đồng nghĩa phụ huynh có thể nhận thông báo trong những tình huống chưa đến mức khẩn cấp.

Cơ chế phản hồi của AI được xây dựng dựa trên ý kiến đóng góp của hơn 75 chuyên gia sức khỏe tâm thần. Hãng cũng phối hợp với Hội đồng Chuyên gia về Sức khỏe AI và Nhóm Cố vấn về Tự tử và Tự hại. Mục tiêu là ghi nhận cảm xúc và điều hướng hỗ trợ thay vì ngắt cuộc hội thoại đột ngột.

AI rà soát độ tuổi: chặn lối tắt khai sai ngày sinh

Bên cạnh công cụ giám sát, Meta mở rộng công nghệ ước tính độ tuổi bằng AI trên Instagram, đồng thời tiếp tục áp dụng cho Facebook và Threads trên toàn cầu. Giải pháp này nhằm giải quyết tình trạng người dùng dưới 18 tuổi khai báo sai ngày sinh để vượt rào kiểm duyệt.

Khi phát hiện tài khoản có khả năng thuộc về người dùng từ 13 đến 17 tuổi, hệ thống tự động chuyển sang chế độ “Tài khoản Thanh thiếu niên” (Teen Accounts). Chế độ này áp dụng mặc định các rào chắn kỹ thuật:

• Giới hạn đối tượng có thể nhắn tin.
• Siết chặt bộ lọc nội dung mà tài khoản tiếp cận.
• Áp đặt định mức thời gian sử dụng ứng dụng.

Giới hạn của công nghệ và hướng tinh chỉnh

Theo Meta, việc ước tính bằng AI chỉ mang tính chất hỗ trợ nhận diện. Hãng cho biết sẽ tiếp tục tinh chỉnh thuật toán để phân loại chính xác hơn nhóm trẻ dưới 13 tuổi và nhóm từ 13 đến 17 tuổi. Mục tiêu là giúp môi trường trực tuyến an toàn hơn cho người dùng trẻ.

Nhìn chung, các biện pháp mới kết hợp hai lớp bảo vệ. Lớp thứ nhất là nhận diện đúng độ tuổi để áp dụng sẵn các giới hạn. Lớp thứ hai là phát hiện sớm dấu hiệu rủi ro tâm lý để phụ huynh kịp thời đồng hành cùng con.