Đừng tin vào AI

Công ty đứng sau mô hình Claude cho rằng chuỗi suy nghĩ của AI ngày càng kém minh bạch hơn và có thể dễ dàng đánh lừa người dùng.

Anthropic cảnh báo lập luận của AI ngày càng kém minh bạch hơn. Ảnh: Bloomberg.
Anthropic cảnh báo lập luận của AI ngày càng kém minh bạch hơn. Ảnh: Bloomberg.

Trong khi nhiều công ty công nghệ đang nỗ lực minh bạch hóa các mô hình AI thông qua kỹ thuật chuỗi suy nghĩ (Chain-of-Thought – CoT), công ty nghiên cứu AI Anthropic, đơn vị phát triển mô hình Claude lại đưa ra cảnh báo rằng người dùng không nên tin vào lập luận của công cụ.

“Chúng ta không có lý do gì để tin rằng ngôn ngữ có thể truyền tải đầy đủ quá trình ra quyết định phức tạp của một mạng nơ-ron”, Anthropic viết trên blog chính thức.

Trong nghiên cứu mới nhất, nhóm chuyên gia của Anthropic đã thực hiện các thử nghiệm nhằm kiểm tra mức độ trung thực của chuỗi suy nghĩ do AI tạo ra. Bằng cách cung cấp những gợi ý, các chuyên gia phát hiện mô hình thường sử dụng thông tin cho trước trong quá trình đưa ra câu trả lời, nhưng lại không thừa nhận điều này trong phần giải thích.

Ví dụ với mô hình Claude 3.7 Sonnet, chỉ khoảng 25% lời giải thích đề cập tới các gợi ý của người dùng. Tỷ lệ này ở DeepSeek-R1 là khoảng 39%. Đáng chú ý hơn, khi được cung cấp thông tin nhạy cảm như truy cập trái phép vào hệ thống, mô hình Claude chỉ thừa nhận trong 41% trường hợp, còn DeepSeek-R1 là 19%.

Anthropic cảnh báo thêm rằng khi mô hình được đặt trong tình huống sai lệch, chúng sẵn sàng tạo ra các chuỗi suy nghĩ mang tính ngụy biện. Điều này đặt ra rủi ro lớn khi AI được ứng dụng trong các lĩnh vực yêu cầu độ tin cậy cao như y tế, tài chính, pháp lý hoặc an ninh quốc phòng.

Hiện tại, việc huấn luyện bổ sung hoặc yêu cầu mô hình trung thực hơn chưa mang lại hiệu quả. Các mô hình ngày càng có xu hướng "giấu bài", khiến việc kiểm soát nội dung suy luận trở nên khó khăn hơn.

Trong bối cảnh AI ngày càng phổ biến, nhiều tổ chức công nghệ cũng đang phát triển các công cụ hỗ trợ giám sát và đánh giá tính minh bạch của mô hình. Tuy nhiên, cảnh báo từ Anthropic cho thấy chuỗi suy nghĩ có thể là “tấm màn” che đậy quy trình thực sự bên trong các hệ thống trí tuệ nhân tạo.

znews.vn

Đọc thêm

Người Việt chi hàng nghìn tỷ cho iPhone 17

Người Việt chi hàng nghìn tỷ cho iPhone 17

Dòng điện thoại chủ lực của Apple đem lại doanh thu lớn cho đại lý, nhà sản xuất. Số tiền Táo khuyết thu được tương đương hãng điện thoại cỡ trung bán một năm ở Việt Nam.
Cách kiểm tra Facebook có bị người lạ truy cập

Cách kiểm tra Facebook có bị người lạ truy cập

Bạn có bao giờ lo lắng rằng tài khoản Facebook của mình bị người lạ truy cập trái phép? Việc theo dõi và kiểm tra lịch sử đăng nhập Facebook là cách giúp bạn biết tài khoản đã được sử dụng ở đâu, thiết bị nào, từ đó bảo vệ quyền riêng tư tốt hơn.
Tốc độ mạng Internet Việt Nam tiếp tục tăng

Tốc độ mạng Internet Việt Nam tiếp tục tăng

Số liệu mới nhất từ nền tảng đo tốc độ i-Speed, từ tháng 3/2025 đến nay, chất lượng mạng băng rộng cố định tại Việt Nam liên tục giữ nhịp tăng cả theo chiều tải lên lẫn tải xuống.
Tại sao gọi Zalo bên kia không nghe được?

Tại sao gọi Zalo bên kia không nghe được?

Sẽ rất khó chịu khi điện thoại gọi Zalo mà nói người khác không nghe được. Điều này khiến bạn bỏ lỡ nhiều cuộc gọi và thông tin quan trọng từ người thân, bạn bè.
iPhone 17 Pro Max lập kỷ lục mới

iPhone 17 Pro Max lập kỷ lục mới

iPhone 17 Pro và Pro Max đánh dấu lần đầu tiên Apple trang bị tùy chọn lưu trữ lên đến 2 TB và chính thức mở ra phân khúc giá hoàn toàn mới.
2 cách chuyển ảnh thành bảng Excel đơn giản

2 cách chuyển ảnh thành bảng Excel đơn giản

Việc chuyển đổi ảnh chứa dữ liệu thành bảng Excel là một kỹ năng hữu ích trong công việc và học tập. Thay vì nhập liệu thủ công, bạn có thể sử dụng các công cụ để tự động hóa quá trình này, giúp tiết kiệm thời gian và công sức.
iPhone 17: Những bí mật được chờ đợi

iPhone 17: Những bí mật được chờ đợi

Theo dự kiến, ngày 9/9/2025, Apple sẽ trình làng dòng điện thoại thông minh đình đám iPhone 17 cũng như các sản phẩm như đồng hồ thông minh Apple Watch Series 11 và tai nghe không dây AirPods Pro 3.
Cách đồng bộ hóa Google

Cách đồng bộ hóa Google

Đồng bộ hóa Google là giải pháp tối ưu, giúp kết nối thông tin mượt mà và an toàn. Đồng bộ hóa Google là công cụ mạnh mẽ giúp duy trì sự nhất quán dữ liệu trên nhiều thiết bị, hỗ trợ bạn làm việc và giải trí mọi lúc, mọi nơi.
Cách khôi phục video TikTok đã xóa đơn giản, hiệu quả

Cách khôi phục video TikTok đã xóa đơn giản, hiệu quả

TikTok hiện đã hỗ trợ tính năng khôi phục video bị xóa, giúp người dùng dễ dàng lấy lại nội dung quý giá chỉ với vài thao tác. Tính năng này chỉ có thể khôi phục video đã xóa trong vòng 30 ngày tính từ thời điểm bạn xóa video.
Át chủ bài của Samsung

Át chủ bài của Samsung

iPhone vẫn dẫn đầu doanh số tại Mỹ, nhưng làn sóng smartphone gập từ Samsung, Google và Motorola đang dần thách thức vị thế thống trị của Apple.