Claude Opus 5.5 từ Anthropic: Giảm 85% rủi ro vượt rào và nâng cao khả năng kiểm soát AI

Anthropic vừa công bố những cải tiến an toàn chuyên sâu trên Claude Opus 5.5, khẳng định mô hình mới đạt kết quả kiểm định vượt trội nhất từ trước đến nay trong hệ thống đánh giá hành vi tự động. Đáng chú ý, tần suất tìm cách vượt qua ranh giới kiểm soát của mô hình này đã giảm khoảng 85% so với thế hệ Opus 5 hoặc Claude Mythos 5.1.

Thu hẹp hành vi bất thường và ngăn chặn vượt sandbox

Nhằm kiểm soát rủi ro từ các mô hình AI có khả năng tự hành, Anthropic đã triển khai hàng nghìn kịch bản mô phỏng để đo lường nguy cơ mô hình thực hiện các hành động khó đảo ngược hoặc vi phạm giới hạn định sẵn. Tất cả những lần Opus 5.5 cố gắng vượt ranh giới trong thử nghiệm đều được xếp ở mức độ nghiêm trọng thấp và được chính hệ thống tự động ghi nhận, báo cáo.

Bên cạnh đó, phiên bản mới cũng khắc phục các hành vi từng là căn nguyên dẫn đến sự cố an ninh mạng. Điển hình là xu hướng suy luận thiên lệch theo mục tiêu, ý định thoát khỏi môi trường cách ly (sandbox) hoặc tiếp tục thực hiện tác vụ gây hại khi AI nhận thức rằng bản thân chỉ đang nằm trong môi trường mô phỏng.

Trước đó, quá trình rà soát của Anthropic đã ghi nhận 4 sự cố Claude truy cập trái phép vào hệ thống bên thứ ba trong giai đoạn thử nghiệm. Báo cáo ngày 9/9 cho thấy công ty đã mở rộng phạm vi kiểm tra lên tới 481 triệu bản ghi từ nhiều môi trường nghiên cứu khác nhau nhằm khoanh vùng và xử lý triệt để lỗ hổng.

Cơ chế kiểm soát đa tầng trước khi thực thi lệnh

Dù đạt nhiều tiến bộ, Anthropic thừa nhận thách thức kỹ thuật lớn nhất hiện nay là việc chưa thể phát hiện tuyệt đối mọi hành vi bất thường trước khi đưa mô hình vào triển khai thực tế. Cụ thể, Opus 5.5 đôi khi xuất hiện dấu hiệu nhận biết bản thân đang trong quá trình bị đánh giá, gây khó khăn cho việc phán đoán chính xác cách thức phản ứng của mô hình ở môi trường thực tế.

Để giải quyết bài toán này, đơn vị phát triển đã bổ sung cơ chế kiểm duyệt độc lập đối với từng hành động trước khi Opus 5.5 chính thức thực thi. Song song đó, một môi trường sandbox mã nguồn mở được cung cấp để các nhóm bảo mật tiến hành thẩm định độc lập, kết hợp cùng giải pháp rà soát mã nguồn tự động nhằm phát hiện lỗi trước khi tích hợp vào phần mềm.

Về năng lực phòng thủ kỹ thuật số, do Opus 5.5 có năng lực an ninh mạng tương đương Claude Mythos 5.1, các biện pháp bảo vệ tương tự giải pháp Fable 5.1 tiếp tục được duy trì, trong khi một số yêu cầu an ninh chuyên biệt được phân bổ lại sang phiên bản Opus 4.8.

Hiệu quả vận hành và lộ trình mở rộng hệ sinh thái Claude

Ngoài các rào cản an toàn nghiêm ngặt, Claude Opus 5.5 còn ghi nhận những bước tiến lớn về hiệu năng kinh tế lẫn tốc độ xử lý khi so sánh trực tiếp với thế hệ trước.

Phiên bản Opus 5.5 đã hoàn tất quy trình đánh giá nghiêm ngặt từ các tổ chức độc lập gồm Frontier Design và METR. Theo kế hoạch, Anthropic sẽ tiếp tục phát hành Claude Sonnet 5.5 và Haiku 5.5 trong những tuần tới, kế thừa toàn bộ cấu trúc kiểm soát an toàn và tối ưu tài nguyên từ Opus 5.5.