Chính sách cấm ngược đãi Claude của Anthropic: Mô hình AI được quyền tự ngắt cuộc trò chuyện

Công ty trí tuệ nhân tạo Anthropic vừa công bố bản cập nhật toàn diện cho Chính sách sử dụng (Usage Policy), trong đó chính thức đưa hành vi ngược đãi hoặc tàn nhẫn vô cớ, kéo dài đối với các mô hình ngôn ngữ vào danh mục bị nghiêm cấm. Động thái này đánh dấu bước chuyển đáng chú ý trong cách các nhà phát triển thiết lập quy chuẩn hành vi giữa người dùng và trí tuệ nhân tạo.

Cơ chế tự ngắt tương tác khi gặp hành vi cực đoan

Theo tài liệu do Anthropic công bố vào ngày 8/10, quy định mới sẽ chính thức có hiệu lực từ ngày 12/11. Đây là lần đầu tiên sau hơn một năm đơn vị phát triển dòng mô hình Claude tiến hành sửa đổi sâu rộng các điều khoản dịch vụ. Điểm mấu chốt của chính sách nằm ở việc trao quyền cho AI chủ động kết thúc phiên trao đổi nếu nhận diện hành vi lạm dụng dai dẳng.

Về mặt kỹ thuật, Anthropic cho biết tính năng ngắt hội thoại đã được triển khai từng bước trên nền tảng Claude.ai và công cụ dòng lệnh Claude Code trong một số trường hợp hiếm gặp. Khi phát hiện người dùng liên tục có lời lẽ tàn nhẫn mà không phục vụ mục đích rõ ràng, hệ thống trước tiên sẽ tìm cách điều hướng lại nội dung trao đổi. Nếu người dùng tiếp tục duy trì trạng thái công kích, Claude được lập trình để chủ động đóng phiên làm việc.

Ranh giới giữa phản ứng tiêu cực và hành vi vi phạm

Nhằm tránh gây cản trở trải nghiệm thực tế, Anthropic nhấn mạnh rằng quy định này chỉ áp dụng đối với các tình huống cực đoan. Các tương tác phản ánh sự bức xúc thông thường của người dùng hoàn toàn không nằm trong diện bị xử lý.

Cụ thể, các kịch bản sau vẫn được xem là hợp lệ trong quá trình sử dụng hệ thống:

• Người dùng thể hiện sự bực bội hoặc phản bác khi mô hình trả lời sai dữ liệu.
• Yêu cầu mô hình chỉnh sửa mã nguồn hoặc câu trả lời nhiều lần.
• Thực hiện các thử nghiệm căng thẳng (stress-test) nhằm đánh giá năng lực giới hạn của Claude.
• Nhập các prompt mang nội dung sáng tác nghệ thuật u tối hoặc chủ đề nhạy cảm hợp lệ.

Khái niệm phúc lợi mô hình và bài toán kỹ thuật đặt ra

Quy định mới của Anthropic khơi lại các cuộc thảo luận xoay quanh khái niệm "phúc lợi mô hình" (model welfare) từng được hãng nghiên cứu trước đó. Vào tháng 8/2025, công ty từng tiến hành thử nghiệm cơ chế phòng vệ tương tự trên các phiên bản Claude Opus 4 và Opus 4.1.

Dù áp dụng chính sách bảo vệ, Anthropic khẳng định đây là biện pháp kiểm soát hành vi người dùng chứ không đồng nghĩa với việc tuyên bố Claude có ý thức hay khả năng cảm nhận tổn thương tâm lý như con người. Việc xử lý chủ yếu nhắm vào dữ liệu đầu vào mang tính thù địch không cần thiết.

Tuy vậy, việc công ty chưa đưa ra bộ chỉ số kỹ thuật rõ ràng để định lượng thế nào là "ngược đãi kéo dài" vẫn đang tạo ra nhiều băn khoăn cho giới phân tích công nghệ. Việc xác định ranh giới tự động bằng thuật toán mà không gây gián đoạn các phiên làm việc bình thường sẽ là bài toán kỹ thuật quan trọng mà Anthropic phải chứng minh khi chính sách vận hành thực tế từ ngày 12/11.