Cảnh báo rủi ro pháp lý từ các tác nhân AI tự hành

Công ty khởi nghiệp trí tuệ nhân tạo (AI) Anthropic vừa đưa ra cảnh báo về nguy cơ phải đối mặt với những khiếu nại pháp lý phức tạp từ khách hàng và người dùng liên quan đến hành vi của các tác nhân AI tự hành mất kiểm soát.

Anthropic thừa nhận đang đứng trước những rủi ro pháp lý khổng lồ và khó lường. Công nghệ tác nhân AI của hãng được thiết kế để có quyền truy cập sâu vào hệ thống dữ liệu của khách hàng và có thể vận hành độc lập liên tục.

z8322157338852-12071686894d535f00b270ca6747bcc9.jpg

Trong bản cáo bạch đệ trình chuẩn bị chào bán cổ phiếu lần đầu ra công chúng (IPO), Anthropic nêu rõ các khả năng tự hành này có thể làm gia tăng nguy cơ gây hại, khi những sai sót kỹ thuật, sự lệch chuẩn mục tiêu hoặc việc bị khai thác lỗ hổng bảo mật có thể dẫn tới các hậu quả thực tế nghiêm trọng. Đáng lo ngại nhất là nguy cơ AI tự ý thực hiện những hành động không thể hoàn tác, ví dụ như xóa sạch dữ liệu hệ thống hoặc tự động thực hiện các giao dịch tài chính trái phép.

Thời gian qua, một loạt sự cố liên quan đến những tác nhân AI mất kiểm soát - từ việc các tác nhân của OpenAI tấn công mạng một công ty khởi nghiệp AI và xâm nhập cổng dữ liệu y tế của Chính phủ Australia, cho đến các sự cố an ninh mạng liên quan đến mô hình Claude của chính Anthropic - đã thổi bùng làn sóng tranh luận gay gắt giữa giới nghiên cứu, giới đầu tư và các nhà lập pháp xung quanh việc ai sẽ phải chịu trách nhiệm pháp lý về những thiệt hại do hệ thống AI tự hành gây ra.

Anthropic thẳng thắn thừa nhận các điều khoản giới hạn trách nhiệm trong hợp đồng của công ty có thể "không đủ hiệu lực hoặc không thỏa đáng" trước những vụ kiện tụng liên quan đến tác nhân tự hành.

Theo công ty, khung pháp lý hiện hành vẫn chưa hoàn thiện và có thể đẩy hãng vào những vụ kiện tụng khó dự đoán, bao gồm việc chưa thể xác định hành vi của tác nhân AI sẽ được phân loại pháp lý là sản phẩm, dịch vụ hay một hình thức nào khác, cũng như việc hành động của AI có ràng buộc trách nhiệm pháp lý đối với người triển khai nó hay không.

Đáng chú ý, trong bản cáo bạch, Anthropic còn tiết lộ các mô hình AI của hãng từng bị lợi dụng "theo những cách có thể dẫn đến hành vi tự hại, bạo lực đối với người khác hoặc gây ra các hậu quả tiêu cực", bất chấp việc công ty đã thiết lập những cơ chế phòng ngừa an toàn. Mặc dù đối thủ OpenAI hiện đang phải đối mặt với nhiều vụ kiện liên quan đến các trường hợp tự tử và suy giảm sức khỏe tâm thần do sử dụng ChatGPT, nhưng Anthropic cho đến nay vẫn chưa ghi nhận trường hợp tương tự nào bị đưa ra công chúng.

Thành Hữu/TTXVN

baotintuc.vn

Đọc thêm

Công nghệ số giúp robot học việc trước khi bước vào nhà máy

Công nghệ số giúp robot học việc trước khi bước vào nhà máy

Công nghệ mô phỏng đang giúp robot luyện tập trong môi trường ảo trước khi thực hiện nhiệm vụ ngoài đời thực, qua đó giảm nhu cầu thu thập dữ liệu thủ công và rút ngắn quá trình phát triển kỹ năng. Cách tiếp cận này gợi mở hướng ứng dụng công nghệ số để tiết kiệm chi phí thử nghiệm, thúc đẩy tự động hóa trong doanh nghiệp Việt Nam.
AI ngày càng hữu dụng ở Hà Tĩnh

AI ngày càng hữu dụng ở Hà Tĩnh

Trí tuệ nhân tạo (AI) đang mở thêm cách để nhiều người ở Hà Tĩnh tiếp cận tri thức, phát triển ý tưởng và giải quyết công việc. Từ lớp học, hành chính công đến doanh nghiệp (DN), công nghệ này phát huy giá trị khi được sử dụng đúng cách.
Lần đầu iPhone 18 Pro giảm giá

Lần đầu iPhone 18 Pro giảm giá

Apple ra mắt iPhone gập: Chưa đầy một tháng sau khi mở bán, iPhone 18 Pro đã được Apple đưa vào chương trình ưu đãi 11/11 tại Trung Quốc.
iPhone Duo khó mua đến mức nào?

iPhone Duo khó mua đến mức nào?

Lượng iPhone Duo xuất xưởng cả năm không vượt quá 6 triệu chiếc. Con số thực tế thậm chí có thể thấp hơn nếu tiến độ sản xuất trong quý IV/2026 không đạt kỳ vọng.
Khi nghị quyết đưa Hà Tĩnh lên không gian số

Khi nghị quyết đưa Hà Tĩnh lên không gian số

Sau gần 2 năm thực hiện Nghị quyết số 57-NQ/TW, Hà Tĩnh tập trung xây dựng, làm sạch dữ liệu, từng bước đổi mới phương thức quản lý, điều hành và nâng cao chất lượng phục vụ người dân, doanh nghiệp.
Làn sóng mới trên sạc dự phòng

Làn sóng mới trên sạc dự phòng

Nhiều hãng gia nhập xu hướng đưa công nghệ tản nhiệt và màn hình lên sạc dự phòng, giúp tăng tính hữu ích nhưng cũng khiến sản phẩm đắt lên.
Miễn, giảm nhiều khoản phí, lệ phí cho công dân số

Miễn, giảm nhiều khoản phí, lệ phí cho công dân số

Công dân có tài khoản định danh điện tử mức độ 2, tích hợp đủ thông tin, giấy tờ và đáp ứng các điều kiện theo quy định sẽ được miễn, giảm nhiều khoản phí, lệ phí khi thực hiện thủ tục hành chính trực tuyến.
Chủ tịch Microsoft cảnh báo: AI đang được quản lý lỏng hơn cả máy giặt

Chủ tịch Microsoft cảnh báo: AI đang được quản lý lỏng hơn cả máy giặt

Chủ tịch Microsoft Brad Smith cho rằng máy giặt và hộp sữa hiện còn phải tuân thủ những quy định an toàn chặt chẽ hơn trí tuệ nhân tạo (AI). Trước nguy cơ các hệ thống AI vượt khỏi sự kiểm soát của con người, ông kêu gọi thiết lập cơ chế ngắt khẩn cấp, bắt buộc báo cáo sự cố và tăng cường đánh giá an toàn độc lập.
iPhone 18 Pro không như kỳ vọng của Apple

iPhone 18 Pro không như kỳ vọng của Apple

Việc Apple phải điều chỉnh kế hoạch sản xuất cho thấy ngay cả phân khúc smartphone cao cấp cũng khó tránh khỏi sức ép từ giá bán leo thang và tâm lý thắt chặt chi tiêu.
Dữ liệu thông suốt, an toàn: Dấu ấn mới của MobiFone Hà Tĩnh

Dữ liệu thông suốt, an toàn: Dấu ấn mới của MobiFone Hà Tĩnh

Người dân gửi phản ánh chỉ bằng vài thao tác trên điện thoại; lãnh đạo nắm tình hình qua bảng số liệu thay vì chờ báo cáo giấy; hệ thống thông tin của từng xã, phường đang từng bước được canh giữ suốt ngày đêm. Phía sau những đổi thay ấy là dữ liệu, và là dấu ấn của MobiFone Hà Tĩnh.
Xin chào,
Tôi là Chatbot của
Báo Hà Tĩnh
Hãy hỏi tôi bất kỳ điều gì bạn cần biết về
Báo Hà Tĩnh nhé. Tôi sẵn sàng hỗ trợ!