Cảnh báo rủi ro pháp lý từ các tác nhân AI tự hành

Công ty khởi nghiệp trí tuệ nhân tạo (AI) Anthropic vừa đưa ra cảnh báo về nguy cơ phải đối mặt với những khiếu nại pháp lý phức tạp từ khách hàng và người dùng liên quan đến hành vi của các tác nhân AI tự hành mất kiểm soát.

Anthropic thừa nhận đang đứng trước những rủi ro pháp lý khổng lồ và khó lường. Công nghệ tác nhân AI của hãng được thiết kế để có quyền truy cập sâu vào hệ thống dữ liệu của khách hàng và có thể vận hành độc lập liên tục.

z8322157338852-12071686894d535f00b270ca6747bcc9.jpg

Trong bản cáo bạch đệ trình chuẩn bị chào bán cổ phiếu lần đầu ra công chúng (IPO), Anthropic nêu rõ các khả năng tự hành này có thể làm gia tăng nguy cơ gây hại, khi những sai sót kỹ thuật, sự lệch chuẩn mục tiêu hoặc việc bị khai thác lỗ hổng bảo mật có thể dẫn tới các hậu quả thực tế nghiêm trọng. Đáng lo ngại nhất là nguy cơ AI tự ý thực hiện những hành động không thể hoàn tác, ví dụ như xóa sạch dữ liệu hệ thống hoặc tự động thực hiện các giao dịch tài chính trái phép.

Thời gian qua, một loạt sự cố liên quan đến những tác nhân AI mất kiểm soát - từ việc các tác nhân của OpenAI tấn công mạng một công ty khởi nghiệp AI và xâm nhập cổng dữ liệu y tế của Chính phủ Australia, cho đến các sự cố an ninh mạng liên quan đến mô hình Claude của chính Anthropic - đã thổi bùng làn sóng tranh luận gay gắt giữa giới nghiên cứu, giới đầu tư và các nhà lập pháp xung quanh việc ai sẽ phải chịu trách nhiệm pháp lý về những thiệt hại do hệ thống AI tự hành gây ra.

Anthropic thẳng thắn thừa nhận các điều khoản giới hạn trách nhiệm trong hợp đồng của công ty có thể "không đủ hiệu lực hoặc không thỏa đáng" trước những vụ kiện tụng liên quan đến tác nhân tự hành.

Theo công ty, khung pháp lý hiện hành vẫn chưa hoàn thiện và có thể đẩy hãng vào những vụ kiện tụng khó dự đoán, bao gồm việc chưa thể xác định hành vi của tác nhân AI sẽ được phân loại pháp lý là sản phẩm, dịch vụ hay một hình thức nào khác, cũng như việc hành động của AI có ràng buộc trách nhiệm pháp lý đối với người triển khai nó hay không.

Đáng chú ý, trong bản cáo bạch, Anthropic còn tiết lộ các mô hình AI của hãng từng bị lợi dụng "theo những cách có thể dẫn đến hành vi tự hại, bạo lực đối với người khác hoặc gây ra các hậu quả tiêu cực", bất chấp việc công ty đã thiết lập những cơ chế phòng ngừa an toàn. Mặc dù đối thủ OpenAI hiện đang phải đối mặt với nhiều vụ kiện liên quan đến các trường hợp tự tử và suy giảm sức khỏe tâm thần do sử dụng ChatGPT, nhưng Anthropic cho đến nay vẫn chưa ghi nhận trường hợp tương tự nào bị đưa ra công chúng.

Thành Hữu/TTXVN

baotintuc.vn

Đọc thêm

Sự khác biệt giữa các thế hệ máy khi nâng cấp iOS 27

Sự khác biệt giữa các thế hệ máy khi nâng cấp iOS 27

iOS 27 hỗ trợ từ iPhone 11 và iPhone SE thế hệ thứ 2 trở lên. Tuy nhiên, cài đặt được iOS 27 không đồng nghĩa mọi thiết bị đều sử dụng đầy đủ Apple Intelligence, bởi nhóm tính năng này có yêu cầu phần cứng riêng.
AI Muse vượt ChatGPT trong 12 ngày đầu ra mắt

AI Muse vượt ChatGPT trong 12 ngày đầu ra mắt

Ứng dụng trí tuệ nhân tạo (AI) Muse của Meta đang cho thấy tốc độ tăng trưởng nhanh, vượt ChatGPT về số lượt tải xuống và người dùng hoạt động trong những ngày đầu ra mắt.
Hà Tĩnh tăng tốc làm sạch dữ liệu, tạo nền tảng thúc đẩy chuyển đổi số

Hà Tĩnh tăng tốc làm sạch dữ liệu, tạo nền tảng thúc đẩy chuyển đổi số

Với cách làm quyết đoán, bài bản và nỗ lực chạy đua với thời gian, các chiến dịch làm sạch dữ liệu tại Hà Tĩnh đã đạt kết quả khả quan, đảm bảo nguyên tắc "đúng - đủ - sạch - sống - thống nhất - dùng chung"; phục vụ công tác quản lý nhà nước, mang lại giá trị cho người dân, doanh nghiệp.
7 nâng cấp lớn trên iOS 27

7 nâng cấp lớn trên iOS 27

iOS 27 vừa phát hành tuần qua giúp nhiều iPhone cũ chạy nhanh hơn, bổ sung tính năng chỉnh sửa ảnh với Apple Intelligence, hỗ trợ Siri AI.
FBI ứng dụng AI để ngăn các vụ xả súng trường học

FBI ứng dụng AI để ngăn các vụ xả súng trường học

Giám đốc Cục Điều tra Liên bang Mỹ (FBI) Kash Patel cho biết cơ quan này đã sử dụng trí tuệ nhân tạo (AI) để ngăn chặn khoảng 6 vụ xả súng tại trường học, đồng thời tăng cường sử dụng công nghệ này thêm 605% kể từ khi ông nhậm chức.
Apple đặt cược vào độ bền của iPhone Duo

Apple đặt cược vào độ bền của iPhone Duo

Lãnh đạo Apple khẳng định nếp gập trên iPhone Duo được thiết kế để không trở nên rõ hơn theo thời gian, đồng thời sẵn sàng để người dùng kiểm chứng tuyên bố này trong thực tế.
Cách nhận trợ cấp BHXH qua VNeID từ 28/9

Cách nhận trợ cấp BHXH qua VNeID từ 28/9

Từ ngày 28/9, phương thức chi trả trợ cấp BHXH sẽ có thêm thay đổi liên quan đến VNeID, cho thấy ứng dụng này đang được tích hợp sâu hơn vào hệ sinh thái dịch vụ an sinh số.
Dòng smartphone bán chạy nhất thế giới

Dòng smartphone bán chạy nhất thế giới

Dòng tầm trung Galaxy A vượt qua iPhone 17 và Galaxy S26 series để dẫn đầu danh sách các dòng điện thoại bán chạy nhất quý II/2026, theo Smart Analytics Global.
Thử nghiệm thành công UAV vận tải hạng nặng mang tải 100kg

Thử nghiệm thành công UAV vận tải hạng nặng mang tải 100kg

Sau nhiều năm nghiên cứu và làm chủ công nghệ, CT UAV, thành viên CT Group Hi-Tech vừa công bố thiết kế và bay thử nghiệm thành công UAV vận tải hạng nặng CT Pegas 230, có khối lượng cất cánh tối đa 230kg và khả năng mang tải tới 100kg.
Lời giải cho mô hình chính quyền số cơ sở tại Hải Phòng

Lời giải cho mô hình chính quyền số cơ sở tại Hải Phòng

Trong khi nhiều địa phương trên cả nước đang tìm cách thu hút người dân theo dõi và tương tác với các kênh truyền thông của chính quyền, thì kênh truyền thông số của UBND phường Ngô Quyền (thành phố Hải Phòng) đã ghi nhận những tín hiệu khả quan.
Xin chào,
Tôi là Chatbot của
Báo Hà Tĩnh
Hãy hỏi tôi bất kỳ điều gì bạn cần biết về
Báo Hà Tĩnh nhé. Tôi sẵn sàng hỗ trợ!