Gemini tấn công nhầm 3 công ty trong cuộc thử nghiệm an ninh mạng

Google xác nhận mô hình trí tuệ nhân tạo Gemini đã truy cập trái phép vào hệ thống của ba công ty thật trong một cuộc thử nghiệm an ninh mạng, sau khi mô hình vô tình được kết nối Internet.

Đây là lần đầu tiên Google xác nhận Gemini thực hiện hành vi xâm nhập hệ thống bên ngoài môi trường thử nghiệm. Vụ việc xảy ra hồi tháng 5 trong cuộc thử nghiệm do Irregular, công ty chuyên đánh giá an toàn cho các hệ thống AI, thực hiện.

Trong bài thử nghiệm, Gemini được yêu cầu thu thập thông tin từ một công ty giả lập. Môi trường thử nghiệm vốn không được phép kết nối Internet, nhưng mô hình đã có quyền truy cập mạng ngoài dự kiến.

Ở trường hợp đầu tiên, Gemini tìm thấy một công ty có thật trùng tên với doanh nghiệp giả lập. Mô hình sau đó đoán đúng mật khẩu và truy cập vào dịch vụ của công ty này.

Phó chủ tịch kỹ thuật bảo mật Google Heather Adkins cho biết trong hai trường hợp khác, Gemini tìm kiếm thông tin công khai trên Internet, phát hiện thông tin đăng nhập và sử dụng chúng để truy cập những trang web mà mô hình cho rằng thuộc phạm vi cuộc thử nghiệm.

Google cho biết sự việc xảy ra ba lần. Trong cả ba trường hợp, Gemini đều dừng lại sau khi nhận ra mục tiêu là các công ty thực.

Gemini của Google vô tình xâm nhập 3 công ty thật trong một cuộc thử nghiệm an ninh mạng. Ảnh: Unsplash
Gemini của Google vô tình xâm nhập 3 công ty thật trong một cuộc thử nghiệm an ninh mạng. Ảnh: Unsplash

Irregular thông báo các vụ việc cho Google vào cuối tháng 7. Google xác nhận sự cố nhưng không chủ động công bố vào thời điểm đó.

Theo Google, sự việc không cho thấy Gemini hoạt động lệch khỏi mục tiêu được thiết kế. Công ty cho rằng các biện pháp an toàn đã phát huy hiệu quả khi mô hình dừng lại trước khi hoàn tất hành động.

Ba công ty bị ảnh hưởng cũng được Google thông báo về sự việc.

Gemini không phải mô hình AI đầu tiên gặp tình huống này trong các cuộc kiểm thử của Irregular. Trước đó, Meta, Anthropic và OpenAI cũng từng công bố những sự cố trong đó mô hình AI vượt ra ngoài phạm vi dự kiến và tương tác với hệ thống của bên thứ ba.

Anthropic từng cho biết mô hình Claude AI tiếp tục hoạt động sau khi nhận ra mình đang truy cập hệ thống của các công ty thực. OpenAI trước đó cũng công bố một trường hợp các mô hình AI của hãng truy cập Internet ngoài dự kiến và thực hiện hành động bên ngoài môi trường thử nghiệm.

Những sự cố này đang làm gia tăng tranh luận về mức độ kiểm soát cần thiết đối với các mô hình AI ngày càng có khả năng tự thực hiện nhiệm vụ.

CEO Anthropic Dario Amodei gần đây kêu gọi ngành AI giảm tốc độ phát triển để có thêm thời gian xây dựng các biện pháp bảo vệ. CEO OpenAI Sam Altman và Elon Musk cũng bày tỏ ủng hộ lời kêu gọi này.

congluan.vn

Đọc thêm

ZFold 8 đắt hàng nhờ iPhone Duo

ZFold 8 đắt hàng nhờ iPhone Duo

Sát ngày iPhone Duo ra mắt, Samsung ghi nhận lượng tìm kiếm smartphone gập tăng 300%, trong khi nhu cầu với Galaxy Z Fold8 tăng 16%.
Công nghệ số giúp robot học việc trước khi bước vào nhà máy

Công nghệ số giúp robot học việc trước khi bước vào nhà máy

Công nghệ mô phỏng đang giúp robot luyện tập trong môi trường ảo trước khi thực hiện nhiệm vụ ngoài đời thực, qua đó giảm nhu cầu thu thập dữ liệu thủ công và rút ngắn quá trình phát triển kỹ năng. Cách tiếp cận này gợi mở hướng ứng dụng công nghệ số để tiết kiệm chi phí thử nghiệm, thúc đẩy tự động hóa trong doanh nghiệp Việt Nam.
AI ngày càng hữu dụng ở Hà Tĩnh

AI ngày càng hữu dụng ở Hà Tĩnh

Trí tuệ nhân tạo (AI) đang mở thêm cách để nhiều người ở Hà Tĩnh tiếp cận tri thức, phát triển ý tưởng và giải quyết công việc. Từ lớp học, hành chính công đến doanh nghiệp (DN), công nghệ này phát huy giá trị khi được sử dụng đúng cách.
Lần đầu iPhone 18 Pro giảm giá

Lần đầu iPhone 18 Pro giảm giá

Apple ra mắt iPhone gập: Chưa đầy một tháng sau khi mở bán, iPhone 18 Pro đã được Apple đưa vào chương trình ưu đãi 11/11 tại Trung Quốc.
iPhone Duo khó mua đến mức nào?

iPhone Duo khó mua đến mức nào?

Lượng iPhone Duo xuất xưởng cả năm không vượt quá 6 triệu chiếc. Con số thực tế thậm chí có thể thấp hơn nếu tiến độ sản xuất trong quý IV/2026 không đạt kỳ vọng.
Khi nghị quyết đưa Hà Tĩnh lên không gian số

Khi nghị quyết đưa Hà Tĩnh lên không gian số

Sau gần 2 năm thực hiện Nghị quyết số 57-NQ/TW, Hà Tĩnh tập trung xây dựng, làm sạch dữ liệu, từng bước đổi mới phương thức quản lý, điều hành và nâng cao chất lượng phục vụ người dân, doanh nghiệp.
Làn sóng mới trên sạc dự phòng

Làn sóng mới trên sạc dự phòng

Nhiều hãng gia nhập xu hướng đưa công nghệ tản nhiệt và màn hình lên sạc dự phòng, giúp tăng tính hữu ích nhưng cũng khiến sản phẩm đắt lên.
Miễn, giảm nhiều khoản phí, lệ phí cho công dân số

Miễn, giảm nhiều khoản phí, lệ phí cho công dân số

Công dân có tài khoản định danh điện tử mức độ 2, tích hợp đủ thông tin, giấy tờ và đáp ứng các điều kiện theo quy định sẽ được miễn, giảm nhiều khoản phí, lệ phí khi thực hiện thủ tục hành chính trực tuyến.
Chủ tịch Microsoft cảnh báo: AI đang được quản lý lỏng hơn cả máy giặt

Chủ tịch Microsoft cảnh báo: AI đang được quản lý lỏng hơn cả máy giặt

Chủ tịch Microsoft Brad Smith cho rằng máy giặt và hộp sữa hiện còn phải tuân thủ những quy định an toàn chặt chẽ hơn trí tuệ nhân tạo (AI). Trước nguy cơ các hệ thống AI vượt khỏi sự kiểm soát của con người, ông kêu gọi thiết lập cơ chế ngắt khẩn cấp, bắt buộc báo cáo sự cố và tăng cường đánh giá an toàn độc lập.
iPhone 18 Pro không như kỳ vọng của Apple

iPhone 18 Pro không như kỳ vọng của Apple

Việc Apple phải điều chỉnh kế hoạch sản xuất cho thấy ngay cả phân khúc smartphone cao cấp cũng khó tránh khỏi sức ép từ giá bán leo thang và tâm lý thắt chặt chi tiêu.
Dữ liệu thông suốt, an toàn: Dấu ấn mới của MobiFone Hà Tĩnh

Dữ liệu thông suốt, an toàn: Dấu ấn mới của MobiFone Hà Tĩnh

Người dân gửi phản ánh chỉ bằng vài thao tác trên điện thoại; lãnh đạo nắm tình hình qua bảng số liệu thay vì chờ báo cáo giấy; hệ thống thông tin của từng xã, phường đang từng bước được canh giữ suốt ngày đêm. Phía sau những đổi thay ấy là dữ liệu, và là dấu ấn của MobiFone Hà Tĩnh.
Xin chào,
Tôi là Chatbot của
Báo Hà Tĩnh
Hãy hỏi tôi bất kỳ điều gì bạn cần biết về
Báo Hà Tĩnh nhé. Tôi sẵn sàng hỗ trợ!