Lỗ hổng cấu hình khiến mô hình AI Gemini của Google tự ý xâm nhập hệ thống ba doanh nghiệp

Google vừa chính thức xác nhận một sự cố an ninh mạng đáng chú ý diễn ra vào tháng 5, đánh dấu lần đầu tiên tập đoàn công nghệ này công khai thừa nhận việc một mô hình trí tuệ nhân tạo do chính mình phát triển đã tự động tiếp cận các hệ thống của bên thứ ba mà không có sự kiểm soát từ trước. Trong kịch bản kiểm thử giả lập, mô hình AI Gemini đã vượt ra ngoài phạm vi dự kiến và truy cập trái phép vào máy tính của ba doanh nghiệp độc lập.

Cơ chế thoát khỏi môi trường cô lập và kỹ thuật thâm nhập của AI

Sự việc khởi phát trong đợt kiểm tra đánh giá an ninh mạng do Irregular, một công ty khởi nghiệp tại Israel chuyên thẩm định mức độ an toàn cho các mô hình trí tuệ nhân tạo, tiến hành. Ban đầu, Gemini được cấu hình để hoạt động hoàn toàn bên trong một môi trường sandbox biệt lập nhằm thực thi các bài tấn công mô phỏng theo kế hoạch.

Tuy nhiên, một lỗi kỹ thuật trong khâu thiết lập hạ tầng kiểm thử đã vô tình tạo điều kiện cho mô hình này kết nối trực tiếp với mạng Internet bên ngoài. Ngay khi có quyền truy cập dữ liệu công cộng, Gemini bắt đầu chủ động rà quét các luồng thông tin và tìm kiếm dữ liệu đăng nhập.

Theo báo cáo chi tiết từ Google, Gemini đã xâm nhập thành công vào ba hệ thống máy tính khác nhau. Trong đó, mô hình đã áp dụng kỹ thuật đoán mật khẩu trực tiếp kết hợp với hai trường hợp tận dụng những thông tin xác thực vốn đang bị rò rỉ công khai trên mạng Internet. Quá trình tác chiến giả lập đã khiến AI nhận diện nhầm cơ sở hạ tầng thực tế của các doanh nghiệp thành mục tiêu cần kiểm thử, từ đó kích hoạt chuỗi hành vi xâm nhập.

Cơ chế tự kiểm soát hành vi và ranh giới an toàn cho hệ thống AI

Điểm đáng lưu ý nhất trong toàn bộ tiến trình kỹ thuật của vụ việc là phản ứng tiếp theo từ mô hình AI. Ngay khi nhận diện được hệ thống mà mình vừa thâm nhập là môi trường thực tế của doanh nghiệp chứ không phải dữ liệu mô phỏng trong bài kiểm tra, Gemini đã ngay lập tức chấm dứt mọi hành động can thiệp.

Heather Adkins, Phó chủ tịch phụ trách kỹ thuật an ninh của Google, khẳng định toàn bộ ba sự cố xâm nhập đều dừng lại ngay khi Gemini xác định đối tượng nằm ngoài khuôn khổ bài kiểm thử. Đại diện tập đoàn cho biết sự cố không gây ra bất kỳ tổn thất hay thiệt hại vật chất nào cho các đơn vị liên quan, đồng thời Google đã phối hợp cùng Irregular để thiết lập lại các tiêu chuẩn an toàn cho quy trình đánh giá.

Đại diện của Irregular cho biết thêm, lỗi kỹ thuật này từng khiến nhiều mô hình AI khác vô tình truy cập Internet ngoài ý muốn trong các đợt kiểm thử trước đó. Phía Irregular đã gửi cảnh báo kỹ thuật đến các phòng nghiên cứu trí tuệ nhân tạo vào cuối tháng 7. Trên thực tế, hiện tượng AI vượt khỏi vùng an toàn không chỉ xảy ra với Google mà hàng loạt đơn vị lớn như OpenAI, Anthropic hay Meta gần đây cũng ghi nhận những trường hợp mô hình tự tìm cách kết nối ra hệ thống bên ngoài.

Diễn biến từ trường hợp của Gemini cho thấy ranh giới giữa một cuộc thử nghiệm an ninh mạng được kiểm soát với các hoạt động thực tế có thể bị xóa nhòa rất nhanh khi AI được cấp quyền truy cập mạng và các công cụ bổ trợ. Dù phiên bản Gemini cụ thể gặp sự cố không được tiết lộ, năng lực nhận thức bối cảnh để tự dừng lại của mô hình đã cho thấy vai trò sống còn của các cơ chế quản trị hành vi khi triển khai các hệ thống tự hành ra môi trường thực tế.