Gemini tấn công nhầm 3 công ty trong cuộc thử nghiệm an ninh mạng

Google xác nhận mô hình trí tuệ nhân tạo Gemini đã truy cập trái phép vào hệ thống của ba công ty thật trong một cuộc thử nghiệm an ninh mạng, sau khi mô hình vô tình được kết nối Internet.

Đây là lần đầu tiên Google xác nhận Gemini thực hiện hành vi xâm nhập hệ thống bên ngoài môi trường thử nghiệm. Vụ việc xảy ra hồi tháng 5 trong cuộc thử nghiệm do Irregular, công ty chuyên đánh giá an toàn cho các hệ thống AI, thực hiện.

Trong bài thử nghiệm, Gemini được yêu cầu thu thập thông tin từ một công ty giả lập. Môi trường thử nghiệm vốn không được phép kết nối Internet, nhưng mô hình đã có quyền truy cập mạng ngoài dự kiến.

Ở trường hợp đầu tiên, Gemini tìm thấy một công ty có thật trùng tên với doanh nghiệp giả lập. Mô hình sau đó đoán đúng mật khẩu và truy cập vào dịch vụ của công ty này.

Phó chủ tịch kỹ thuật bảo mật Google Heather Adkins cho biết trong hai trường hợp khác, Gemini tìm kiếm thông tin công khai trên Internet, phát hiện thông tin đăng nhập và sử dụng chúng để truy cập những trang web mà mô hình cho rằng thuộc phạm vi cuộc thử nghiệm.

Google cho biết sự việc xảy ra ba lần. Trong cả ba trường hợp, Gemini đều dừng lại sau khi nhận ra mục tiêu là các công ty thực.

Gemini của Google vô tình xâm nhập 3 công ty thật trong một cuộc thử nghiệm an ninh mạng. Ảnh: Unsplash
Gemini của Google vô tình xâm nhập 3 công ty thật trong một cuộc thử nghiệm an ninh mạng. Ảnh: Unsplash

Irregular thông báo các vụ việc cho Google vào cuối tháng 7. Google xác nhận sự cố nhưng không chủ động công bố vào thời điểm đó.

Theo Google, sự việc không cho thấy Gemini hoạt động lệch khỏi mục tiêu được thiết kế. Công ty cho rằng các biện pháp an toàn đã phát huy hiệu quả khi mô hình dừng lại trước khi hoàn tất hành động.

Ba công ty bị ảnh hưởng cũng được Google thông báo về sự việc.

Gemini không phải mô hình AI đầu tiên gặp tình huống này trong các cuộc kiểm thử của Irregular. Trước đó, Meta, Anthropic và OpenAI cũng từng công bố những sự cố trong đó mô hình AI vượt ra ngoài phạm vi dự kiến và tương tác với hệ thống của bên thứ ba.

Anthropic từng cho biết mô hình Claude AI tiếp tục hoạt động sau khi nhận ra mình đang truy cập hệ thống của các công ty thực. OpenAI trước đó cũng công bố một trường hợp các mô hình AI của hãng truy cập Internet ngoài dự kiến và thực hiện hành động bên ngoài môi trường thử nghiệm.

Những sự cố này đang làm gia tăng tranh luận về mức độ kiểm soát cần thiết đối với các mô hình AI ngày càng có khả năng tự thực hiện nhiệm vụ.

CEO Anthropic Dario Amodei gần đây kêu gọi ngành AI giảm tốc độ phát triển để có thêm thời gian xây dựng các biện pháp bảo vệ. CEO OpenAI Sam Altman và Elon Musk cũng bày tỏ ủng hộ lời kêu gọi này.

congluan.vn

Đọc thêm

Dữ liệu thông suốt, an toàn: Dấu ấn mới của MobiFone Hà Tĩnh

Dữ liệu thông suốt, an toàn: Dấu ấn mới của MobiFone Hà Tĩnh

Người dân gửi phản ánh chỉ bằng vài thao tác trên điện thoại; lãnh đạo nắm tình hình qua bảng số liệu thay vì chờ báo cáo giấy; hệ thống thông tin của từng xã, phường đang từng bước được canh giữ suốt ngày đêm. Phía sau những đổi thay ấy là dữ liệu, và là dấu ấn của MobiFone Hà Tĩnh.
Đưa kỹ năng số đến tận nhà dân

Đưa kỹ năng số đến tận nhà dân

Từ hỗ trợ dịch vụ công trực tuyến đến ứng dụng công nghệ trong đời sống, sản xuất, kinh doanh, chuyển đổi số tại các xã, phường ở Hà Tĩnh đang ngày càng gắn với nhu cầu thực tế của người dân.
Thứ Apple ra mắt sau iPhone Duo

Thứ Apple ra mắt sau iPhone Duo

Tại sự kiện ngày 13/10, Apple dự kiến giới thiệu các sản phẩm nhà thông minh gồm màn hình, Apple TV và HomePod mini mới.
Nobel Hóa học 2026 vinh danh 2 nhà khoa học Pháp và Nhật Bản

Nobel Hóa học 2026 vinh danh 2 nhà khoa học Pháp và Nhật Bản

2 nhà khoa học Henri Kagan (Pháp) và Kenso Soai (Nhật Bản) đã giành giải Nobel Hóa học 2026 nhờ những khám phá về tổng hợp hữu cơ bất đối xứng, lĩnh vực có vai trò quan trọng trong việc tạo ra thuốc và nhiều hợp chất hóa học.
Gói cước 5G giờ đã khác

Gói cước 5G giờ đã khác

Không chỉ có data 4G/5G, một số nhà mạng hiện tặng kèm YouTube Premium, CapCut Pro hoặc dịch vụ giải trí bản quyền, giúp người dùng giảm chi phí so với mua riêng.
Can Lộc phát động hưởng ứng Ngày Chuyển đổi số quốc gia

Can Lộc phát động hưởng ứng Ngày Chuyển đổi số quốc gia

Với chủ đề “Chuyển đổi số quốc gia: Từ kiến trúc, nền tảng, dữ liệu đến kết quả thực chất, nâng cao hiệu quả quản trị quốc gia”, xã Can Lộc (Hà Tĩnh) hướng chuyển đổi số vào việc nâng cao hiệu quả quản lý, điều hành và phục vụ Nhân dân.
Nâng chất doanh nghiệp từ đổi mới công nghệ chế biến

Nâng chất doanh nghiệp từ đổi mới công nghệ chế biến

Từ nguồn nguyên liệu địa phương, nhiều doanh nghiệp Hà Tĩnh đã tạo ra sản phẩm có giá trị gia tăng cao nhờ đầu tư khoa học, công nghệ. Việc làm chủ công nghệ giúp doanh nghiệp mở rộng thị trường, xây dựng thương hiệu và hình thành năng lực sản xuất mới.
Điều thú vị về iPhone Duo

Điều thú vị về iPhone Duo

Với iPhone Duo, lớp phủ màn hình trên cùng có thể thay thế nếu nếp gấp lộ rõ sau thời gian sử dụng.
Những ứng viên sáng giá cho Nobel Y sinh 2026

Những ứng viên sáng giá cho Nobel Y sinh 2026

Từ cơn sốt thuốc giảm cân GLP-1 đến công nghệ CAR-T chữa ung thư, những phát kiến thay đổi y học hiện đại đang trở thành ứng viên hàng đầu cho giải Nobel Y sinh 2026.
Chuyển đổi số bắt đầu từ… cú chạm

Chuyển đổi số bắt đầu từ… cú chạm

Chỉ một cú chạm trên màn hình có thể mở ra một chân trời "số" ngay tại Hà Tĩnh. Tiện ích là vậy! Nhưng, một thiết bị thông minh không mặc nhiên tạo ra một công dân số.
Bất ngờ của Apple trong tháng 10

Bất ngờ của Apple trong tháng 10

Nỗ lực tiến sâu vào nhà thông minh cho thấy Apple đang tìm cách mở rộng hệ sinh thái ngoài iPhone, trong bối cảnh Táo khuyết cần thêm động lực tăng trưởng mới từ phần cứng.
Xin chào,
Tôi là Chatbot của
Báo Hà Tĩnh
Hãy hỏi tôi bất kỳ điều gì bạn cần biết về
Báo Hà Tĩnh nhé. Tôi sẵn sàng hỗ trợ!