CEO Microsoft Satya Nadella cảnh báo tác nhân AI tự vận hành là rủi ro bảo mật nội bộ
Dù mang lại sự tiện lợi, các tác nhân AI có thể tiếp cận dữ liệu nhạy cảm và thao tác ngoài ý muốn, buộc Microsoft phải xây dựng cơ chế kiểm soát mới trên Windows.
Tác nhân AI là hệ thống phần mềm có khả năng tự động thực hiện chuỗi tác vụ phức tạp trên máy tính mà không cần con người chỉ dẫn từng bước. Khác với các công cụ chatbot thông thường chỉ hỗ trợ phản hồi văn bản hay tra cứu thông tin, tác nhân AI có thể tự tìm kiếm tài liệu, khởi chạy ứng dụng và giải quyết liên tiếp nhiều nhiệm vụ. Tuy nhiên, chính cơ chế vận hành độc lập này đang đặt ra thách thức lớn về an toàn hệ thống.
Hiểm họa an ninh từ quyền tự vận hành của tác nhân AI
Trong cuộc phỏng vấn với nhà báo Joanna Stern của The New Things vào ngày 15/10, CEO Microsoft Satya Nadella khẳng định ông xem các tác nhân AI là một dạng rủi ro nội bộ và cần phải áp dụng các biện pháp kiểm soát thích hợp. Mối đe dọa không chỉ đến từ mã độc bên ngoài mà phát sinh từ chính các công cụ được người dùng chủ động cài đặt và phân quyền.
Khi được trao quyền truy cập sâu vào hệ điều hành, tác nhân AI có khả năng tiếp xúc với các tập dữ liệu nhạy cảm, vô tình thực hiện thao tác sai lệch hoặc bị thao túng để thực hiện hành vi trái với mục đích ban đầu của người dùng. Việc phân quyền tự động hóa càng rộng thì ranh giới giữa tiện ích công việc và nguy cơ rò rỉ dữ liệu càng trở nên mong manh.
Cơ chế bảo vệ đa lớp của Microsoft trên hệ điều hành Windows
Để ngăn chặn các nguy cơ tiềm ẩn, Microsoft đang tiến hành xây dựng hàng rào kỹ thuật nhằm quản lý chặt chẽ hoạt động của tác nhân AI trên Windows. Chiến lược kiểm soát này tập trung vào tính định danh, cô lập môi trường và giám sát hành vi theo thời gian thực.
- Định danh và môi trường cách ly: Mỗi tác nhân AI sẽ được gán một mã nhận diện riêng biệt và hoạt động trong môi trường tách biệt hoàn toàn, ngăn chặn việc can thiệp trái phép vào các tiến trình khác.
- Giới hạn đặc quyền theo nhiệm vụ: Phạm vi truy cập dữ liệu được siết chặt dựa trên từng tác vụ cụ thể, không cho phép AI khai thác vượt quá thẩm quyền cần thiết.
- Mở rộng Windows Defender: Thay vì chỉ quét mã độc truyền thống, Windows Defender sẽ được nâng cấp để giám sát hành vi của AI, kịp thời phát hiện và ngăn chặn những tác vụ bất thường.
Ông Satya Nadella nhấn mạnh tầm quan trọng của việc phát triển các giải pháp bảo vệ chuyên biệt tương tự phần mềm diệt virus dành riêng cho AI. Song song đó, công ty cũng chủ động điều chỉnh mức độ xuất hiện của Copilot trên Windows nhằm giảm bớt phiền toái, hướng tới cân bằng giữa tự động hóa thông minh và an toàn thông tin người dùng.
