Kiến trúc NPU của Snapdragon 8 Elite Gen 6 Pro: Tăng tốc 50% và tối ưu hóa cho Agent-AI
Qualcomm hé lộ NPU Hexagon trên Snapdragon 8 Elite Gen 6 Pro với tốc độ điền trước tăng 50%, mở rộng bộ nhớ đệm và tối ưu hóa cho mô hình Mixture-of-Experts.
Qualcomm vừa công bố các thông tin kỹ thuật sơ bộ về bộ xử lý thần kinh NPU Hexagon thế hệ tiếp theo được tích hợp trên hệ thống vi mạch Snapdragon 8 Elite Gen 6 Pro. Động thái này diễn ra trước thềm sự kiện Hội nghị thượng đỉnh Snapdragon vào ngày 22 tháng 9 tới đây. Những cải tiến phần cứng mới được định hướng trực tiếp nhằm xử lý các mô hình trí tuệ nhân tạo dạng tác nhân (Agent-AI) và giải quyết triệt để vấn đề nghẽn cổ chai dữ liệu khi vận hành cục bộ trên thiết bị di động.
Kiến trúc NPU Hexagon mới và định hướng phục vụ Agent-AI
Trọng tâm nâng cấp của dòng vi xử lý Snapdragon 8 Elite Gen 6 Pro tập trung vào việc đáp ứng sự chuyển dịch từ AI tạo sinh thông thường sang mô hình trí tuệ nhân tạo tác nhân độc lập (Agent-AI). Để hiện thực hóa điều này, Qualcomm đã tái thiết kế khối xử lý thần kinh NPU Hexagon với sự xuất hiện của bộ tăng tốc chuyên dụng Element Accelerator.
Cụm Element Accelerator được tối ưu hóa riêng biệt cho các tác vụ chuyển đổi (transformer operations) vốn là nền tảng của các mô hình ngôn ngữ và thị giác hiện đại. Nhờ việc phân bổ tài nguyên phần cứng trực tiếp cho các phép tính biến đổi này, hệ thống giảm tải đáng kể cho cụm CPU và GPU, cho phép các tác nhân thông minh duy trì trạng thái phân tích ngữ cảnh liên tục mà không gây hiện tượng sụt giảm hiệu năng hệ thống.
Nâng cấp bộ nhớ chia sẻ và giải quyết bài toán nghẽn cổ chai
Bên cạnh việc gia tăng năng lực tính toán thuần túy, Qualcomm chú trọng mở rộng băng thông bộ nhớ nội bộ. Bộ nhớ chia sẻ bên trong cấu trúc NPU mới được mở rộng dung lượng thêm 50% so với thế hệ trước. Đây là một nâng cấp mang tính quyết định đối với khả năng suy luận trên thiết bị.
Việc tăng dung lượng bộ nhớ dùng chung cho phép lưu trữ các trọng số và dữ liệu mô hình được truy cập thường xuyên ở khoảng cách vật lý gần NPU nhất có thể. Cải tiến này giúp hạn chế tối đa độ trễ truy xuất dữ liệu từ RAM chính, hỗ trợ xử lý mượt mà các chuỗi ngữ cảnh dài (long-context prompts) cũng như duy trì đồng thời nhiều tiến trình AI nền tảng mà không gặp hiện tượng thắt nút cổ chai.
Đột phá tốc độ điền trước và hiệu quả với Mixture-of-Experts
Về chỉ số thực thi cụ thể, NPU Hexagon trên vi xử lý Snapdragon 8 Elite Gen 6 Pro ghi nhận tốc độ điền trước (prefill speed) nhanh hơn tới 50% đối với các định dạng lượng tử hóa INT4. Giai đoạn điền trước là bước tiếp nhận và mã hóa toàn bộ dữ liệu đầu vào trước khi sinh từ, do đó việc tăng tốc giai đoạn này giúp các trợ lý AI phản hồi gần như tức thì khi nhận lệnh phức tạp.
| Thông số kỹ thuật NPU Hexagon | Mức độ cải tiến | Ý nghĩa thực tiễn |
|---|---|---|
| Tốc độ điền trước (INT4) | Nhanh hơn 50% | Giảm độ trễ phản hồi ban đầu của trợ lý AI |
| Dung lượng bộ nhớ chia sẻ | Tăng thêm 50% | Duy trì ngữ cảnh dài, hạn chế nghẽn dữ liệu |
| Bộ tăng tốc Element Accelerator | Tối ưu cho Transformer | Hỗ trợ chuyên biệt các tác vụ Agent-AI |
| Kiến trúc xử lý kết hợp | Vô hướng, vectơ và ma trận | Tối ưu hóa năng lượng tiêu thụ trên mỗi token |
Đặc biệt, kiến trúc mới được thiết kế tương thích cao với các mô hình cấu trúc chuyên gia phân nhánh (Mixture-of-Experts - MoE). Thay vì kích hoạt toàn bộ mạng lưới nơ-ron cho mỗi token, kiến trúc MoE chỉ kích hoạt một nhóm tham số nhất định phù hợp với nhiệm vụ cụ thể. Bằng cách kết hợp linh hoạt giữa các khối mở rộng vô hướng (scalar), vectơ và ma trận, vi xử lý có thể tối ưu hóa hiệu suất trên từng token mà vẫn kiểm soát chặt chẽ mức tiêu hao năng lượng và nhiệt lượng sinh ra.
