Card đồ họa NVIDIA GeForce RTX 30 và 40 series tăng gấp đôi hiệu năng xử lý trí tuệ nhân tạo

Cộng đồng công nghệ vừa chứng kiến một bước đột phá đáng kể khi các kỹ sư phần cứng phát triển thành công giải pháp can thiệp phần mềm, gỡ bỏ giới hạn tính toán trên các dòng card đồ họa thương mại NVIDIA GeForce RTX 30 series và RTX 40 series. Phương pháp này cho phép khai thác tối đa năng lực xử lý ma trận của Nhân Tensor (Tensor Core), nâng hiệu suất xử lý trí tuệ nhân tạo và các mô hình ngôn ngữ lớn (LLM) lên gần gấp đôi ngay trên phần cứng sẵn có.

Khởi nguồn giới hạn hiệu năng trên kiến trúc Ampere và Ada Lovelace

Về mặt kỹ thuật, các dòng card đồ họa dành cho người dùng phổ thông thuộc thế hệ GeForce RTX 30 series và RTX 40 series đều chia sẻ chung thiết kế khuôn bán dẫn silicon với những dòng GPU chuyên dụng dành cho máy trạm cao cấp. Mặc dù sở hữu năng lực vật lý tương đương, NVIDIA đã áp đặt các rào cản nhân tạo bằng cách giới hạn tốc độ phát lệnh tính toán thông qua tầng firmware nhằm phân định ranh giới giữa các phân khúc sản phẩm thương mại.

Đối với kiến trúc Ampere trên thế hệ GeForce RTX 30 series, bản mod cho phép tăng gấp đôi tốc độ phát lệnh của các phép toán định dạng FP/BF16 FMA sang FP32. Giải pháp can thiệp này tương thích rộng rãi với các dòng chip xử lý đồ họa bao gồm GA102, GA103, GA104 và GA106. Các kết quả đo đạc thực tế trên mẫu card đầu bảng GeForce RTX 3090 Ti ghi nhận tốc độ nhân ma trận ở định dạng BF16 tăng nhanh hơn tới 80%, tạo ra bước nhảy vọt quan trọng trong việc vận hành các mạng thần kinh nhân tạo.

Nhân đôi băng thông Tensor Core trên thế hệ RTX 40 series

Không dừng lại ở thế hệ cũ, kỹ thuật mở khóa tiếp tục được áp dụng thành công trên kiến trúc Ada Lovelace thuộc dòng GeForce RTX 40 series với các mã chip AD102, AD103 và AD106. Việc dỡ bỏ giới hạn giúp các nhân xử lý ma trận hoạt động đúng với thiết kế phần cứng ban đầu thay vì bị kìm hãm ở mức hiệu năng tiêu chuẩn.

Đáng chú ý nhất là thử nghiệm thực tế trên mẫu card GeForce RTX 4090. Hiệu suất xử lý phép tính Tensor FP16 và BF16 đi kèm tích lũy FP32 đã tăng mạnh từ mốc 165.6 TeraFLOPS lên mức 331.6 TeraFLOPS. Con số này đưa sức mạnh xử lý AI của GeForce RTX 4090 tiến sát mức hiệu năng của dòng card đồ họa chuyên dụng dành cho máy trạm cao cấp NVIDIA RTX 6000 Ada Lovelace.

Cơ chế can thiệp kỹ thuật và những rủi ro thực tế

Cơ chế hoạt động của cả hai phương pháp can thiệp trên kiến trúc Ampere và Ada Lovelace dựa trên nguyên lý vượt qua quy trình kiểm tra của trình điều khiển NVIDIA, đồng thời ghi đè lên chu trình thiết lập lại cấp độ chức năng PCIe (PCIe Function Level Reset - FLR). Nhờ đó, hệ thống máy tính vẫn nhận diện và vận hành bình thường cùng trình điều khiển chính thức, vượt qua toàn bộ các bài kiểm tra tiêu chuẩn của nền tảng CUDA.

Một điểm tích cực về mặt vận hành là mức tiêu thụ năng lượng tổng thể của thiết bị hoàn toàn không thay đổi. Ví dụ, mức tổng công suất đồ họa (TGP) 450 W trên các mẫu chip GA102 và AD102 vẫn được duy trì ổn định trước và sau khi thực hiện can thiệp phần mềm. Sự cải thiện về thông lượng tính toán mang lại lợi ích trực tiếp cho người dùng chạy mô hình ngôn ngữ lớn cục bộ, giúp rút ngắn thời gian xử lý token ở cả giai đoạn prefill lẫn decode.

Tuy nhiên, giải pháp này đòi hỏi sự đánh đổi nhất định về mặt kỹ thuật. Người dùng bắt buộc phải thiết lập tiến trình kích hoạt ngay từ giai đoạn khởi động máy nhằm liên kết trước khi trình điều khiển NVIDIA can thiệp sâu vào nhân hệ điều hành. Ngoài ra, việc can thiệp trái phép vào firmware của GPU chắc chắn sẽ làm mất hiệu lực bảo hành chính hãng từ nhà sản xuất, đòi hỏi người thực hiện phải cân nhắc kỹ lưỡng giữa hiệu năng gia tăng và rủi ro phần cứng.