Đây mới là điều khiến Nvidia lo ngại về DeepSeek

Mô hình AI của DeepSeek được cho là đang vận hành trên các chip AI của Huawei, cụ thể là Ascend 910C. Đây được coi là dòng chip đối trọng với GPU mạnh nhất hiện có của Nvidia.

Trước đây, phần lớn các công ty AI Trung Quốc vẫn phải dựa vào phần cứng của Nvidia, nhưng nay, với sự hỗ trợ của các công nghệ nội địa, họ đang từng bước tự chủ hơn về năng lực tính toán. Ảnh: Wccftech.
Trước đây, phần lớn các công ty AI Trung Quốc vẫn phải dựa vào phần cứng của Nvidia, nhưng nay, với sự hỗ trợ của các công nghệ nội địa, họ đang từng bước tự chủ hơn về năng lực tính toán. Ảnh: Wccftech.

Cụ thể, mô hình ngôn ngữ lớn DeepSeek R1 của công ty này được đào tạo bằng GPU Nvidia H100, nhưng sử dụng chip Ascend 910C để thực hiện suy luận (inference). Đây là quá trình tạo phản hồi dựa trên mô hình đã được huấn luyện.

Thông tin về việc DeepSeek sử dụng chip của Huawei được tài khoản @Dorialexander tìm ra thông qua một bài viết ở Trung Quốc. Theo đó, chip Ascend 910C không tham gia vào quá trình đào tạo mô hình, mà chỉ phục vụ cho giai đoạn suy luận. Giai đoạn này vốn không đòi hỏi sức mạnh tính toán quá cao như giai đoạn huấn luyện. Việc tách biệt giai đoạn huấn luyện và suy luận giúp DeepSeek tối ưu hóa hiệu suất tính toán, giảm nhu cầu sử dụng GPU mạnh như Nvidia H100 trong giai đoạn vận hành.

Tuy nhiên, một hạn chế là hiệu suất của Ascend 910C vẫn chưa đủ mạnh để đảm nhiệm việc đào tạo các mô hình AI lớn. Để khắc phục vấn đề này, Huawei đang phát triển Ascend 920C. Con chip này dự kiến cạnh tranh trực tiếp với Nvidia Blackwell B200 - át chủ bài của Nvidia trong lĩnh vực tăng tốc AI. Điều này có nghĩa là trong tương lai gần, Trung Quốc có thể có một phần cứng mạnh mẽ hơn để giảm phụ thuộc vào Nvidia, theo GSM Arena.

Với dòng chip Ascend 910C, Huawei còn có tiềm năng trở thành đối thủ cạnh tranh trực tiếp với Nvidia. Chip này được xem là câu trả lời của Trung Quốc đối với Nvidia Hopper H100 - GPU đang chiếm lĩnh thị trường AI hiện nay. Mặc dù thông số kỹ thuật chi tiết của Ascend 910C vẫn chưa được công bố rộng rãi, Huawei đã có kế hoạch bắt đầu sản xuất hàng loạt con chip này vào quý 1/2025.

Các công ty công nghệ lớn của Trung Quốc như ByteDance và Tencent đã bày tỏ sự quan tâm đến Ascend 910C. Điều cho thấy dòng chip có tiềm năng rất lớn nếu muốn thay thế Nvidia tại thị trường nội địa.

Với DeepSeek, công ty tuyên bố mô hình AI của mình vượt xa các đối thủ Mỹ về hiệu suất chi phí, đồng thời nhanh chóng đạt vị trí số một trên App Store tại 51 quốc gia nhờ chatbot mã nguồn mở.

Song, theo Wccftech, một trong những vấn đề gây hiểu lầm trên truyền thông liên quan đến DeepSeek là con số "5 triệu USD để đánh bại OpenAI". Đây không phải là chi phí đào tạo toàn bộ mô hình, mà chỉ là chi phí vận hành mô hình cuối cùng.

Ngoài ra, CEO Scale AI, Alexander Wang trong một bài phỏng vấn suy đoán DeepSeek có quyền sử dụng hơn 50.000 GPU Nvidia H100, tức là công ty này vẫn cần nguồn tài nguyên tính toán tương đương với các mô hình AI lớn khác trên thị trường. Tuy nhiên, đây không phải là con số hợp lý nếu xét đến nguồn lực của nhiều công ty AI khác trên thị trường như xAI của Elon Musk.

znews.vn

Đọc thêm

Tính năng sạc đặc biệt của iPhone

Tính năng sạc đặc biệt của iPhone

Tính năng Clean Energy Saving (Sạc pin năng lượng sạch) nhằm mục tiêu giảm khí thải carbon sẽ được triển khai trên toàn bộ iPhone và iPad trưng bày tại Mỹ.
Những lưu ý khi sạc điện thoại trên ô tô

Những lưu ý khi sạc điện thoại trên ô tô

Sạc điện thoại trên ô tô là một giải pháp hỗ trợ tối ưu để duy trì liên lạc với mọi người xung quanh. Tuy nhiên, sạc không đúng cách tiềm ẩn nguy hiểm cho người ngồi trên xe.
Thiết bị gập bí ẩn của Apple

Thiết bị gập bí ẩn của Apple

Với màn hình gập có kích thước gần 19 inch, rất khó để hình dung cách Apple định vị phân khúc thị trường cho sản phẩm này.
Kỷ nguyên iPhone 'nhàm chán' sắp kết thúc

Kỷ nguyên iPhone 'nhàm chán' sắp kết thúc

Apple đang chuẩn bị cho một sự thay đổi mang tính cách mạng đối với dòng sản phẩm iPhone, mở ra một kỷ nguyên mới sau giai đoạn được nhận định là thiếu đột phá.
Hình ảnh mới của iOS 19

Hình ảnh mới của iOS 19

iOS 19 tiếp tục lộ diện với biểu tượng ứng dụng mới, các thành phần giao diện bóng bẩy hơn.
Đừng tin vào AI

Đừng tin vào AI

Công ty đứng sau mô hình Claude cho rằng chuỗi suy nghĩ của AI ngày càng kém minh bạch hơn và có thể dễ dàng đánh lừa người dùng.
Cách lưu ảnh trên Tiktok không dính logo

Cách lưu ảnh trên Tiktok không dính logo

Việc tải ảnh trực tiếp từ TikTok thường kèm theo logo của ứng dụng, gây ảnh hưởng đến trải nghiệm của bạn. Đừng lo lắng, bài viết này sẽ hướng dẫn bạn những cách lưu ảnh trên Tiktok không dính logo đơn giản, áp dụng cho cả điện thoại Android và iPhone.
Những mẫu iPhone sắp lỗi thời

Những mẫu iPhone sắp lỗi thời

Bản cập nhật được cho là mạnh mẽ nhất kể từ iOS 17 sẽ chỉ được hỗ trợ một phần, hoặc hoàn toàn không cài được ở một số phiên bản iPhone.
Cách sử dụng Siri tiếng Việt trên iPhone

Cách sử dụng Siri tiếng Việt trên iPhone

Apple đã chính thức cập nhật iOS 18.4, mang đến bước tiến lớn khi Siri đã hỗ trợ tiếng Việt. Giờ đây, bạn có thể ra lệnh, tìm kiếm thông tin và điều khiển điện thoại bằng chính ngôn ngữ quen thuộc.
Cách lấy nhạc TikTok làm nhạc chuông báo thức

Cách lấy nhạc TikTok làm nhạc chuông báo thức

Thỉnh thoảng khi lướt TikTok bạn sẽ thấy được một vài video có nhạc nền cực hợp để đặt làm báo thức. Nhưng với TikTok bạn không thể nào tải bài nhạc đó về và cài cho nhạc chuông báo thức của mình được. Vậy phải làm sao?
Thời của điện thoại siêu mỏng đã trở lại

Thời của điện thoại siêu mỏng đã trở lại

Suốt nhiều năm, các hãng smartphone luôn chạy đua để cải thiện thời lượng pin và camera. Nhưng giờ, họ quay lại với yếu tố thiết kế và đặt cược vào những chiếc smartphone siêu mỏng.