NVIDIA ra mắt kiến trúc Blackwell B200: Siêu chip 208 tỷ bóng bán dẫn định hình lại siêu máy tính AI

Trong ngành sản xuất vi mạch, diện tích tối đa của một phiến bán dẫn đơn lẻ (reticle limit) từ lâu đã chạm trần vật lý do giới hạn của các thấu kính quang khắc tia cực tím cực ngắn (EUV). Để tiếp tục gia tăng số lượng bóng bán dẫn cho các siêu mô hình AI, các kỹ sư NVIDIA không thể chỉ đơn giản làm cho con chip to hơn theo cách truyền thống.

Kiến trúc Blackwell giải quyết nút thắt này bằng giải pháp thiết kế chiplet đột phá: ghép nối hai phiến bán dẫn silicon khổng lồ lại với nhau thông qua giao tiếp nội bộ tốc độ cao NV-HBI với băng thông lên tới 10 TB/s. Hai đế chip này trao đổi dữ liệu mượt mà đến mức toàn bộ phần mềm và hệ điều hành đều nhận diện chúng như một thể vi xử lý duy nhất với 208 tỷ bóng bán dẫn.

Điểm nhấn quan trọng nhất của Blackwell không chỉ nằm ở tốc độ huấn luyện mô hình, mà nằm ở hiệu quả suy luận (Inference). Với sự ra đời của engine biến áp thế hệ thứ hai hỗ trợ định dạng số học micro-tensor FP4, chip B200 cho tốc độ suy luận nhanh gấp 30 lần so với chip H100 tiền nhiệm.

Đặc biệt, để huấn luyện một mô hình ngôn ngữ 1.800 tỷ tham số, thế hệ trước cần tới 8.000 GPU H100 và tiêu thụ 15 Megawatt điện. Với kiến trúc Blackwell, tác vụ này chỉ cần 2.000 GPU B200 và tiêu thụ đúng 4 Megawatt điện – giúp các trung tâm dữ liệu tiết kiệm hàng chục triệu USD hóa đơn tiền điện mỗi năm.

NVIDIA không chỉ bán từng con chip rời rạc. Sản phẩm chủ lực thực sự của họ là hệ thống tủ rack làm mát bằng chất lỏng GB200 NVL72, kết nối 36 CPU Grace và 72 GPU Blackwell thành một siêu cụm tính toán duy nhất với tổng băng thông bộ nhớ lên tới 30 TB/s.

Tuy nhiên, sự thành công vượt bậc của Blackwell cũng làm gia tăng sự phụ thuộc nguy hiểm của ngành công nghệ toàn cầu vào năng lực đóng gói vi mạch CoWoS của tập đoàn TSMC tại Đài Loan. Bất kỳ sự gián đoạn nào trong chuỗi cung ứng vật liệu hoặc xung đột địa chính trị đều có thể làm đóng băng các kế hoạch mở rộng trung tâm dữ liệu AI trên toàn cầu.