HBM4 là gì? Tiến hóa từ HBM3E
HBM4 là thế hệ bộ nhớ High Bandwidth Memory thứ tư, tiếp nối chuỗi phát triển từ HBM, HBM2, HBM2E, HBM3 và HBM3E. Loại bộ nhớ này được thiết kế đặc biệt cho GPU và accelerator AI, cung cấp băng thông siêu cao trong một không gian vật lý nhỏ gọn. Khác với DRAM thông thường nằm phía bên ngoài chip, HBM được xếp chồng trực tiếp lên bề mặt die logic của GPU bằng kỹ thuật silicon interposer, giảm khoảng cách truyền dẫn và tiết kiệm năng lượng đáng kể.
Bộ nhớ HBM4 ra đời để đáp ứng nhu cầu xử lý khối lượng tham số ngày càng lớn của các mô hình AI đa phương thức. Các mô hình ngôn ngữ lớn có hàng trăm tỷ tham số yêu cầu băng thông bộ nhớ khổng lồ trong quá trình inference và training. HBM4 cung cấp giải pháp với tốc độ truyền dữ liệu vượt trội so với mọi thế hệ trước đó.
Thông số kỹ thuật HBM4
HBM4 đạt băng thông lên đến 2048 GB/s mỗi stack, gấp khoảng 1,67 lần so với HBM3E (khoảng 1229 GB/s). Tốc độ truyền dữ liệu nhanh hơn đạt 8 Gbps mỗi chân, trong khi điện áp hoạt động giảm xuống còn 1,2V — giúp giảm nhiệt phát sinh và tiết kiệm điện năng cho toàn bộ hệ thống máy chủ AI. Mỗi stack HBM4 có dung lượng tối đa 48 GB, đạt mật độ 15,36 Gb/mm² nhờ tiến trình sản xuất 12nm của Samsung và SK Hynix.
Kiến trúc bên trong HBM4 gồm 12 die được xếp chồng, mỗi die chứa 4Gb x 16 channel DRAM. Các kênh bộ nhớ hoạt động song song với tốc độ 1 TB/s, và giao tiếp với GPU qua chuẩn PAM-3 signaling cho hiệu quả truyền dữ liệu cao. Bạn có thể tìm hiểu chi tiết về tiến trình sản xuất bộ nhớ DRAM tại trang chủ SK Hynix.
So sánh HBM3E và HBM4
HBM4 cải tiến đáng kể về nhiều mặt so với HBM3E. Băng thông tăng 66% nhờ kỹ thuật PAM-3 signaling thay thế PAM-2. Dung lượng mỗi stack tăng từ 24 GB lên 48 GB, cho phép đóng gói nhiều tham số mô hình hơn trên cùng một GPU. Điện năng tiêu thụ mỗi GB giảm khoảng 30% nhờ điện áp thấp hơn và quy trình sản xuất tiên tiến hơn.
Tuy nhiên, HBM4 cũng có những thách thức riêng. Yêu cầu tản nhiệt cao hơn do mật độ năng lượng lớn hơn, đòi hỏi hệ thống làm mát chất lỏng hoặc vapor chamber tiên tiến. Chi phí sản xuất mỗi stack HBM4 dự kiến cao hơn 40% so với HBM3E trong giai đoạn đầu, khi năng lực sản xuất chưa đủ cung ứng toàn cầu.
Ứng dụng trong GPU AI đa phương thức hiện đại
HBM4 được thiết kế để phục vụ các GPU thế hệ mới như NVIDIA Blackwell và AMD MI400. Trên GPU Blackwell Ultra, 8 stack HBM4 tổng dung lượng 384 GB cung cấp băng thông 16 TB/s, đủ cho các mô hình đa phương thức quy mô hàng trăm tỷ tham số. Trong bài toán inference, HBM4 giảm độ trễ đáng kể nhờ tốc độ truyền dữ liệu cao, giúp mô hình phản hồi nhanh hơn khi xử lý đồng thời văn bản, hình ảnh và âm thanh.
Các nhà cung cấp đám mây AWS, Google Cloud và Azure đã bắt đầu tích hợp HBM4 vào các loại instance máy chủ AI chuyên dụng. Instance sử dụng HBM4 thường phục vụ các tác vụ training mô hình lớn, fine-tuning và inference batch xử lý dữ liệu khổng lồ. Với băng thông cao, HBM4 giảm bottleneck truyền dữ liệu giữa bộ nhớ và bộ xử lý — vốn là điểm yếu chính trong các kiến trúc AI hiện đại.
Thách thức sản xuất và xu hướng tương lai
Sản xuất HBM4 đòi hỏi công nghệ tiên tiến và chi phí đầu tư khổng lồ. SK Hynix, Samsung và Micron là ba nhà sản xuất chính, mỗi công ty chi hàng tỷ USD vào nhà máy sản xuất mới. Hạn chế về công suất khiến nguồn cung HBM4 trong giai đoạn 2025-2026 có thể không đủ nhu cầu toàn cầu, dẫn đến giá cao và phân bổ ưu tiên cho các đối tác lớn nhất.
Trung và dài hạn, HBM4 sẽ mở đường cho HBM5 với băng thông dự kiến trên 3 TB/s và dung lượng mỗi stack 64 GB. Xu hướng tích hợp bộ nhớ cao cường độ cao vào kiến trúc chiplet và advanced packaging sẽ tiếp tục định hình tương lai của máy tính hiệu năng cao. Các nhà nghiên cứu cũng đang khám phá giải pháp CXL Memory Expansion kết hợp HBM4 với DRAM chuẩn để tạo ra pool bộ nhớ chia sẻ linh hoạt giữa nhiều bộ xử lý.
