Hook
Một con số gây sốc: 4TB. Đó là dung lượng bộ nhớ mà SanDisk hứa hẹn sẽ gắn trực tiếp vào GPU. Không phải ổ SSD, không phải HBM, mà là một lớp bộ nhớ hoàn toàn mới có tên High Bandwidth Flash (HBF). Nếu thành công, nó sẽ phá vỡ định luật Moore về chi phí bộ nhớ AI. Nhưng thực tế, đây có phải là bước đột phá hay chỉ là chiêu trò truyền thông từ một công ty đang vật lộn với thị trường NAND?
Context
Chúng ta đang sống trong kỷ nguyên AI đói bộ nhớ. Các mô hình ngôn ngữ lớn như GPT-4 hay Llama 3 yêu cầu hàng trăm GB dung lượng chỉ để tải trọng số. HBM (High Bandwidth Memory) — công nghệ DRAM tiên tiến — là giải pháp hiện tại, nhưng giá thành quá đắt: khoảng 15-20 USD/GB. Trong khi đó, NAND flash chỉ có giá 0.1-0.2 USD/GB, nhưng băng thông và độ bền thấp hơn nhiều. SanDisk, sau khi tách khỏi Western Digital năm 2025, đang cố gắng lấp đầy khoảng trống này. HBF là nỗ lực của họ để biến NAND thành “HBM giá rẻ” cho AI inference.
Tuy nhiên, bài báo gốc từ Crypto Briefing — một trang tin về crypto, không phải bán dẫn — chỉ cung cấp 4 thông tin vụn vặt. Không có thông số kỹ thuật, không có lộ trình sản xuất, không có khách hàng. Điều này khiến tôi phải đặt câu hỏi: đây là sản phẩm thật hay chỉ là một câu chuyện đầu tư?
Core
1. Kỹ thuật: NAND làm sao đạt băng thông HBM?
NAND flash vốn chậm hơn DRAM hàng nghìn lần về độ trễ. Để đạt “HBM-class performance”, SanDisk phải giải quyết ba vấn đề: (a) tăng số lượng kênh I/O, (b) dùng 3D stacking với TSV (Through-Silicon Via) tương tự HBM, và (c) thiết kế controller chuyên dụng. Vấn đề là NAND không thể ghi nhanh như DRAM — ngay cả khi đọc tốc độ cao, độ bền ghi chỉ khoảng 10^4-10^5 chu kỳ, so với 10^15 của DRAM. Điều này giới hạn HBF vào các tác vụ đọc-heavy như inference, không phải training.
Dựa trên kinh nghiệm audit smart contract của tôi, việc tuyên bố “HBM-class performance” mà không đưa ra băng thông cụ thể là dấu hiệu cảnh báo. Nếu HBF đạt 1 TB/s đọc — tương đương HBM2E — thì đó là thành tựu. Nhưng nếu chỉ đạt 200 GB/s, thì không khác gì SSD NVMe qua PCIe 5.0.
2. Sản xuất: Gánh nặng đầu tư khổng lồ
SanDisk không có nhà máy tiên tiến riêng cho HBF. Họ phụ thuộc vào Kioxia (Nhật) cho NAND die và các nhà OSAT như Amkor cho đóng gói. Một dây chuyền đóng gói TSV cho HBF có thể tốn 2-3 tỷ USD. Với tình hình tài chính ảm đạm của NAND năm 2024-2025 (giảm doanh thu 30%), SanDisk khó có thể tự mình gánh vác. Họ có thể chọn mô hình “fabless packaging” — chỉ thiết kế IP, để đối tác sản xuất — nhưng khi đó lợi nhuận bị chia sẻ.
3. Thị trường: Ai sẽ mua?
NVIDIA, AMD, và các nhà sản xuất GPU đang dùng HBM. Họ sẽ không chuyển sang HBF trừ khi có lợi thế rõ ràng về chi phí và hiệu năng. Giả sử HBF có chi phí bằng 1/10 HBM nhưng băng thông chỉ bằng 50%, thì nó vẫn hấp dẫn cho inference. Nhưng vấn đề là tương thích: GPU hiện tại có thiết kế cho HBM. Thay đổi sang HBF đòi hỏi thiết kế lại PCB và memory controller, mất ít nhất 18 tháng. Do đó, thị trường mục tiêu thực sự là các thế hệ GPU tiếp theo (2026-2027), không phải hiện tại.
Contrarian
Góc nhìn phản trực giác: HBF không phải là HBM killer, mà là một miếng bánh khác.
Báo chí thường so sánh HBF với HBM, nhưng thực tế SanDisk đang nhắm vào một thị trường khác: bộ nhớ dung lượng lớn cho AI inference. Hãy nhìn vào nhu cầu thực tế: các mô hình AI ngày càng lớn, và việc lưu trữ toàn bộ trọng số trong HBM là quá đắt. HBF cho phép GPU “tải” trọng số từ bộ nhớ gần (NAND) vào HBM chỉ khi cần, giống như cơ chế page swap. Điều này giảm dung lượng HBM yêu cầu, tiết kiệm chi phí đáng kể. Vậy HBF thực chất là một “cache level” mới trong hệ thống phân cấp bộ nhớ AI.
Tuy nhiên, điều này đặt ra câu hỏi: tại sao không dùng CXL memory expansion? Các giải pháp như Samsung Memory-Semantic SSD đã có sẵn. So với CXL, HBF có lợi thế về băng thông (gần GPU hơn) nhưng lại yếu về tính linh hoạt. Nếu CXL 3.0 đạt băng thông 64 GB/s qua PCIe 6.0, thì HBF cần phải vượt trội hơn để tồn tại.
Dựa trên kinh nghiệm xây dựng bot yield farming của tôi, tôi biết rằng độ trễ là kẻ thù. Trong AI inference, mỗi microsecond chậm trễ có thể làm giảm throughput. HBF nếu không được tối ưu hóa cho latency, sẽ thất bại.
Takeaway
SanDisk HBF là một ý tưởng thú vị, nhưng còn quá sớm để ăn mừng. Cần ít nhất 2-3 năm để thấy sản phẩm thực tế. Câu hỏi thực sự: liệu thị trường AI có đủ lớn để dung nạp một tiêu chuẩn bộ nhớ mới không? Hay HBF sẽ chết yểu vì thiếu sự ủng hộ từ hệ sinh thái? Hãy theo dõi liệu NVIDIA có công bố hỗ trợ HBF trong roadmap 2026 không. Nếu không, SanDisk có thể đang xây dựng một tòa lâu đài trên cát.