Hồi tháng 2 năm 2025, tôi đang ngồi trong một quán cà phê ở Copenhagen, lướt Twitter thì bắt gặp một dòng tweet từ Crypto Briefing: "Bonsai 27B – mô hình AI 27 tỷ tham số đầu tiên chạy trên thiết bị di động, hứa hẹn cách mạng hóa crypto và fintech." Tôi bật cười. Không phải vì tôi hoài nghi công nghệ – tôi là đứa mê AI từ hồi còn sinh viên – mà vì chính tôi từng thử deploy một mô hình 7B lên chiếc Galaxy S22 của mình. Kết quả: máy nóng đến mức tưởng chừng nổ pin, và mỗi lần infer mất cả phút. Vậy mà giờ đây, có người tuyên bố đưa 27B lên mobile? Tim tôi đập nhanh hơn – không phải vì hưng phấn, mà vì tò mò. Một lần nữa, thị trường lại chứng kiến một tuyên bố táo bạo, và tôi, với bản tính của một kẻ đi tìm linh hồn trong công nghệ, buộc phải mổ xẻ nó.
Bối cảnh ở đây là gì? Mobile AI không mới. Apple Intelligence với khoảng 3B tham số? Google Gemini Nano chỉ 1.8B? Những con số đó đã cho thấy việc đưa AI lên thiết bị di động là một thách thức khủng khiếp về băng thông bộ nhớ, năng lượng và nhiệt độ. Các kỹ thuật như lượng tử hóa (quantization), cắt tỉa (pruning) hay kiến trúc Mixture of Experts (MoE) là những mảnh ghép để giải bài toán này. Nhưng 27B? Đó là một bước nhảy vọt, ngang với việc ép một chiếc xe tải vào một chiếc hộp đựng giày. Tại sao điều này lại quan trọng với crypto? Bởi vì nếu thành công, nó có thể mang lại trải nghiệm AI thực sự phi tập trung: ví Web3 có thể chạy AI agent local để ký giao dịch thông minh, DeFi có thể phân tích dữ liệu on-chain ngay trên điện thoại mà không cần gửi thông tin lên cloud, bảo vệ quyền riêng tư tuyệt đối. Nó giống như mỗi chiếc điện thoại trở thành một node AI độc lập trong một mạng lưới thông minh. Nghe thật đẹp, nhưng con đường từ tuyên bố đến hiện thực lại đầy rẫy cạm bẫy.
Tôi bắt đầu đào sâu vào kỹ thuật. Bonsai 27B được mô tả là mô hình đầu tiên cho mobile với 27 tỷ tham số. Hãy thử tính: một tham số FP16 (16-bit floating point) chiếm 2 byte, vậy 27B tham số cần 54 GB bộ nhớ chỉ để lưu trọng số. Ngay cả khi dùng lượng tử hóa 4-bit (phổ biến nhất cho di động), nó vẫn cần 13.5 GB RAM – vượt xa mức 8-12 GB mà các flagship hiện tại có. Và đó là chưa kể memory bandwidth: để chạy infer với tốc độ chấp nhận được (ít nhất 20 token/s), bạn cần băng thông ~500 GB/s, trong khi chip Snapdragon 8 Gen 3 chỉ đạt ~60 GB/s. Sự chênh lệch này giống như cố uống cả hồ bơi qua ống hút. Vậy Bonsai làm thế nào? Họ không nói. Không whitepaper, không benchmark, không demo. Chỉ có một tuyên bố. Điều này khiến tôi nhớ lại năm 2021, khi tôi tham gia một dự án cố gắng chạy GPT-2 trên Raspberry Pi. Chúng tôi đã mất 3 tháng để chỉ đạt được 2 token/s và bỏ cuộc. Kinh nghiệm của tôi bảo rằng: nếu một đội ngũ thực sự có khả năng đưa 27B lên mobile, họ sẽ khoe ngay kiến trúc MoE, kỹ thuật lượng tử hóa độc quyền, hay ít nhất một video demo. Nhưng không có gì. Sự vắng mặt của chi tiết kỹ thuật là một lá cờ đỏ lớn.
Tuy nhiên, nếu giả sử Bonsai thành công, nó có thể thay đổi cuộc chơi. Hãy tưởng tượng: bạn mở ví MetaMask, hỏi “Số dư ETH của tôi có đủ để farm trên Aave không?” và AI local phân tích lịch sử giao dịch, giá gas, TVL của pool, rồi trả lời trong tích tắc. Hoặc một ứng dụng fintech như Revolut có thể tích hợp AI này để đánh giá rủi ro tín dụng dựa trên dữ liệu trên thiết bị, không cần gửi thông tin nhạy cảm lên server. Đó là tầm nhìn về quyền riêng tư và tự chủ mà tôi luôn tin tưởng – giống như lần đầu tôi đọc whitepaper Ethereum năm 2017, cảm thấy như một thế giới mới chào đời. Nhưng giữa tầm nhìn và thực tế là một vực thẳm. Năm 2020, tôi chứng kiến hàng tá dự án DeFi hứa hẹn “APY vĩnh viễn” rồi sụp đổ khi incentive dừng. Bonsai có rơi vào vết xe đổ đó không?
Đây là góc nhìn phản trực giác: Ngay cả khi Bonsai không thành công, tuyên bố của họ vẫn có giá trị. Nó đặt ra một cột mốc tham vọng, buộc các ông lớn như Apple, Google, và cả cộng đồng crypto phải suy nghĩ lại về ranh giới của mobile AI. Nếu không có Bonsai, sẽ không ai biết rằng việc chạy 27B trên điện thoại là khả thi hay không. Bản thân việc dám tuyên bố “first 27B mobile model” đã là một hành động khai phá, tương tự như những ICO đầu tiên năm 2017 dù lỗ vốn nhưng đã mở đường cho DeFi. Tuy nhiên, với tư cách một nhà phân tích, tôi buộc phải cảnh báo: thiếu thông tin đội ngũ, thiếu mã nguồn mở, thiếu bất kỳ dấu hiệu nào về khả năng kỹ thuật – tất cả đều chỉ vào một câu chuyện marketing hơn là một sản phẩm thật. Nếu bạn đang nghĩ đến đầu tư, hãy nhớ: không có token, không có roadmap, không có gì ngoài một dòng tweet. Đừng để sự hào hứng về “cách mạng” đánh lừa bạn.
Vậy tương lai của Bonsai sẽ ra sao? Câu trả lời nằm ở khả năng họ chứng minh được công nghệ. Nếu trong 90 ngày tới, họ công bố code, demo thực tế, hoặc hợp tác với một nhà sản xuất chip, đó sẽ là tín hiệu đáng tin cậy. Nếu không, nó sẽ chìm vào quên lãng như hàng trăm dự án AI+khác. Còn tôi, tôi sẽ tiếp tục theo dõi, vì bên trong tôi luôn có niềm tin rằng một ngày nào đó, mỗi chiếc điện thoại sẽ là một phiếu bầu cho một mạng lưới thông minh phi tập trung. Nhưng hôm nay chưa phải lúc. Hãy cùng nhau chờ xem.