Liquid AI tung LFM2.5-24B-A2B: 24 tỷ tham số nhưng chỉ “bật” 2 tỷ, chạy agent ngay trên laptop

Mô hình “to mà nhẹ”

Ngày 13/10, tài khoản chính thức @liquidai công bố LFM2.5-24B-A2B, gọi đây là “an efficient local model for laptops and PCs to work through multi-step tasks inside popular agent harnesses” – một mô hình cục bộ hiệu quả cho laptop và PC, xử lý các tác vụ nhiều bước trong những bộ khung agent phổ biến. Bài đăng có khoảng 2.000 lượt thích và hơn 138.000 lượt xem khi chúng tôi ghi nhận.

Bí quyết nằm ở kiến trúc Mixture-of-Experts (MoE): mô hình có tổng cộng 24 tỷ tham số, nhưng với mỗi token chỉ 2 tỷ tham số được kích hoạt. Nhờ vậy, mô hình giữ được “kiến thức” của một mô hình lớn trong khi chi phí tính toán mỗi bước gần với một mô hình nhỏ.

Thông số chính

Tổng hợp từ thông báo của Liquid AI và các tài khoản theo dõi AI trên X:

• Cửa sổ ngữ cảnh 131.000 token, tăng từ 32.000 ở LFM2-24B-A2B;
• Giữ kiến trúc của LFM2-24B-A2B với 40 lớp và 64 chuyên gia (expert) mỗi khối MoE, theo @AIQuanting;
• Bộ từ vựng tăng từ 65.000 lên 128.000 và dữ liệu tiền huấn luyện tăng từ 17.000 tỷ lên 33.000 tỷ token, theo @YashChaudharyAI;
• Là mô hình chỉ chạy ở chế độ suy luận (reasoning), được mô tả là thành viên lớn nhất và cuối cùng của dòng LFM2.5;
• Trọng số mở trên Hugging Face, hỗ trợ các công cụ như llama.cpp.

Nhanh đến đâu trên máy cá nhân?

Theo bản tổng hợp tin tức của X, mô hình đạt khoảng 184 token/giây trên Apple M5 Max. Đáng chú ý hơn với người dùng phổ thông, ngay cả trên card đồ họa RTX 3060 – dòng GPU tầm trung đã ra mắt từ nhiều năm trước – mô hình vẫn giải mã ở 87 token/giây khi dùng đầy đủ ngữ cảnh.

Ở các bài đánh giá về agent, X News cho biết LFM2.5-24B-A2B thường ngang hoặc vượt những đối thủ lớn hơn như Qwen3.6-35B-A3B. Đây là kết quả do nhà phát triển công bố và cộng đồng bước đầu thử nghiệm; cần thêm thời gian để có đánh giá độc lập trên nhiều tác vụ thực tế.

Cộng đồng thử nghiệm

Các thử nghiệm cộng đồng được X News tổng hợp nhấn mạnh mức tiêu thụ bộ nhớ thấp và tiềm năng tinh chỉnh cục bộ cho những lĩnh vực nhạy cảm về dữ liệu như y tế – nơi doanh nghiệp không muốn gửi thông tin ra máy chủ bên ngoài.

Vì sao đáng chú ý?

Xu hướng “AI cục bộ” đang tăng tốc: người dùng muốn agent chạy được trên máy của mình để tiết kiệm chi phí API, giảm độ trễ và giữ quyền riêng tư. Một mô hình 24 tỷ tham số chạy mượt trên GPU tầm trung với ngữ cảnh 131.000 token là bước tiến đáng kể theo hướng này. Với lập trình viên Việt Nam, đây cũng là lựa chọn đáng thử cho các agent nội bộ, công cụ tóm tắt tài liệu hay trợ lý lập trình offline.

Nguồn tham khảo

• @liquidai – ra mắt LFM2.5-24B-A2B
• @AIQuanting – kiến trúc 40 lớp, 64 expert
• @YashChaudharyAI – tóm tắt thông số
• X News – Liquid AI Releases Efficient 24B Agent Model for Everyday Hardware

Số liệu tương tác (lượt thích, lượt xem) được ghi nhận khoảng 7h30 ngày 14/10/2026 (giờ Việt Nam) và có thể đã thay đổi. Một phần nội dung tổng hợp từ X News – bản tóm tắt bài đăng trên X có thể tiếp tục được cập nhật.