llama.cpp

llama.cpp là thư viện C++ mã nguồn mở cho phép chạy mô hình LLM (như Llama) trên CPU thông thường mà không cần GPU đắt tiền. Đóng góp quan trọng vào việc dân chủ hóa AI cho cộng đồng.

2 bài viết