Mixture of Experts

Mixture of Experts (MoE) là kiến trúc mô hình AI sử dụng nhiều chuyên gia (expert) riêng biệt, mỗi lần chỉ kích hoạt một phần. Giúp tăng quy mô mô hình mà vẫn giữ được hiệu quả tính toán.

3 bài viết