chưng cất mô hình

Chưng cất mô hình (Model Distillation) là kỹ thuật transfer knowledge từ mô hình lớn (teacher) sang mô hình nhỏ (student). Giữ năng lực tương đương nhưng nhẹ hơn, chạy nhanh và rẻ hơn.

1 bài viết