Multi-Task Learning Là Gì? Học Đa Nhiệm Giải Thích Dễ Hiểu
Multi-Task Learning Là Gì? Multi-Task Learning (MTL), hay học đa nhiệm, là một phương pháp huấn luyện AI mà ở đó một mô hình duy...
Đọc tiếp → 
Warmup Steps Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Khi mới bắt tay vào huấn luyện mô hình AI, mình hay gặp một tham số lạ lẫm trong các file config: warmup_steps. Ban đầu...
Đọc tiếp →
Learning Rate Schedule Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Nếu bạn từng huấn luyện một mô hình AI mà loss dao động loạn nhịp hoặc mãi không chịu giảm, thì khả năng cao vấn...
Đọc tiếp →
Tensor Parallelism Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Tensor Parallelism Là Gì? Minh họa Tensor Parallelism chia ma trận trọng số cho nhiều GPU Tensor Parallelism (song song tensor) là kỹ thuật chia...
Đọc tiếp →
Pooling Layer Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Pooling Layer Là Gì? Sơ đồ Pooling Layer trong mạng CNN Pooling Layer là một thành phần quan trọng trong mạng nơ-ron tích chập (CNN),...
Đọc tiếp →
Sigmoid Function Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Sigmoid là một trong những hàm kích hoạt (activation function) lâu đời nhất trong machine learning. Mình đã thấy nó xuất hiện ở khắp nơi,...
Đọc tiếp →
Exploding Gradient (Gradient Bùng Nổ) Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Exploding Gradient là gì? Exploding gradient (gradient bùng nổ) là hiện tượng giá trị gradient trong lúc huấn luyện mạng nơ-ron tăng vọt lên mức...
Đọc tiếp →
Gradient Checkpointing Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Gradient Checkpointing Là Gì? Gradient Checkpointing tối ưu bộ nhớ khi huấn luyện mạng nơ-ron Gradient Checkpointing là một kỹ thuật tối ưu bộ nhớ...
Đọc tiếp →
Gradient Accumulation Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Gradient Accumulation Là Gì? Minh họa kỹ thuật Gradient Accumulation trong huấn luyện mô hình AI Gradient Accumulation là kỹ thuật cho phép huấn luyện...
Đọc tiếp →