Sigmoid Function Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Sigmoid là một trong những hàm kích hoạt (activation function) lâu đời nhất trong machine learning. Mình đã thấy nó xuất hiện ở khắp nơi,...
Đọc tiếp →
Bài viết của ThienLv
Positional Encoding Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Bạn đã bao giờ thắc mắc tại sao ChatGPT hiểu được sự khác biệt giữa “chó cắn mèo” và “mèo cắn chó” chưa? Cùng là...
Đọc tiếp →
PagedAttention Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
PagedAttention Là Gì? PagedAttention thuật toán quản lý bộ nhớ KV cache cho mô hình ngôn ngữ lớn PagedAttention là thuật toán quản lý bộ...
Đọc tiếp →
Exploding Gradient (Gradient Bùng Nổ) Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Exploding Gradient là gì? Exploding gradient (gradient bùng nổ) là hiện tượng giá trị gradient trong lúc huấn luyện mạng nơ-ron tăng vọt lên mức...
Đọc tiếp →
Gradient Checkpointing Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Gradient Checkpointing Là Gì? Gradient Checkpointing tối ưu bộ nhớ khi huấn luyện mạng nơ-ron Gradient Checkpointing là một kỹ thuật tối ưu bộ nhớ...
Đọc tiếp →
FLARE Là Gì? Kỹ Thuật AI Tự Tìm Kiếm Tài Liệu Khi Đang Trả Lời
FLARE Là Gì? Kỹ thuật FLARE giúp AI tự tìm kiếm tài liệu ngay khi đang trả lời FLARE (Forward-Looking Active REtrieval Augmented Generation) là...
Đọc tiếp →
Gradient Accumulation Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Gradient Accumulation Là Gì? Minh họa kỹ thuật Gradient Accumulation trong huấn luyện mô hình AI Gradient Accumulation là kỹ thuật cho phép huấn luyện...
Đọc tiếp →
Mixed Precision Training Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
Mixed Precision Training Là Gì? Minh họa kỹ thuật Mixed Precision Training trong huấn luyện AI Mixed Precision Training là kỹ thuật huấn luyện mô...
Đọc tiếp →
QLoRA (Quantized LoRA) Là Gì? Giải Thích Dễ Hiểu Cho Người Mới
QLoRA (Quantized Low-Rank Adaptation) là một kỹ thuật tối ưu hóa quá trình fine-tune mô hình ngôn ngữ lớn, giúp giảm đáng kể lượng bộ...
Đọc tiếp →