Nếu bạn từng train một mạng nơ-ron sâu và thấy loss gần như không giảm sau rất nhiều epoch, khả năng cao bạn đã gặp vanishing gradient. Đây là một trong những vấn đề kinh điển nhất của deep learning, cũng là lý do trực tiếp khiến nhiều kỹ thuật quen thuộc như ReLU hay residual connection ra đời. Trong bài này, mình sẽ giải thích hiện tượng này theo cách dễ hiểu nhất có thể.
Vanishing gradient là gì?
Vanishing gradient là hiện tượng gradient — tín hiệu dùng để điều chỉnh trọng số của mô hình — bị thu nhỏ dần về gần bằng 0 khi được truyền ngược từ lớp cuối về lớp đầu của mạng nơ-ron. Hậu quả là các lớp đầu gần như không được học gì, dù bạn train bao nhiêu vòng đi nữa.
Hãy tưởng tượng trò truyền tin: hai mươi người xếp hàng, người đầu tiên thì thầm một câu dài cho người kế tiếp. Đến người cuối cùng, thông điệp chỉ còn lại “ờ”. Backpropagation gặp chuyện y hệt khi mạng quá sâu: chỉ đạo từ hàm mất mát truyền về lớp đầu đã phai nhạt gần hết.
Để nắm bối cảnh, bạn nên biết trước hai khái niệm nền tảng: gradient descent — cách mô hình dùng gradient để cập nhật trọng số, và backpropagation — cách gradient được tính rồi truyền ngược qua từng lớp.
Vì sao gradient lại biến mất trong mạng sâu?
Nguyên nhân cốt lõi nằm ở quy tắc chuỗi trong tính đạo hàm. Gradient tại lớp đầu bằng tích của rất nhiều đạo hàm trung gian, mỗi lớp đóng góp một thừa số. Nếu các thừa số này có giá trị nhỏ hơn 1, tích của chúng sẽ co lại theo cấp số nhân.
Một ví dụ bằng con số: giả sử mỗi lớp nhân gradient với 0.5. Sau 20 lớp, tín hiệu chỉ còn 0.5 lũy thừa 20, tức khoảng một phần triệu. Chỉ đạo mờ nhạt đến mức đó thì lớp đầu chẳng biết phải chỉnh trọng số thế nào cho đúng.
Thủ phạm kinh điển là các hàm kích hoạt cũ như sigmoid và tanh. Đạo hàm của sigmoid tối đa chỉ 0.25, và thường nhỏ hơn nhiều ở hai vùng bão hòa. Cộng thêm trọng số khởi tạo kém, mạng càng sâu thì phần đầu càng tê liệt.
Dấu hiệu nào cho thấy mô hình bị vanishing gradient?
Dấu hiệu rõ nhất là loss giảm rất chậm rồi đứng im, biểu đồ phẳng như bàn ủi dù bạn đã đổi learning rate. Cùng lúc đó, độ chính xác trên tập train cũng lẹt đẹt, cho thấy mô hình không học được từ dữ liệu, chứ không phải do thiếu kiên nhẫn khi train.
Cách kiểm tra chính xác hơn: đo độ lớn gradient theo từng lớp. Nếu gradient norm ở lớp đầu nhỏ hơn lớp cuối vài bậc độ lớn, chẩn đoán gần như chắc chắn. Lưu ý rằng loss phẳng cũng có thể do learning rate quá nhỏ hoặc dữ liệu nhiễu, nên bạn nên loại trừ các khả năng đó trước.
Vanishing gradient và exploding gradient khác nhau thế nào?
Chúng là hai mặt của cùng một đồng xu. Nếu các thừa số trong tích nhỏ hơn 1 thì gradient tắt dần — đó là vanishing. Nếu lớn hơn 1 thì gradient tăng vọt — đó là exploding gradient. Cái trước làm mô hình chững lại, cái sau làm trọng số nhảy loạn và loss thành NaN chỉ sau vài bước.
Exploding gradient dễ xử lý hơn hẳn: chỉ cần đặt giới hạn bằng gradient clipping. Vanishing gradient khó chiều hơn vì vấn đề nằm trong chính kiến trúc và hàm kích hoạt, phải thay đổi cách thiết kế mạng mới giải quyết được tận gốc.
Có những cách nào để khắc phục vanishing gradient?
May mắn là cộng đồng nghiên cứu đã giải quyết vấn đề này khá triệt để trong hai thập kỷ qua. Dưới đây là các phương án phổ biến nhất, theo mức độ bạn sẽ gặp trong thực tế:
- Dùng ReLU thay cho sigmoid: đạo hàm của ReLU bằng 1 với mọi giá trị dương, nên không làm co gradient trên đường truyền ngược.
- Kết nối residual: residual connection mở “cao tốc” cho gradient đi thẳng, bỏ qua các lớp trung gian. Đây là lý do ResNet train được hàng trăm lớp.
- Normalization: Layer Normalization giữ phân phối giá trị ổn định qua từng lớp, tránh gradient bị co giãn mất kiểm soát.
- Khởi tạo trọng số hợp lý: các phương pháp như He hay Xavier giúp đạo hàm trung gian dao động quanh mức 1 thay vì lệch xa. Chi tiết nằm trong bài về khởi tạo trọng số.
- Dùng LSTM hoặc GRU cho dữ liệu chuỗi: hai kiến trúc này có cổng điều khiển, ra đời chính nhằm khắc phục vanishing gradient của RNN truyền thống.
Vanishing gradient liên quan gì đến ChatGPT và các LLM?
Nếu vấn đề này chưa được giải quyết, sẽ không có ChatGPT như ngày nay. Các mô hình ngôn ngữ lớn như GPT hay Gemini có hàng chục đến hàng trăm lớp Transformer, và chúng chỉ train nổi nhờ tổ hợp residual connection, Layer Normalization cùng ReLU và các biến thể của nó.
Cá nhân mình thấy đây là ví dụ đẹp về cách deep learning tiến bộ: một rào cản tưởng chừng chết người, nhưng mỗi giải pháp được tích lũy dần lại mở đường cho thế hệ mô hình mới. Hiểu rõ vanishing gradient giúp bạn đọc paper hiện đại dễ hơn rất nhiều, vì gần như mọi kiến trúc ngày nay đều in dấu vết của các giải pháp chống lại nó.
Kết luận — người mới nên nhớ gì?
Vanishing gradient là hiện tượng gradient truyền ngược bị thu nhỏ dần về 0, khiến các lớp đầu của mạng sâu gần như không học được. Nguyên nhân là tích nhiều đạo hàm nhỏ hơn 1 theo quy tắc chuỗi, trầm trọng hơn bởi hàm sigmoid và độ sâu mạng quá lớn.
Khi tự train mô hình, nếu loss phẳng lì, đừng vội đổ lỗi cho dữ liệu. Hãy thử đo gradient theo lớp, kiểm tra hàm kích hoạt và kiến trúc trước. Nhiều khi chỉ cần đổi sang ReLU hoặc thêm kết nối residual là mô hình sống lại ngay. Đó cũng là kinh nghiệm lặp lại nhiều nhất mà mình gặp trong thực tế.
