Feed-Forward Network Là Gì?
Feed-Forward Network (FFN) hay mạng truyền tiến là kiểu mạng nơ-ron nhân tạo đơn giản nhất, trong đó dữ liệu chỉ chảy theo một hướng: từ đầu vào (input) qua các lớp ẩn (hidden layers) rồi ra đầu ra (output). Không có vòng lặp, không quay lui. Nước chảy xuôi, không chảy ngược.
Nếu bạn từng nghe đến “neural network” mà không rõ nó cấu tạo thế nào, thì FFN chính là viên gạch nền móng. Hầu hết các kiến trúc AI phức tạp hơn như Transformer hay CNN đều chứa FFN bên trong.
Cấu Trúc Của Feed-Forward Network Gồm Những Gì?
Một FFN cơ bản gồm ba phần chính:
- Input layer (lớp đầu vào): Nhận dữ liệu thô, ví dụ like pixel của ảnh hoặc vector embedding của từ.
- Hidden layers (lớp ẩn): Nơi dữ liệu được biến đổi qua nhiều lần. Mỗi layer áp dụng phép nhân ma trận với trọng số (weights), cộng thêm bias, rồi đưa qua hàm kích hoạt (activation function) như ReLU hay Sigmoid.
- Output layer (lớp đầu ra): Trả kết quả cuối cùng, ví dụ như xác suất phân loại ảnh là mèo hay chó.
Đặc điểm quan trọng: mỗi neuron trong một lớp kết nối với tất cả neuron ở lớp tiếp theo. Đó là lý do người ta hay gọi là fully connected layer.
Feed-Forward Network Khác Gì So Với Các Mạng Khác?
Điểm khác biệt lớn nhất nằm ở chữ “feed-forward” — truyền tiến. Dữ liệu đi thẳng một chiều, không quay lại. So sánh với các kiểu mạng khác:
RNN (Recurrent Neural Network): Có vòng lặp, nhớ thông tin từ bước trước. FFN thì không nhớ gì cả, mỗi lần xử lý là độc lập.
CNN (Convolutional Neural Network): Dùng phép tích chập (convolution) thay vì kết nối đầy đủ. CNN giỏi xử lý ảnh, FFN giỏi xử lý dữ liệu dạng bảng.
Transformer: Thêm cơ chế attention bên cạnh FFN. Thực tế, mỗi layer trong Transformer đều có một FFN bên trong sau phần attention.
Feed-Forward Network Hoạt Động Thế Nào?
Quy trình xử lý của FFN diễn ra theo hai giai đoạn:
1. Forward pass (Truyền tiến): Dữ liệu đi từ input qua các lớp, mỗi lớp tính toán output rồi truyền cho lớp sau. Kết quả cuối cùng là dự đoán của mạng.
2. Backpropagation (Lan truyền ngược): So sánh dự đoán với kết quả đúng, tính sai số, rồi điều chỉnh trọng số ngược từ output về input. Quá trình này lặp đi lặp lại cho đến khi mạng học được.
Đơn giản hơn: forward pass là “đoán”, backpropagation là “sửa”. Lặp đủ nhiều lần thì mạng đoán ngày càng chính xác.
Ví Dụ Thực Tế Về Feed-Forward Network
Giả sử mình muốn xây dựng một FFN đơn giản phân loại email là spam hay không. Input có thể là các đặc trưng: tần suất từ “free”, có link đáng ngờ không, độ dài tiêu đề… FFN sẽ:
- Lớp đầu vào nhận 10 đặc trưng của email.
- Lớp ẩn đầu tiên biến đổi thành 32 giá trị trung gian qua hàm ReLU.
- Lớp ẩn thứ hai biến tiếp thành 16 giá trị.
- Lớp đầu ra trả ra một số từ 0 đến 1, trên 0.5 thì là spam.
Sau vài nghìn email đã gán nhãn, mạng tự điều chỉnh trọng số để phân loại ngày càng chính xác.
FFN Trong Transformer Có Vai Trì Gì?
Nếu bạn tìm hiểu về Transformer (kiến trúc đứng sau GPT, Claude, Gemini), sẽ thấy mỗi block Transformer chứa hai phần: multi-head attention và FFN. Phần attention giúp model hiểu mối quan hệ giữa các từ, còn FFN chịu trách nhiệm “xử lý sâu” thông tin đó.
Cụ thể, FFN trong Transformer thường có cấu trúc: lớp tuyến tính mở rộng kích thước (thường gấp 4 lần), áp dụng ReLU hoặc GELU, rồi một lớp tuyến tính khác thu nhỏ lại. Nó giống như một bộ lọc nâng cao chất lượng biểu diễn của từ trước khi chuyển sang layer tiếp theo.
Ưu Điểm Và Hạn Chế Của Feed-Forward Network
Ưu điểm:
- Đơn giản, dễ hiểu, dễ implement.
- Chạy nhanh vì không có vòng lặp.
- Phù hợp với dữ liệu có cấu trúc cố định (bảng số, vector đặc trưng).
Hạn chế:
- Không xử lý tốt dữ liệu tuần tự (văn bản, âm thanh) vì không có bộ nhớ.
- Không nhận thức không gian như CNN, nên kém với ảnh.
- Số lượng tham số tăng nhanh với dữ liệu lớn, dễ bị overfitting.
Đó là lý do FFN hiếm khi đứng một mình trong các hệ thống AI hiện đại. Nó thường kết hợp với các cơ chế khác để bù đắp điểm yếu.
Có Nên Tự Xây Dựng Feed-Forward Network Không?
Nếu bạn đang học AI, mình đồng ý. FFN là bài tập đầu tay tuyệt vời. Viết một FFN phân loại MNIST (chữ số viết tay) trong PyTorch hoặc TensorFlow chưa đến 30 dòng code. Qua đó bạn sẽ nắm được forward pass, loss function, backpropagation — những khái niệm nền tảng cho mọi kiến trúc sau này.
Nhưng nếu mục tiêu là xây sản phẩm thực tế, ít ai dùng FFN thuần. Mọi người chuyển sang Transformer, CNN, hoặc kết hợp nhiều kiến trúc. FFN lúc này chỉ là một linh kiện trong cỗ máy lớn hơn.
Kết Luận
Feed-Forward Network là nền tảng của toàn bộ deep learning. Hiểu được nó, bạn đã có chìa khóa để mở cửa sang mọi kiến trúc AI phức tạp hơn. Dù GPT hay Claude phức tạp đến đâu, bên trong vẫn là những FFN cần mẫn nhân ma trận và áp hàm kích hoạt.
