Bạn có một chatbot trả lời sai tên CEO của công ty mình. Fine-tuning lại cả mô hình chỉ để sửa một câu? Nản lắm. Đó chính là lúc Knowledge Editing phát huy tác dụng: sửa đúng một kiến thức lỗi bên trong AI mà không đụng đến phần còn lại. Trong bài này, mình sẽ giải thích kỹ thuật này hoạt động ra sao và khi nào đáng dùng.
Knowledge Editing là gì?
Knowledge Editing (chỉnh sửa tri thức mô hình) là kỹ thuật thay đổi một kiến thức cụ thể đã được “học thuộc” bên trong mô hình AI, mà không cần huấn luyện lại từ đầu. Ví dụ mô hình cứ khăng khăng rằng thủ đô của Úc là Sydney, bạn sửa lại thành Canberra đúng một chỗ đó.
Cách làm khác nhau ở đây: fine-tuning thay đổi cả hành vi mô hình, còn Knowledge Editing giống như một ca phẫu thuật nội soi. Bác sĩ chỉ mổ đúng chỗ bị bệnh, không mở toàn bụng ra.
Tại sao mô hình AI cần được “phẫu thuật” tri thức?
Tri thức của mô hình đứng yên tại thời điểm kết thúc huấn luyện. Từ đó về sau, thế giới vẫn quay: công ty đổi CEO, quốc gia ban hành luật mới, sản phẩm ra phiên bản mới. Mô hình không biết gì về những thay đổi này.
Huấn luyện lại từ đầu là giải pháp đắt đỏ nhất, có thể tốn hàng triệu USD cho một mô hình lớn. Chưa kể mỗi lần train lại lại mất vài tháng, trong khi thông tin sai vẫn đang được phát tới khách hàng mỗi ngày.
Thứ ba, khi bạn fine-tune để dạy kiến thức mới, mô hình có nguy cơ mắc catastrophic forgetting: học cái mới, quên loạt cái cũ. Sửa một lỗi mà phát sinh ba lỗi mới thì không đáng.
Knowledge Editing hoạt động như thế nào?
Có ba hướng chính, và mỗi hướng giải quyết vấn đề theo một triết lý khác nhau.
Thứ nhất: sửa trực tiếp trọng số. Đây là hướng kinh điển với hai thuật toán nổi tiếng là ROME và MEMIT. Ý tưởng là các kiến thức dạng sự kiện thường nằm ở tầng MLP của Transformer. Thuật toán định vị đúng nhóm trọng số chứa fact bị sai, tính lại giá trị mới rồi vá vào.
Thứ hai: dùng mạng hiệu chỉnh. Các phương pháp như MEND huấn luyện một mạng nhỏ đóng vai trò “bác sĩ”, nhận đầu vào là bản sửa lỗi và tự sinh ra bản vá trọng số phù hợp. Ưu điểm là có thể vá hàng loạt lỗi một cách tự động.
Thứ ba: bộ nhớ ngoài. SERAC là đại diện tiêu biểu: thay vì đụng vào trọng số, hệ thống lưu các sửa lỗi trong một bộ nhớ riêng. Khi có câu hỏi, nó kiểm tra xem nội dung có dính đến lỗi đã sửa không rồi mới quyết định trả lời theo bản mới hay bản cũ.
Knowledge Editing khác Fine-tuning và RAG như thế nào?
Ba kỹ thuật này hay bị nhầm lẫn, nên mình so sánh nhanh cho bạn dễ hình dung.
Knowledge Editing sửa tri thức bên trong mô hình, thay đổi vĩnh viễn, không cần tra cứu gì lúc chạy. Hợp khi bạn có vài thông tin sai cứng đầu cần vá ngay.
RAG không sửa gì bên trong mô hình cả. Nó tìm tài liệu mới bên ngoài rồi nhét vào ngữ cảnh trước khi AI trả lời. Dữ liệu cập nhật liên tục mỗi ngày thì RAG vẫn là lựa chọn an toàn và phổ biến hơn hẳn.
Fine-tuning dạy mô hình phong cách, kỹ năng hay kiến thức ở tầm rộng, cần dữ liệu nhiều và thời gian huấn luyện đáng kể. Bạn muốn AI viết văn phong công ty mình thì dùng fine-tuning, đừng dùng Knowledge Editing.
Rủi ro nào cần biết trước khi dùng Knowledge Editing?
Rủi ro lớn nhất gọi là ripple effect, hiệu ứng lan tỏa. Kiến thức trong mô hình liên kết với nhau chằng chịt. Bạn sửa “CEO của công ty X là ông A” thì các câu hỏi kiểu “ai là người sáng lập X”, ” chồng của CEO X là ai” cũng phải khớp theo. Vá một chỗ mà các nhánh liên quan không theo kịp là mô hình trả lời mâu thuẫn.
Thứ hai là tác dụng phụ khó lường. Vá trọng số ở một tầng có thể ảnh hưởng dây chuyền sang các nhiệm vụ khác mà bạn không chủ động kiểm tra, đặc biệt là các tác vụ suy luận phức tạp.
Thứ ba, khó đánh giá. Muốn biết mô hình thực sự “nhớ” kiến thức mới, bạn cần thăm dò một cách có hệ thống, đúng là lúc kỹ thuật Knowledge Probe phát huy tác dụng: thử hỏi đủ kiểu biến thể để xem tri thức đã ăn sâu hay chỉ vá lót lớp ngoài.
Cuối cùng là mặt bảo mật. Nếu bạn có thể cài thông tin sai vào mô hình thì kẻ xấu cũng có thể. Với các hệ thống mở cho cộng đồng đóng góp, đây là cửa hậu cho tin giả ở quy mô lớn, nên cần cơ chế kiểm duyệt chặt.
Ai nên quan tâm đến Knowledge Editing?
Theo mình, ba nhóm người nên để ý kỹ thuật này. Nhóm vận hành chatbot doanh nghiệp cần vá thông tin nội bộ sai mà không muốn tái huấn luyện. Nhóm nghiên cứu an toàn AI thì xem đây là công cụ để vô hiệu hóa tri thức nguy hiểm trong mô hình. Nhóm xây dựng sản phẩm dùng nó để sửa các lỗi hallucination cục bộ, thay vì fine-tuning cả mô hình.
Lời khuyên thực tế của mình: cứ theo thứ tự ưu tiên là RAG trước, Knowledge Editing sau. Dữ liệu đổi liên tục thì RAG xử được. Chỉ khi có một fact đóng đính sai trong mô hình, RAG vẫn không véo lại được câu trả lời, đó mới là lúc Knowledge Editing ra tay.
Kết luận
Knowledge Editing là con dao mổ của kỹ sư AI: sửa chính xác một tri thức bên trong mô hình với chi phí gần như bằng không so với huấn luyện lại. ROME, MEMIT hay SERAC là những cái tên bạn nên nhớ nếu đào sâu hướng này. Cảnh báo duy nhất: dao mổ sắc thì cần tay nghề, hãy luôn kiểm tra hiệu ứng lan tỏa sau mỗi lần vá.
