Trong bài này
RAG là cách kết hợp mô hình tạo sinh với bước tìm kiếm thông tin bên ngoài. Hệ thống truy xuất nội dung liên quan rồi đưa nội dung đó vào context trước khi mô hình tạo câu trả lời.
Retrieve → Context → Generate
Quy trình cơ bản gồm tìm tài liệu liên quan, đưa phần liên quan vào context, sau đó yêu cầu mô hình tạo câu trả lời.
Grounding là gì?
Grounding là gắn đầu ra của mô hình với dữ liệu hoặc nguồn cụ thể có thể kiểm tra.
RAG khác huấn luyện lại model
RAG không nhất thiết thay đổi weights của model; nó thay đổi thông tin được cung cấp tại thời điểm inference.
Nguồn kém vẫn cho kết quả kém
Nếu tài liệu lỗi thời, truy xuất nhầm hoặc context thiếu, câu trả lời vẫn có thể sai hoặc không đầy đủ.
Điều cần nhớ
- RAG thêm bước truy xuất trước khi sinh câu trả lời.
- Grounding giúp gắn đầu ra với nguồn.
- RAG khác với huấn luyện lại weights.
Kiểm tra nhanh
- Ba bước cơ bản của RAG là gì?
- RAG có nhất thiết đổi weights không?
- Grounding nhằm mục đích gì?
- Nguồn tài liệu sai thì RAG có tự sửa được không?