RAG giúp hệ thống truy xuất tài liệu liên quan trước khi tạo câu trả lời, nhưng không làm AI hết sai.
Một hệ thống RAG thu thập tài liệu được phép dùng, chia nhỏ, lập chỉ mục và truy xuất đoạn liên quan khi người dùng đặt câu hỏi. Mô hình sử dụng ngữ cảnh đó để tổng hợp câu trả lời.
Nếu truy xuất sai, nguồn thiếu thông tin hoặc mô hình vượt dữ liệu, câu trả lời vẫn có thể sai. Nên bắt đầu với kho tài liệu hạn chế và bộ tiêu chí thành công đo được.