B2Shift · Đã xuất bản 27 tháng 8, 2026 · Đã cập nhật 27 tháng 8, 2026
Tạo tăng cường truy xuất (RAG) cho phép hệ thống trả lời từ tài liệu của bạn thay vì dữ liệu đào tạo chung của mô hình, kèm theo trích dẫn quay lại nguồn. Ý tưởng rất đơn giản; sự khác biệt về chi phí trong thực tế xuất phát từ một số ít các quyết định được đưa ra sớm.
Đường dẫn RAG thực sự làm được những gì
Tài liệu được chia thành nhiều phần, được chuyển đổi thành các phần nhúng vectơ và được lưu trữ trong cơ sở dữ liệu vectơ. Một câu hỏi được nhúng theo cách tương tự, các đoạn phù hợp nhất sẽ được truy xuất và câu trả lời của mô hình chỉ sử dụng các đoạn đó làm ngữ cảnh - kèm theo trích dẫn quay lại tài liệu nguồn. Loại bỏ bước trích dẫn và bạn có một hệ thống không ai có thể kiểm tra khi nó sai.
Điều gì khiến chi phí cao hơn việc lựa chọn mẫu mã
Bốn điều làm thay đổi số lượng nhiều hơn mô hình ngôn ngữ bạn chọn. Khối lượng và định dạng tài liệu: các tệp PDF được quét cần OCR trước khi chúng có thể được chia nhỏ và lỗi OCR sẽ truyền vào mọi câu trả lời ở phía dưới. Chiến lược phân đoạn: việc xây dựng phân đoạn có độ dài cố định đơn giản rất rẻ và thường sai trên các tài liệu có cấu trúc như hợp đồng hoặc bảng. Chất lượng truy xuất: cơ sở dữ liệu vectơ có cơ sở hạ tầng thực và chi phí truy vấn ở quy mô cần được điều chỉnh chứ không chỉ cài đặt. Và đánh giá: nếu không có bộ kiểm tra các câu hỏi thực tế và các câu trả lời đã biết chính xác, bạn không thể biết liệu hệ thống có chính xác hay không - bạn chỉ có thể biết liệu nó có vẻ tự tin hay không, đó hoàn toàn là một điều khác.
Nơi độ chính xác thực sự bị phá vỡ
Tài liệu nguồn chất lượng kém là lỗi phổ biến nhất, không phải là giới hạn của mô hình — hệ thống RAG không thể trả lời chính xác từ một tài liệu mà bản thân nó sai hoặc không rõ ràng. Bảng, chữ viết tay được quét và bố cục nhiều cột cần được xử lý đặc biệt; việc khai thác ngây thơ âm thầm đánh rơi hoặc xáo trộn chúng. Và việc truy xuất nhận biết quyền cũng quan trọng không kém độ chính xác: một hệ thống có thể truy xuất tài liệu mà người dùng không nên xem là lỗi bảo mật chứ không phải lỗi chính xác.
Bản dựng thực tế bao gồm những gì
Quy trình RAG sản xuất cần có ngưỡng tin cậy được xác định mà dưới đó hệ thống sẽ thông báo "Tôi không có câu trả lời đáng tin cậy" thay vì đoán, hàng đợi đánh giá cho các trường hợp có độ tin cậy thấp và báo cáo độ chính xác được đo dựa trên bộ kiểm tra của riêng bạn — không phải là điểm chuẩn chung vì tài liệu của bạn không phải là tài liệu của điểm chuẩn. Xem Tự động hóa tài liệu & RAG để biết cách chúng tôi xác định phạm vi này.