B2Shift · Publicado el 27 de agosto de 2026 · Actualizado el 27 de agosto de 2026
La generación de recuperación aumentada (RAG) permite que un sistema responda a partir de sus documentos en lugar de los datos de entrenamiento generales de un modelo, con una cita a la fuente. La idea es simple; la variación de costos en la práctica proviene de un pequeño número de decisiones tomadas tempranamente.
Qué hace realmente un oleoducto RAG
Los documentos se dividen en fragmentos, se convierten en incrustaciones de vectores y se almacenan en una base de datos de vectores. Una pregunta se incrusta de la misma manera, se recuperan los fragmentos que coinciden más estrechamente y el modelo responde utilizando solo esos fragmentos como contexto, con una cita al documento fuente. Elimine el paso de citación y tendrá un sistema que nadie podrá auditar cuando esté mal.
¿Qué impulsa el costo más que la elección del modelo?
Cuatro cosas mueven el número más que el modelo de idioma que elijas. Volumen y formato del documento: los archivos PDF escaneados necesitan OCR antes de poder fragmentarse, y los errores de OCR se propagan a cada respuesta posterior. Estrategia de fragmentación: la fragmentación ingenua de longitud fija es barata de construir y con frecuencia es incorrecta en documentos estructurados como contratos o tablas. Calidad de recuperación: una base de datos vectorial tiene una infraestructura real y costos de consulta a escala que necesitan ajustes, no solo instalación. Y evaluación: sin un conjunto de pruebas de preguntas reales y respuestas correctas conocidas, no se puede saber si el sistema es preciso; sólo se puede saber si suena seguro, lo cual es algo completamente diferente.
Donde la precisión realmente se rompe
Los documentos fuente de mala calidad son el error más común, no las limitaciones del modelo: un sistema RAG no puede responder correctamente a partir de un documento que en sí mismo es incorrecto o ambiguo. Las tablas, la escritura a mano escaneada y los diseños de varias columnas necesitan un manejo especial; la extracción ingenua los deja caer o los revuelve silenciosamente. Y la recuperación basada en permisos es tan importante como la precisión: un sistema que puede recuperar un documento que un usuario no debería ver es un error de seguridad, no un error de precisión.
Qué incluye una construcción realista
Una canalización RAG de producción necesita un umbral de confianza definido por debajo del cual el sistema dice "No tengo una respuesta confiable" en lugar de adivinar, una cola de revisión para casos de baja confianza y un informe de precisión medido contra su propio conjunto de pruebas; no un punto de referencia genérico, porque sus documentos no son los documentos del punto de referencia. Consulte Automatización de documentos y RAG para saber cómo analizamos esto.