Blog · Tecnología
IA que cita sus fuentes vs. IA que improvisa
Dos enfoques con el mismo nombre técnico y resultados muy distintos: uno cita la fuente de cada respuesta; el otro improvisa con seguridad.
Un nombre, dos comportamientos
Antes de responder, un asistente de IA puede consultar los documentos de tu empresa y usar ese contenido para contestar. En el mercado la técnica se conoce como RAG. En el papel suena infalible. En la práctica hay dos formas de implementarla que se llaman igual y se comportan distinto: la flexible y la estricta.
La versión flexible
Es la configuración por defecto. El sistema busca los fragmentos de documentos más parecidos a la pregunta, se los entrega al modelo y el modelo los usa como referencia. El problema: también se siente libre de completar con su conocimiento general cuando cree que ayuda.
Eso la hace útil para un chat de mercadeo y peligrosa para una operación regulada. Dice cosas ciertas con la misma seguridad con la que dice cosas inventadas. Cuando el asesor de una cooperativa cita una tasa o un abogado cita un fallo, la diferencia entre un dato real y uno inventado deja de ser un detalle: es un riesgo legal.
La versión estricta
Es la que usamos cuando la respuesta tiene consecuencias regulatorias. Tres reglas:
- Cita obligatoria. Cada afirmación se puede rastrear al documento que la sostiene. Si no hay fuente, el agente responde “no encontré la información”.
- Nada de completar. El modelo no agrega lo que cree saber. Si los documentos no cubren el caso, lo pasa a una persona.
- Registro revisable. Cada respuesta queda registrada junto con los documentos consultados, para verificar de dónde salió.
Cuándo usar cada una
La flexible sirve para orientación general y atención de primera línea, donde basta con “lo más parecido posible”, equivocarse cuesta poco y el usuario acepta confirmar con una persona.
La estricta es obligatoria en tributario, cumplimiento financiero, productos regulados, salud y cualquier área donde el cliente tenga que defender una respuesta ante un auditor. No es una mejora opcional: cambia lo que se le permite hacer al modelo.
Lo que cuesta
La versión estricta pide más preparación: documentos ordenados y bien etiquetados, revisiones continuas de calidad y un agente que sepa decir “no sé” con la misma naturalidad con la que responde. La inversión se paga la primera vez que una respuesta pasa una auditoría sin un solo dato sin respaldo.
La regla práctica: si algún día tu cliente puede tener que demostrar de dónde salió una respuesta, elige la versión estricta desde el principio. Convertir la flexible en estricta cuando ya está en producción cuesta más que diseñarla bien.