RAG o fine tuning: ¿cuál necesitas de verdad?
Sergio Jimenez21 de octubre de 20266 min de lectura
Los equipos recurren al fine tuning cuando deberían recurrir a la recuperación, y el error sale caro de una forma muy concreta: gastas seis semanas y un presupuesto de entrenamiento para descubrir que el modelo sigue sin conocer el cambio de política del martes pasado.
Las dos técnicas resuelven problemas distintos. Esta es la distinción que importa.
La respuesta corta
| Quieres que el modelo | Usa |
|---|---|
| Conozca hechos con los que nunca se entrenó | RAG |
| Conozca hechos que cambian cada semana | RAG |
| Cite una fuente de lo que dice | RAG |
| Responda en un formato o una voz consistentes | Fine tuning |
| Siga de forma fiable una tarea especializada | Fine tuning |
| Sea más barato por llamada a gran volumen | Fine tuning |
| Ambas cosas | Las dos, en ese orden |
La regla que sobrevive al contacto con la realidad: RAG enseña conocimiento, el fine tuning enseña comportamiento. Si tu problema es que el modelo no sabe algo, entrenarlo no lo arregla de forma fiable. Si tu problema es que el modelo sabe pero responde mal, la recuperación tampoco lo arregla.
Qué es RAG en realidad
Generación aumentada por recuperación significa encontrar los pasajes relevantes de tu propio contenido en el momento de la pregunta y ponerlos delante del modelo junto con ella. El modelo razona sobre texto que puede ver, no sobre lo que memorizó.
Lo que ganas: hechos vigentes en el instante en que actualizas un documento, citas que permiten a quien lee verificar una respuesta, cero costo de entrenamiento, y la capacidad de retirar un documento y que el sistema deje de citarlo de inmediato. Esa última propiedad importa más de lo que la gente espera, porque es lo que hace el sistema gobernable.
Lo que cuesta: cada llamada carga los pasajes recuperados, así que tu factura de tokens es mayor por petición, y la calidad depende casi por completo de la recuperación. Un sistema RAG que devuelve los tres párrafos equivocados produce una respuesta equivocada con total seguridad, y el modelo no es el culpable.
Qué es el fine tuning en realidad
Seguir entrenando un modelo con tus ejemplos para que cambie su comportamiento por defecto. No estás añadiendo una base de conocimiento; estás desplazando lo que el modelo hace por reflejo.
Es excelente para: producir salida en una estructura rígida, respetar un estilo de casa sin un prompt largo que lo explique, resolver una tarea estrecha de clasificación mejor que un modelo general, y recortar costo a escala, porque un modelo pequeño afinado puede igualar a uno grande y general en un trabajo concreto.
Es malo para: los hechos. Entrenar no crea una tabla de consulta fiable. El modelo producirá algo que se parece a tus datos y que a veces está mal, sin forma de saber cuál es cuál. Además es estático: el conocimiento queda congelado en el momento del entrenamiento, y actualizarlo significa volver a entrenar.
La prueba que lo decide
Haz una sola pregunta. Si una persona experta tuviera delante el documento correcto, ¿podría responder bien?
Si la respuesta es sí, tu problema es de recuperación. Pon el documento correcto delante del modelo. El fine tuning no ayudará y puede perjudicar, porque un modelo entrenado con tus documentos se vuelve más seguro sobre ellos sin volverse más preciso.
Si la respuesta es no, porque responder exige una habilidad o un criterio y no un dato, entonces tienes un problema de comportamiento y el fine tuning es la herramienta correcta.
Qué probamos antes que cualquiera de las dos
La mayoría de problemas presentados como "necesitamos fine tuning" se resuelven con prompting, y vale una tarde averiguarlo. Un prompt de sistema claro con tres o cuatro ejemplos trabajados cierra la mayor parte de las brechas de formato y tono con cero costo de entrenamiento y ninguna infraestructura nueva.
Nuestro orden de escalada, que no ha cambiado en dos años:
- Prompting con ejemplos. Horas. Resuelve la mayoría de problemas de formato y tono.
- RAG. Semanas. Resuelve todo problema de conocimiento, y es la única opción si los hechos cambian.
- Fine tuning. Semanas más costo de entrenamiento. Para comportamiento al que el prompting no llega, o para costo a escala.
Saltar al paso tres porque suena más serio es el error más común y más caro de la IA aplicada.
Cuándo quieres las dos de verdad
Un sistema maduro suele usar ambas, y el reparto es limpio: afina la forma de la respuesta, recupera el contenido de ella.
Un agente de soporte es el ejemplo canónico. Afínalo para que cada respuesta siga tu política de escalado, use tu tono y termine siempre con el siguiente paso. Recupera la documentación vigente del producto para que los hechos dentro de esa estructura sean correctos hoy. Ninguna técnica podría hacer el trabajo de la otra, y juntas hacen lo que ninguna hace sola. Si estás calculando el costo, nuestro desglose de cuánto cuesta construir y operar un agente de IA cubre dónde encaja cada una en el presupuesto.
Preguntas frecuentes
¿Cuál es la diferencia entre RAG y fine tuning?
RAG aporta conocimiento en el momento de la pregunta recuperando los pasajes relevantes y mostrándoselos al modelo. El fine tuning cambia el comportamiento por defecto del modelo entrenándolo con ejemplos. RAG enseña conocimiento, el fine tuning enseña comportamiento. Resuelven problemas distintos y no son sustitutos.
¿Uso RAG o fine tuning para los documentos de mi empresa?
RAG, en casi todos los casos. Los documentos cambian, y el conocimiento de un modelo afinado queda congelado en el entrenamiento y no puede citar una fuente. Usa RAG para que un documento actualizado se refleje de inmediato y toda respuesta pueda rastrearse hasta el pasaje del que salió.
¿El fine tuning es más barato que RAG?
Más barato por llamada, más caro de montar y de mantener. El fine tuning cuesta tiempo y dinero de entrenamiento por adelantado pero no necesita contexto recuperado en el prompt, así que cada petición es más pequeña. A volumen muy alto sobre una tarea estrecha esa economía gana. A volumen bajo o moderado rara vez se paga.
¿Se pueden usar RAG y fine tuning juntos?
Sí, y los sistemas maduros suelen hacerlo. Afina la forma de la respuesta, su estructura, tono y política, y recupera el contenido, los hechos que deben estar al día. Un agente de soporte que sigue tus reglas de escalado por reflejo mientras cita la documentación de hoy es exactamente esa combinación.
¿Por qué mi sistema RAG da respuestas incorrectas?
Casi siempre la recuperación, no el modelo. Si se recuperan los pasajes equivocados, el modelo responde con seguridad desde la fuente equivocada. Revisa qué se está recuperando antes de cambiar el prompt o el modelo: los culpables habituales son fragmentos demasiado grandes, documentos con varias versiones contradictorias, y ningún filtro por fecha.
¿Necesito fine tuning para que el modelo suene como mi marca?
Prueba primero con prompting, con tres o cuatro ejemplos trabajados en el prompt de sistema. Eso cierra la mayoría de brechas de tono en una tarde y sin costo de entrenamiento. Afina solo cuando el prompting haya fallado de verdad, o cuando el prompt necesario para sostener el estilo se haya vuelto tan largo que sea caro en cada llamada.
Por dónde empezar
Toma diez preguntas reales de tus usuarios. Para cada una, anota si una persona con el documento correcto podría responderla. Cuéntalas. Esa proporción te dice qué técnica necesitas, y toma una hora.
Si el resultado es mixto, o si la recuperación que ya tienes devuelve los pasajes equivocados, mándanos las diez preguntas y te decimos en cuál de los tres pasos estás realmente.
