Cómo funciona una fecha límite de conocimiento
Durante el entrenamiento, un modelo de lenguaje grande ajusta sus valores internos usando patrones encontrados en sus datos de entrenamiento. Una vez implementado el modelo entrenado, normalmente responde a tus preguntas usando esos valores sin actualizarlos. Los eventos nuevos no entran en el modelo simplemente porque pase el tiempo o porque alguien los mencione en un chat.
La fecha límite indicada resume hasta qué punto se pretende que llegue la actualidad de la información aprendida por el modelo. No significa que todas las fuentes se hayan recopilado en un solo día. Los datos de entrenamiento proceden de muchas fuentes, recopiladas y filtradas en momentos diferentes. Puede que falte información anterior a la fecha límite, que sea poco frecuente, contradictoria o que esté representada de forma demasiado débil para que el modelo la reproduzca de manera fiable.
Por ello, los investigadores distinguen entre una fecha límite indicada y una fecha límite efectiva. La fecha límite indicada es la fecha proporcionada por el proveedor del modelo. La fecha límite efectiva es el periodo hasta el que el modelo demuestra realmente un conocimiento fiable sobre una fuente o un tema concretos. La investigación con conjuntos de datos fechados ha demostrado que estos límites pueden diferir.
Esto hace que una fecha límite se parezca más a un borde difuso que a una pared sellada. El conocimiento puede volverse más irregular cerca del límite, y la cobertura varía según el tema.
Un ejemplo práctico
Supón que la documentación de un modelo indica el 31 de marzo como su fecha límite de conocimiento.
- Preguntas por una ley ampliamente difundida que se aprobó el 1 de febrero. El modelo puede responder correctamente porque el evento ocurrió antes de la fecha límite y apareció con suficiente frecuencia en sus datos de entrenamiento.
- Preguntas por un aviso local poco conocido publicado el 1 de febrero. Es posible que el modelo no lo conozca, aunque sea anterior a la fecha límite.
- Preguntas por el resultado de unas elecciones anunciado el 15 de abril. El modelo no podría haber aprendido ese resultado a partir de datos de entrenamiento que terminan en marzo. Sin otra fuente, puede admitir la laguna, hacer una inferencia o inventar una respuesta plausible.
- Pegas en la conversación el resultado oficial del 15 de abril y haces la misma pregunta. Ahora el modelo puede responder a partir del texto que le proporcionaste. Su fecha límite sigue siendo el 31 de marzo.
Los sistemas de búsqueda web y recuperación funcionan como en el último caso. Una herramienta encuentra material relevante y lo añade a la información que el modelo puede leer para esa solicitud. Esto puede producir una respuesta actualizada sin cambiar lo que el modelo aprendió durante el entrenamiento.
Por qué importa la fecha límite
Una fecha límite importa siempre que una respuesta dependa del tiempo. Las noticias, las leyes, los precios, los titulares de cargos, las especificaciones de productos, las indicaciones médicas y la documentación de software pueden cambiar después de que se haya entrenado un modelo.
Consulta la documentación del proveedor para conocer el modelo exacto que estás usando. Los modelos del mismo proveedor pueden tener fechas límite diferentes, y un producto puede cambiar el modelo subyacente que utiliza. No confíes en que el modelo identifique correctamente su propia fecha límite.
En preguntas de alto riesgo o que cambian rápidamente, la fecha límite es solo la primera comprobación. También necesitas saber si el producto puede recuperar fuentes actuales, si realmente lo hizo para esa respuesta y si esas fuentes son autorizadas. La búsqueda reduce la brecha de actualidad, pero las fuentes débiles o mal interpretadas aún pueden producir una respuesta incorrecta.
Una fecha límite más reciente puede aumentar las probabilidades de que se haya incluido información reciente. No demuestra que el modelo conozca el hecho que necesitas. Comprueba por tu cuenta la información importante y sensible al tiempo en tu área temática.
Ideas equivocadas frecuentes
«El modelo conoce todo lo anterior a la fecha límite»
No. La fecha describe un límite de entrenamiento, no una cobertura completa. Un hecho anterior a la fecha límite puede faltar o ser poco fiable.
«El modelo no puede hablar de nada posterior a la fecha límite»
Puede razonar sobre información más reciente que tú o una herramienta le proporcione. También puede inferir desarrollos probables, pero una inferencia no demuestra que haya aprendido el evento posterior.
«La navegación actualiza el modelo»
La navegación proporciona al modelo material temporal para leer durante una solicitud. No reescribe el modelo entrenado ni desplaza su fecha límite.
«La fecha límite es lo mismo que la ventana de contexto»
Limitan cosas diferentes. La fecha límite de conocimiento se refiere al momento en que se aprendió el conocimiento incorporado. La ventana de contexto limita cuánta información puede procesar el modelo en la solicitud actual.
Qué consultar a continuación
La distinción práctica es entre la información aprendida durante el entrenamiento y la información proporcionada cuando el modelo responde. Si necesitas la base de esa distinción, empieza por ¿Qué es un LLM?. Después, usa Ventana de contexto frente a fecha límite de conocimiento para separar directamente ambos límites.