Qué es el entrenamiento
El entrenamiento de IA es un proceso de optimización. El modelo procesa ejemplos y el sistema de entrenamiento mide en qué medida sus salidas cumplen un objetivo. Después actualiza los parámetros que el modelo puede aprender y repite el proceso.
En una red neuronal entrenada con gradientes, un paso de entrenamiento suele tener tres partes esenciales:
- Ejecutar el modelo hacia delante para producir una salida.
- Calcular una pérdida, un número que representa cuánto se aleja la salida del objetivo de entrenamiento.
- Calcular y aplicar cambios en los parámetros destinados a mejorar las siguientes salidas.
No todos los métodos de entrenamiento utilizan ejemplos etiquetados ni el mismo algoritmo de actualización. El resultado definitorio sigue siendo un estado aprendido modificado: un nuevo conjunto de parámetros, un adaptador actualizado o un nuevo punto de control que se puede usar posteriormente.
Qué es la inferencia
La inferencia de IA ejecuta un modelo entrenado para calcular una predicción, generación, puntuación, embedding u otra salida. La operación usa el estado aprendido seleccionado del modelo, pero no le aplica una actualización de entrenamiento.
La inferencia puede ocurrir cuando envías un prompt a un chatbot, cuando un modelo de detección de fraude puntúa una transacción o cuando una empresa procesa en un solo lote las imágenes de toda una noche. No tiene que ser en tiempo real, y su entrada tampoco tiene que ser literalmente nueva. Lo importante es que la entrada se use para obtener una salida, no para actualizar el modelo en esa operación.
La distinción real
La distinción más precisa es qué ocurre después de que el modelo calcula una salida.
- Entrenamiento: usa una señal objetivo para cambiar el estado aprendido.
- Inferencia: usa la salida mientras mantiene fijo el estado aprendido.
Esto es más fiable que afirmar que el entrenamiento es lento y la inferencia rápida, o que el entrenamiento ocurre en un laboratorio mientras que la inferencia ocurre en un producto. Esas descripciones suelen ser ciertas, pero es fácil encontrar excepciones.
| Dimension | Training | Inference |
|---|---|---|
| Primary purpose | Improve or adapt the model | Produce an output from the model |
| Learned parameters | Updated during the process | Read and used, but not updated by the operation |
| Typical gradient-based work | Forward calculation, objective calculation, backward calculation, optimizer update | Forward model calculation only |
| Input role | Supplies evidence for a learning objective | Supplies the case for which an output is needed |
| Result | Updated parameters, adapter, or checkpoint | Prediction, generation, score, embedding, or action signal |
| Timing | Can be one-off, periodic, or continuous | Can be request-driven, streamed, scheduled, or batched |
| Main system concerns | Learning quality, stability, data, memory, and time to reach an objective | Output quality, latency, throughput, reliability, and cost per workload |
Las dos fases pueden usar la misma arquitectura de modelo y gran parte del mismo hardware. Esas similitudes no eliminan la frontera. Lo que la determina es la presencia o ausencia de una actualización de aprendizaje.
Un ejemplo concreto
Supón que estás creando un filtro de spam. Las siguientes cifras son ilustrativas.
Durante el entrenamiento, el modelo recibe un correo electrónico cuya etiqueta conocida es "spam". Asigna al correo una puntuación de spam de 0,40. El sistema de entrenamiento compara esa puntuación con la etiqueta conocida, calcula un error y ajusta los parámetros del modelo. Repite este proceso con muchos ejemplos. Más adelante, un punto de control guardado asigna al mismo correo de entrenamiento una puntuación de 0,91.
Ahora el filtro recibe el correo entrante de un usuario. Durante la inferencia, el punto de control guardado le asigna una puntuación de spam de 0,82. La aplicación puede mover el correo a una carpeta de spam. Esa acción, por sí sola, no enseña nada al modelo. Los parámetros usados para el siguiente correo permanecen iguales.
Si posteriormente el sistema recopila correos revisados y los usa para actualizar el modelo, esa ejecución de optimización posterior es entrenamiento. La predicción y la actualización de aprendizaje son operaciones separadas, aunque una proporcione datos para la otra.
Cuándo importa cada uno
Las decisiones de entrenamiento determinan qué comportamiento pasa a formar parte del estado aprendido del modelo. Los datos, el objetivo, el método de actualización y el punto de detención influyen en el punto de control que estará disponible para su uso.
Las decisiones de inferencia determinan cómo se comporta ese punto de control con una carga de trabajo real. Un equipo puede optimizar una respuesta rápida para un usuario, el procesamiento eficiente de un lote grande, una calidad de salida predecible o un equilibrio entre esos objetivos.
La comparación de costes depende del sistema. Una ejecución de entrenamiento importante puede consumir mucha más computación que una solicitud de inferencia. Sin embargo, un servicio con suficientes solicitudes puede gastar más en inferencia en términos agregados. Un modelo que se reentrena con frecuencia puede volver a cambiar el equilibrio. Decir que "el entrenamiento cuesta más" es incompleto si no se especifican la unidad y el periodo.
Lo que la gente confunde
La inferencia no es aprendizaje automático
Una aplicación de IA puede guardar conversaciones, recuperar documentos, actualizar una caché o recordar una preferencia del usuario mientras atiende una solicitud. Esos son cambios en la aplicación que rodea al modelo. No constituyen entrenamiento del modelo a menos que un proceso de aprendizaje cambie sus parámetros u otro componente aprendido.
La evaluación es una operación cercana
La validación y las pruebas suelen parecerse a la inferencia porque el modelo produce salidas sin actualizar sus parámetros. Se diferencian por su propósito: la evaluación compara las salidas con respuestas o criterios conocidos para medir el modelo. Un flujo de trabajo de entrenamiento puede detenerse entre rondas de actualización para evaluar un punto de control, pero esa pasada de evaluación no es en sí misma una actualización de entrenamiento.
El ajuste fino sigue siendo entrenamiento
El ajuste fino parte de un punto de control existente en lugar de un modelo sin entrenar. Puede actualizar todos los parámetros del modelo o solo un adaptador más pequeño. En cualquier caso, cambia el estado aprendido para satisfacer un objetivo, por lo que pertenece al lado del entrenamiento de la frontera.
Las fases pueden intercalarse
Un sistema desplegado puede hacer predicciones ahora, recopilar comentarios y entrenar más adelante un modelo revisado. El aprendizaje en línea puede alternar o combinar más estrechamente los pasos de predicción y actualización. El ciclo de vida puede parecer difuso, pero cada operación se puede identificar según si actualiza el estado aprendido.
Qué leer después
Lee ¿Qué es el entrenamiento en IA? para conocer el proceso de optimización que cambia un modelo. Lee ¿Qué es la inferencia en IA? para saber cómo un modelo entrenado convierte entradas en salidas en sistemas interactivos y por lotes.