O que é treinamento
O treinamento de IA é um processo de otimização. O modelo processa exemplos, e o sistema de treinamento mede o quanto as saídas atendem a um objetivo. Em seguida, ele atualiza os parâmetros treináveis do modelo e repete o processo.
Para uma rede neural treinada com gradientes, uma etapa de treinamento geralmente tem três partes essenciais:
- Executar o modelo no sentido direto para produzir uma saída.
- Calcular uma perda, que é um número que representa o quanto a saída se distancia do objetivo de treinamento.
- Calcular e aplicar alterações nos parâmetros destinadas a melhorar as próximas saídas.
Nem todo método de treinamento usa exemplos rotulados ou o mesmo algoritmo de atualização. O resultado definidor continua sendo um estado aprendido alterado: um novo conjunto de parâmetros, um adaptador atualizado ou um novo checkpoint que possa ser usado posteriormente.
O que é inferência
A inferência de IAexecuta um modelo treinado para calcular uma previsão, geração, pontuação, embedding ou outra saída. A operação usa o estado aprendido selecionado do modelo, mas não aplica uma atualização de treinamento a ele.
A inferência pode ocorrer quando você envia um prompt para um chatbot, quando um modelo de fraude pontua uma transação ou quando uma empresa processa, em um único lote, uma noite inteira de imagens. Ela não precisa ser realizada em tempo real, e sua entrada não precisa ser literalmente nova. O que importa é que a entrada esteja sendo usada para obter uma saída, e não para atualizar o modelo nessa operação.
A distinção de fato
A distinção mais precisa está no que acontece depois que o modelo calcula uma saída.
- Treinamento: usa um sinal objetivo para alterar o estado aprendido.
- Inferência: usa a saída mantendo o estado aprendido fixo.
Isso é mais confiável do que dizer que o treinamento é lento e a inferência é rápida, ou que o treinamento acontece em um laboratório enquanto a inferência acontece em um produto. Essas descrições costumam ser verdadeiras, mas é fácil encontrar exceções.
| Dimension | Training | Inference |
|---|---|---|
| Primary purpose | Improve or adapt the model | Produce an output from the model |
| Learned parameters | Updated during the process | Read and used, but not updated by the operation |
| Typical gradient-based work | Forward calculation, objective calculation, backward calculation, optimizer update | Forward model calculation only |
| Input role | Supplies evidence for a learning objective | Supplies the case for which an output is needed |
| Result | Updated parameters, adapter, or checkpoint | Prediction, generation, score, embedding, or action signal |
| Timing | Can be one-off, periodic, or continuous | Can be request-driven, streamed, scheduled, or batched |
| Main system concerns | Learning quality, stability, data, memory, and time to reach an objective | Output quality, latency, throughput, reliability, and cost per workload |
As duas fases podem usar a mesma arquitetura de modelo e grande parte do mesmo hardware. Essas semelhanças não eliminam a fronteira. O que importa é a presença ou ausência de uma atualização de aprendizado.
Um exemplo concreto
Suponha que você esteja criando um filtro de spam. Os números a seguir são ilustrativos.
Durante o treinamento, o modelo recebe um e-mail cujo rótulo conhecido é "spam". Ele atribui ao e-mail uma pontuação de spam de 0,40. O sistema de treinamento compara essa pontuação com o rótulo conhecido, calcula um erro e ajusta os parâmetros do modelo. Ele repete esse processo em muitos exemplos. Um checkpoint salvo posteriormente atribui ao mesmo e-mail de treinamento uma pontuação de 0,91.
Agora o filtro recebe um e-mail recebido por um usuário. Durante a inferência, o checkpoint salvo atribui a ele uma pontuação de spam de 0,82. O aplicativo pode mover o e-mail para uma pasta de spam. Essa ação, por si só, não ensina nada ao modelo. Os parâmetros usados para o próximo e-mail permanecem os mesmos.
Se o sistema coletar posteriormente e-mails revisados e usá-los para atualizar o modelo, essa execução posterior de otimização será treinamento. A previsão e a atualização de aprendizado são operações separadas, mesmo quando uma fornece dados para a outra.
Quando cada um é importante
As escolhas de treinamento determinam quais comportamentos passam a fazer parte do estado aprendido do modelo. Os dados, o objetivo, o método de atualização e o ponto de parada afetam o checkpoint que estará disponível para uso.
As escolhas de inferência determinam como esse checkpoint se comporta sob uma carga de trabalho real. Uma equipe pode otimizar uma resposta rápida para um usuário, o processamento eficiente de um lote grande, uma qualidade de saída previsível ou um equilíbrio entre esses objetivos.
A comparação de custos depende do sistema. Uma grande execução de treinamento pode consumir muito mais computação do que uma solicitação de inferência. Ainda assim, um serviço com solicitações suficientes pode gastar mais com inferência no total. Um modelo retreinado com frequência pode alterar novamente esse equilíbrio. Dizer que "treinamento custa mais" é incompleto se a unidade e o período não forem informados.
O que as pessoas confundem
Inferência não é aprendizado automático
Um aplicativo de IA pode salvar conversas, recuperar documentos, atualizar um cache ou lembrar a preferência de um usuário enquanto atende a uma solicitação. Essas são alterações no aplicativo ao redor. Elas não constituem treinamento do modelo, a menos que um processo de aprendizado altere os parâmetros do modelo ou outro componente aprendido.
A avaliação é uma operação vizinha
Validação e teste geralmente se parecem com inferência porque o modelo produz saídas sem uma atualização de parâmetros. Elas diferem quanto à finalidade: a avaliação compara as saídas com respostas ou critérios conhecidos para medir o modelo. Um fluxo de treinamento pode pausar entre rodadas de atualização para avaliar um checkpoint, mas essa etapa de avaliação, por si só, não é uma atualização de treinamento.
O ajuste fino ainda é treinamento
O ajuste fino começa a partir de um checkpoint existente, em vez de um modelo não treinado. Ele pode atualizar todos os parâmetros do modelo ou apenas um adaptador menor. De qualquer forma, altera o estado aprendido para atender a um objetivo; portanto, pertence ao lado do treinamento nessa fronteira.
As fases podem ser intercaladas
Um sistema implantado pode fazer previsões agora, coletar feedback e treinar posteriormente um modelo revisado. O aprendizado online pode alternar ou combinar as etapas de previsão e atualização de forma mais estreita. O ciclo de vida pode ficar indistinto, mas cada operação ainda pode ser identificada pelo fato de atualizar ou não o estado aprendido.
Para onde ir em seguida
Leia O que é treinamento em IA? para conhecer o processo de otimização que altera um modelo. Leia O que é inferência em IA? para entender como um modelo treinado transforma entradas em saídas em sistemas interativos e em lote.