APRENDER
Aprender
Explicações, guias e contexto sobre os temas de IA que estão no noticiário: como os modelos são construídos, treinados, executados e medidos, para leitores que querem entender a mecânica.
Aprender
Todas as categorias
Fundamentos
4- ConceitoO que é IA generativa?↗IA generativa é a inteligência artificial que aprende padrões em dados existentes e usa esses padrões para produzir novos conteúdos, como texto, imagens, áudio, vídeo ou código. Normalmente, ela gera esse conteúdo em resposta a uma instrução ou a outra entrada.
- ConceitoO que é Inteligência Artificial?↗Inteligência artificial (IA) é o campo de projetar sistemas computacionais que produzem resultados orientados a objetivos — como previsões, conteúdo, recomendações ou decisões — usando métodos associados a capacidades como aprendizado, raciocínio, percepção e linguagem. IA também se refere aos sistemas criados por esse campo.
- ConceitoO que é aprendizado de máquina?↗Aprendizado de máquina é uma forma de criar software que aprende padrões a partir de exemplos ou feedback e usa esses padrões para fazer previsões, tomar decisões ou produzir resultados úteis em casos que não viu antes. É uma abordagem dentro da inteligência artificial, não um sinônimo de toda a IA.
- ComparaçãoTreinamento vs. inferência↗O treinamento altera as configurações aprendidas de um modelo de IA para que ele execute melhor uma tarefa; a inferência usa um estado selecionado desse modelo para produzir uma saída sem alterar essas configurações aprendidas. O treinamento cria ou adapta o modelo, enquanto a inferência coloca esse modelo para funcionar.
Tokens, contexto e representação
8- ComparaçãoJanela de contexto vs. limite de conhecimento↗Uma janela de contexto limita a quantidade de informação que um modelo de IA pode usar em uma solicitação, enquanto um limite de conhecimento descreve o quão recentes são seus conhecimentos incorporados. Um é uma capacidade medida em tokens; o outro é uma data associada ao treinamento.
- ConceitoO que são tokens de entrada?↗Tokens de entrada são os tokens que um modelo recebe e processa antes de começar a gerar a próxima resposta. Eles vêm da solicitação completa voltada ao modelo, não apenas das últimas palavras que você digitou.
- ConceitoO que são tokens de raciocínio?↗Tokens de raciocínio são tokens que um modelo de IA gera enquanto trabalha para chegar a uma resposta, separados do texto da resposta que você vê. Eles representam etapas geradas adicionais, como planejar, verificar ou tentar uma abordagem, e podem ser contabilizados no uso e nos limites mesmo quando o serviço os oculta.
- ConceitoO que são tokens de saída?↗Tokens de saída são as unidades que um modelo gera ao produzir uma resposta. Eles geralmente compõem o texto, o código, os dados estruturados ou as instruções de ferramentas que você recebe, embora um provedor também possa contabilizar o raciocínio oculto como uso de saída.
- ConceitoO que é o limite de conhecimento de uma IA?↗O limite de conhecimento de uma IA é a data até a qual se espera que o conhecimento integrado de um modelo reflita seus dados de treinamento. É uma fronteira aproximada, não uma garantia de que o modelo conheça todos os fatos anteriores ou de que um produto de IA não possa buscar informações posteriores.
- ConceitoO que é um token em IA?↗Um token em IA é um item do vocabulário que um LLM usa para representar e gerar texto. Dependendo do tokenizador do modelo, um token pode corresponder a uma palavra, parte de uma palavra, pontuação, espaço em branco ou até parte de um caractere codificado.
- ConceitoO que é uma janela de contexto?↗Uma janela de contexto é a quantidade máxima de material tokenizado que um modelo de IA pode usar ao produzir uma resposta. Em muitas APIs de modelos de linguagem, esse orçamento abrange a entrada e a saída gerada, embora os provedores também possam impor limites separados para entrada ou saída.
- ComparaçãoTokens de entrada vs. tokens de saída vs. tokens de raciocínio↗Tokens de entrada são o que um modelo recebe; tokens de saída são o que ele gera; e tokens de raciocínio são tokens gerados internamente usados para chegar a uma resposta. O detalhe importante é que os tokens de raciocínio geralmente fazem parte do uso de saída, mesmo quando uma API os exibe como uma informação separada.
Modelos e arquitetura
7- ConceitoO que são os pesos do modelo?↗Os pesos do modelo são números aprendidos que determinam com que intensidade um modelo usa cada entrada ou sinal intermediário ao calcular uma saída. Eles geralmente são armazenados em grandes grupos chamados matrizes ou tensores, e o treinamento os modifica para que as saídas do modelo se ajustem melhor ao seu objetivo.
- ConceitoO que são parâmetros do modelo?↗Os parâmetros do modelo são os valores numéricos armazenados dentro de um modelo ajustado que determinam como ele transforma uma entrada em uma saída. Em uma rede neural, eles geralmente incluem pesos e vieses, cujos valores são escolhidos durante o treinamento e reutilizados quando o modelo faz previsões.
- ConceitoO que é um LLM?↗Um modelo de linguagem de grande escala (LLM) é um modelo de IA treinado com grandes coleções de dados linguísticos para processar ou gerar sequências prováveis de texto. A maioria dos LLMs usados para geração de texto recebe um prompt e produz uma resposta uma pequena parte por vez.
- ConceitoO que é um modelo de IA?↗Um modelo de IA é a parte de um sistema de IA que transforma uma entrada em uma saída, como uma previsão, classificação, recomendação, ação ou resultado gerado. No uso atual mais comum, o termo significa um modelo de aprendizado de máquina cujo comportamento foi moldado por dados de treinamento.
- ConceitoO que é um modelo de fundação?↗Um modelo de fundação é um modelo de aprendizado de máquina treinado com dados amplos para que possa ser adaptado a muitas tarefas diferentes, em vez de ser desenvolvido para apenas uma. Ele é um ponto de partida reutilizável, não uma aplicação pronta.
- ConceitoO que é uma rede neural?↗Uma rede neural é um modelo de aprendizado de máquina que aprende a transformar números de entrada em números de saída úteis, passando-os por camadas conectadas de cálculos simples. Essas camadas formam uma única função matemática treinável, não um cérebro eletrônico literal.
- ComparaçãoParâmetros do modelo vs. pesos do modelo↗Os parâmetros do modelo são todos os valores ajustados que determinam o comportamento de um modelo; os pesos do modelo são um tipo de parâmetro ou um nome informal para o conjunto dos valores aprendidos pelo modelo. Em uma equação de camada, “peso” geralmente tem o significado mais restrito. Em uma expressão como “baixe os pesos do modelo”, geralmente tem o significado mais amplo.
Treinamento e adaptação
1Inferência e disponibilização
6- ComparaçãoLatência vs. TTFT vs. Tokens por Segundo vs. Throughput↗Latência é o tempo que uma solicitação de inferência leva, TTFT é o tempo que uma solicitação transmitida leva para começar a responder, tokens por segundo é uma taxa que pode descrever um único fluxo ou um sistema inteiro, e throughput é o total de trabalho que um sistema conclui ao longo do tempo. A distinção mais importante é o escopo: latência e TTFT medem o tempo de uma solicitação, enquanto throughput contabiliza o trabalho realizado durante uma janela de medição.
- ConceitoO que são tokens por segundo?↗Tokens por segundo (TPS ou tok/s) mede quantos tokens um sistema de IA produz em um segundo. O número pode descrever a velocidade de saída de uma única resposta ou o throughput combinado de um sistema de serving inteiro, portanto o rótulo, por si só, é incompleto.
- ConceitoO que é inferência em IA?↗Inferência em IA é o processo de executar um modelo treinado com uma entrada para produzir uma saída, sem atualizar o que o modelo aprendeu. É a fase de uso de um modelo: uma foto entra e um rótulo sai, ou um prompt entra e um texto gerado sai.
- ConceitoO que é latência de inferência?↗Latência de inferência é o tempo decorrido entre o recebimento de uma entrada por um sistema de IA e a produção de uma saída especificada. Um valor de latência só é significativo quando se sabe onde o cronômetro começa, onde termina e que tipo de saída é considerada completa.
- ConceitoO que é o tempo até o primeiro token?↗O tempo até o primeiro token, ou TTFT, é o tempo decorrido entre o início de uma solicitação a um modelo de linguagem e o recebimento do primeiro token da resposta. Ele mede a espera inicial, não a velocidade com que o restante da resposta chega.
- ConceitoO que é throughput de inferência?↗Throughput de inferência é a quantidade de trabalho do modelo que um sistema de inferência conclui por unidade de tempo, considerando todas as solicitações que está atendendo. Ele pode ser medido em solicitações concluídas, inferências, amostras ou tokens por segundo.
Sistemas de IA, orquestração e agentes
5- ComparaçãoModelo de IA vs. chatbot vs. harness vs. agente↗Um modelo de IA é o componente que produz saídas; um chatbot é uma aplicação conversacional; um harness é o software ao redor de um modelo que gerencia o contexto e a execução; e um agente é um sistema orientado a objetivos que usa essas peças para escolher e realizar etapas. Eles são camadas sobrepostas, não quatro tipos de IA concorrentes.
- ConceitoO que é um agente de IA?↗Um agente de IA é um sistema de software que busca alcançar um objetivo usando um modelo de IA para escolher suas próximas ações, observar os resultados e continuar até concluir a tarefa, precisar de ajuda ou atingir um limite. Diferentemente de um modelo que apenas produz uma resposta, um agente pode controlar um processo de várias etapas e agir por meio de ferramentas dentro das permissões definidas.
- ConceitoO que é um chatbot de IA?↗Um chatbot de IA é um aplicativo de software que usa inteligência artificial para manter uma conversa com uma pessoa por texto ou voz. Ele recebe mensagens, usa um modelo de IA para interpretá-las ou respondê-las e gerencia o contexto, as regras, os dados e as ações necessários para dar continuidade à conversa.
- ConceitoO que é um harness de IA?↗Um harness de IA é o software ao redor de um modelo de IA que controla o que o modelo recebe, o que acontece com sua saída e como o modelo se conecta ao restante de uma aplicação. Ele pode ser tão pequeno quanto um código que gerencia um histórico de conversa ou tão grande quanto um runtime que gerencia ferramentas, memória, permissões, novas tentativas e trabalhos de longa duração.
- ConceitoO que é uso de ferramentas em LLMs?↗O uso de ferramentas em LLMs é um mecanismo que permite a um modelo de linguagem solicitar uma operação externa — como pesquisar em um banco de dados, executar um cálculo ou enviar uma mensagem — e usar o resultado retornado em sua resposta. Em geral, o modelo escolhe a ferramenta e fornece as entradas propostas; o software ao redor do modelo decide se deve executar a chamada.