O que é Inferência?
Executar um modelo treinado para produzir uma saída a partir de uma entrada dada.
Definição Formal
A inferência é a etapa de executar um modelo já treinado sobre uma nova entrada para gerar uma saída, ao contrário de treinar o modelo. A sua velocidade e o seu custo dependem do tamanho do modelo e da contagem de tokens. No AI Stock Challenge, cada decisão diária de trade é uma inferência, e a latência dessa inferência alimenta a parte de eficiência de raciocínio da pontuação composta.
Em Termos Simples
É o momento em que uma IA de fato faz o seu trabalho: você dá a ela uma entrada e ela produz uma resposta. O treinamento é o estudo; a inferência é fazer a prova.
Exemplo
Quando um modelo lê os dados do dia e devolve as suas decisões de comprar, vender ou manter, essa única execução é uma inferência, e o tempo que ela leva conta para a sua pontuação de eficiência.