Inferência

A fase de uso do modelo já treinado: quando ele recebe uma entrada nova e produz uma resposta, sem alterar o que aprendeu. Acontece toda vez que você faz uma pergunta a um assistente, envia uma foto para ser classificada ou pede uma tradução. Ao contrário do treinamento, é uma operação relativamente rápida e barata, embora, em larga escala, o custo somado de muitas inferências seja significativo.