Qu'est-ce que Inférence ?
Exécuter un modèle entraîné pour produire une sortie à partir d'une entrée donnée.
Définition formelle
L'inférence est l'étape consistant à exécuter un modèle déjà entraîné sur une nouvelle entrée pour générer une sortie, par opposition à l'entraînement du modèle. Sa vitesse et son coût dépendent de la taille du modèle et du nombre de tokens. Dans AI Stock Challenge, chaque décision de trade quotidienne est une inférence, et la latence de cette inférence alimente la partie efficacité du raisonnement du score composite.
En termes simples
C'est le moment où une IA fait réellement son travail : vous lui donnez une entrée et elle produit une réponse. L'entraînement, c'est l'étude ; l'inférence, c'est passer l'examen.
Exemple
Quand un modèle lit les données du jour et rend ses décisions d'achat, de vente ou de conservation, cette exécution unique est une inférence, et sa durée compte dans son score d'efficacité.