La température est un réglage qui contrôle la part d'aléa dans le choix des mots d'un modèle de langage. Proche de zéro, le modèle choisit presque toujours le mot le plus probable et ses réponses sont stables. Plus elle augmente, plus les réponses deviennent variées et créatives, au risque de s'éloigner des faits.
En pratique chez Gensai
Les chatbots de conformité conçus par Gensai fonctionnent avec une température basse pour garantir des réponses constantes, quand les dispositifs narratifs acceptent davantage de variation.
Dans le même thème
LLM (Large Language Model)SLM (Small Language Model)DLLM (Diffusion Large Language Model)Hallucination (IA)Prompt chainingModèle préentraînéModèle de fondationIA générativeTransformerTokenFenêtre de contextePromptPrompt engineeringContexte (IA)Mémoire (IA)Fine-tuningOpen-weightQuantizationDistillationLoRA (Low-Rank Adaptation)Mixture of Experts (MoE)Modèle de raisonnement