gensai.aiUn SLM est un modèle de langage de taille réduite, conçu pour tourner avec peu de ressources : sur un serveur modeste, un poste local, voire un appareil embarqué. Moins généraliste qu'un LLM, il est plus rapide, moins coûteux et plus frugal, ce qui en fait un choix pertinent pour des tâches ciblées ou des déploiements hors ligne.
En pratique chez Gensai
Pour l'opération « Monstres des Océans » de SEA LIFE Paris Val d'Europe, toute la chaîne vocale tournait sur un Mac Mini, sans connexion à Internet, pendant deux semaines. Un petit modèle suffisait, car les questions portaient sur un sujet précis et les réponses s'appuyaient sur une base de connaissances validée.
Quand choisir un SLM ?
Quand la tâche est ciblée (classer des demandes, résumer un compte rendu, répondre sur un corpus précis), quand les données ne doivent pas quitter l'entreprise, quand la latence compte (borne, application mobile) ou quand le volume impose un coût par requête très bas. Exemples : Phi-4-mini (Microsoft), Gemma 3 (Google), Ministral (Mistral AI).
Erreur fréquente
Attendre d'un SLM la culture générale d'un grand modèle. Sur des questions ouvertes ou un raisonnement long, un LLM reste plus fiable. Mieux vaut tester le petit modèle sur des questions réelles avant de trancher.
Dans le même thème
Définition rédigée avec l'assistance de l'IA, vérifiée par Sébastien Lecocq, co-fondateur de Gensai.
Aller plus loin que la définition ?
Passer du concept au projet : Gensai conçoit des solutions IA sur mesure, souveraines et conformes au RGPD.
Services associés : Chatbots et moteurs de réponses, IA vocale