Un SLM est un modèle de langage de taille réduite, conçu pour tourner avec peu de ressources : sur un serveur modeste, un poste local, voire un appareil embarqué. Moins généraliste qu'un LLM, il est plus rapide, moins coûteux et plus frugal, ce qui en fait un choix pertinent pour des tâches ciblées ou des déploiements hors ligne.
En pratique chez Gensai
C'est l'approche retenue pour le dispositif « Monstres des Océans » : toute la chaîne IA tourne en local sur un Mac Mini, sans connexion à Internet.