LoRA est une méthode de fine-tuning léger. Au lieu de modifier les milliards de poids d'un modèle, elle entraîne de petites matrices additionnelles, des adaptateurs de quelques mégaoctets, qui s'ajoutent au modèle d'origine sans le toucher. Un même modèle peut ainsi être spécialisé pour plusieurs usages, à un coût de calcul fortement réduit.
En pratique chez Gensai
LoRA est l'option privilégiée par Gensai quand un modèle open-weight doit adopter le vocabulaire ou le ton d'un métier, sans repartir d'un entraînement complet.
Dans le même thème
Définition rédigée avec l'assistance de l'IA, vérifiée par Sébastien Lecocq, co-fondateur de Gensai.
Aller plus loin que la définition ?
Passer du concept au projet : Gensai conçoit des solutions IA sur mesure, souveraines et conformes au RGPD.
Services associés : Chatbots et moteurs de réponses, IA vocale