Le On Device pousse la logique un cran plus loin : le modèle tourne directement sur l'appareil (ordinateur, borne, mobile), sans aucun serveur distant. Zéro donnée transmise, fonctionnement hors ligne, latence minimale et sobriété énergétique : l'approche idéale pour les dispositifs autonomes.
En pratique chez Gensai
Le dispositif « Monstres des Océans » de Gensai tourne intégralement On Device sur un Mac Mini, sans connexion à Internet.
Quand faire tourner l'IA sur l'appareil ?
Quand le dispositif doit fonctionner sans réseau (borne, installation temporaire, lieu mal couvert), quand aucune donnée ne doit sortir de l'appareil, ou quand chaque dixième de seconde compte dans l'échange. Les petits modèles et les versions quantifiées des grands modèles rendent cette approche possible sur un ordinateur ou une borne récents.
Erreur fréquente
Oublier la maintenance. Un modèle embarqué ne se met pas à jour tout seul : il faut prévoir comment le remplacer, comment actualiser la base de connaissances et comment surveiller son fonctionnement sans connexion permanente.
Dans le même thème
Définition rédigée avec l'assistance de l'IA, vérifiée par Sébastien Lecocq, co-fondateur de Gensai.
Aller plus loin que la définition ?
Passer du concept au projet : Gensai conçoit des solutions IA sur mesure, souveraines et conformes au RGPD.
Services associés : IA vocale, Solutions IA sur mesure