gensai.aiLe GPU, ou processeur graphique, est une puce conçue pour exécuter des milliers de calculs en parallèle. Il est devenu indispensable pour entraîner et faire tourner les modèles d'IA. Sa mémoire, la VRAM, détermine la taille du modèle qu'il peut charger : un modèle de 70 milliards de paramètres demande un serveur GPU dédié.
En pratique chez Gensai
Grâce à la quantization, Gensai fait tourner certains modèles sans serveur GPU, comme le dispositif « Monstres des Océans » sur un simple Mac Mini.