Faire tourner une IA de 2 800 milliards de paramètres sans carte graphique, c'est possible
TL;DR
Un développeur vient de faire tourner Kimi K3, un modèle de 2 800 milliards de paramètres, sur un CPU ordinaire avec 8 Go de RAM. Le projet s'appelle kimi-k3-in-c : 176 Ko de code, zéro GPU, zéro framework. Le principe : le modèle ne tient jamais entièrement en mémoire, il vit sur le disque et n'en charge que la fraction utile à chaque mot généré. Tu peux reproduire l'expérience chez toi, à condition d'avoir 1,7 To de SSD NVMe et d'accepter 10 à 32 secondes par mot généré.
Le mur qui bloque tout le monde
Les modèles d'IA les plus performants pèsent des centaines de milliards, parfois des milliers de milliards de paramètres. Kimi K3, publié par le laboratoire chinois Moonshot AI fin juillet 2026, en compte 2 800 milliards. Pour obtenir des réponses comparables à celles de GPT ou de Claude, il fallait jusqu'ici un cluster de GPU professionnels, hors de portée d'un particulier ou d'une petite structure.
La raison est mécanique : un modèle de cette taille dépasse largement la mémoire vive d'un ordinateur grand public. Les laboratoires qui l'entraînent et le servent le font sur des machines à plusieurs centaines de gigaoctets de VRAM, réparties sur plusieurs cartes.
Ce qu'un développeur vient de démontrer
Fareed Khan a publié kimi-k3-in-c, un moteur d'inférence pour Kimi K3 écrit en C99 pur. Pas de PyTorch, pas de CUDA, pas de bibliothèque de calcul externe. Le dépôt est vérifiable : licence Apache 2.0, intégration continue active, suite de tests qui compare chaque calcul à une référence PyTorch.
Sur la machine la plus modeste testée, avec 8 Go de RAM, le moteur génère du texte cohérent :
$ ./bin/k3 ~/k3model --preset laptop --prompt "The capital of France is" --gen 8
--- generated text ---
Paris.", "The Eiffel
Le modèle répond juste. Il tourne sur un CPU. Il tient dans la RAM d'un ordinateur portable.
Le principe, en une phrase
Le fichier du modèle pèse 1,56 To sur le disque : aucune RAM grand public ne peut le contenir en entier. kimi-k3-in-c contourne le problème en ne gardant en mémoire que ce qui sert immédiatement, et en allant chercher le reste sur le disque au moment précis où il en a besoin.
Kimi K3 est un modèle à mélange d'experts (Mixture-of-Experts) : sur 896 experts internes, seuls 16 s'activent pour produire un mot donné. kimi-k3-in-c exploite cette propriété. Il garde une petite partie du modèle toujours en mémoire, et charge uniquement les 16 experts nécessaires depuis le disque à chaque mot, plutôt que les 896 d'un coup.
Ce que ça change concrètement
Tu peux reproduire cette expérience sur du matériel que tu possèdes peut-être déjà : un CPU compatible AVX2, 8 Go de RAM, et surtout 1,7 To de SSD NVMe, le vrai prérequis derrière ce projet. Le téléchargement du modèle seul prend plusieurs heures.
Ce projet ne démontre pas qu'un CPU remplace un GPU. Il démontre qu'un modèle conçu pour des centaines de gigaoctets de VRAM peut, avec la bonne architecture logicielle, s'exécuter correctement sur des ressources mille fois plus modestes. La barrière n'est plus seulement une question de portefeuille : une part est devenue une question d'ingénierie.
Reste une question qu'on va creuser séparément : à quelle vitesse. La réponse tempère nettement l'enthousiasme du titre. Comment kimi-k3-in-c fait tourner 2 800 milliards de paramètres avec 8 Go de RAM explique le mécanisme en détail, et Pourquoi un GPU reste indispensable explique pourquoi ce n'est pas encore utilisable au quotidien.