Hacer correr una IA de 2,8 billones de parámetros sin tarjeta gráfica es posible
TL;DR
Un desarrollador acaba de hacer correr Kimi K3, un modelo de 2,8 billones de parámetros (2 800 miles de millones), en una CPU corriente con 8 GB de RAM. El proyecto se llama kimi-k3-in-c: 176 KB de código, cero GPU, cero frameworks. El principio: el modelo nunca cabe entero en memoria, vive en el disco y solo carga la fracción útil para cada palabra generada. Puedes reproducir el experimento en casa, siempre que tengas 1,7 TB de SSD NVMe y aceptes entre 10 y 32 segundos por palabra generada.
El muro que bloquea a todos
Los modelos de IA más potentes pesan cientos de miles de millones, a veces billones, de parámetros. Kimi K3, publicado por el laboratorio chino Moonshot AI a finales de julio de 2026, tiene 2,8 billones (2 800 miles de millones). Para obtener respuestas comparables a las de GPT o Claude, hasta ahora hacía falta un clúster de GPU profesionales, fuera del alcance de un particular o de una pequeña estructura.
La razón es mecánica: un modelo de este tamaño supera de largo la memoria RAM de un ordenador de consumo. Los laboratorios que lo entrenan y lo sirven lo hacen en máquinas con varios cientos de gigabytes de VRAM, repartidos en varias tarjetas.
Lo que un desarrollador acaba de demostrar
Fareed Khan publicó kimi-k3-in-c, un motor de inferencia para Kimi K3 escrito en C99 puro. Sin PyTorch, sin CUDA, sin biblioteca de cálculo externa. El repositorio es verificable: licencia Apache 2.0, integración continua activa, suite de tests que compara cada cálculo con una referencia de PyTorch.
En la máquina más modesta probada, con 8 GB de RAM, el motor genera texto coherente:
$ ./bin/k3 ~/k3model --preset laptop --prompt "The capital of France is" --gen 8
--- generated text ---
Paris.", "The Eiffel
El modelo responde bien. Corre en una CPU. Cabe en la RAM de un portátil.
El principio, en una frase
El archivo del modelo pesa 1,56 TB en el disco: ninguna RAM de consumo puede contenerlo entero. kimi-k3-in-c esquiva el problema guardando en memoria solo lo que sirve de inmediato, y yendo a buscar el resto al disco justo en el momento en que lo necesita.
Kimi K3 es un modelo de mezcla de expertos (Mixture-of-Experts): de 896 expertos internos, solo 16 se activan para producir una palabra dada. kimi-k3-in-c aprovecha esta propiedad. Mantiene una pequeña parte del modelo siempre en memoria, y carga únicamente los 16 expertos necesarios desde el disco para cada palabra, en lugar de los 896 de golpe.
Lo que cambia en concreto
Puedes reproducir este experimento con hardware que quizá ya tengas: una CPU compatible con AVX2, 8 GB de RAM y, sobre todo, 1,7 TB de SSD NVMe, el verdadero requisito de este proyecto. Solo la descarga del modelo tarda varias horas.
Este proyecto no demuestra que una CPU reemplace a una GPU. Demuestra que un modelo concebido para cientos de gigabytes de VRAM puede, con la arquitectura de software adecuada, ejecutarse correctamente con recursos mil veces más modestos. La barrera ya no es solo cuestión de cartera: una parte se ha vuelto cuestión de ingeniería.
Queda una pregunta que trataremos aparte: a qué velocidad. La respuesta modera bastante el entusiasmo del título. Cómo kimi-k3-in-c hace correr 2,8 billones de parámetros con 8 GB de RAM explica el mecanismo en detalle, y Por qué una GPU sigue siendo indispensable explica por qué todavía no es utilizable en el día a día.