Moonshot AI publicó los pesos de Kimi K3 en línea el 27 de julio, haciendo que el mayor modelo abierto jamás lanzado estuviera disponible para que cualquiera lo descargara gratis. Es un sistema de 2,8 billones de parámetros de una startup de Pekín fundada en 2023; lee imágenes además de texto y acepta un millón de tokens en una sola consulta, suficiente para contener un código base completo de una vez.

Lo que hizo que la industria prestara atención fue su posición en las tablas de clasificación. Los rastreadores independientes sitúan a K3 cerca de la cima del sector, solo por detrás de Claude Fable y GPT-5.6 Sol Max en el índice de inteligencia de Artificial Analysis, y en el primer puesto de Frontend Code Arena, a una fracción del costo de operación. Los pesos abiertos significan que cualquiera puede descargar el modelo, inspeccionarlo, adaptarlo y mantenerlo dentro de su propia red, algo que ninguno de los principales modelos cerrados permite a ningún precio. Esa es la parte que inquietó a mucha gente la semana pasada y la razón por la que el lanzamiento se ha interpretado como un movimiento competitivo contra OpenAI y Anthropic, más que como un simple hito de investigación.

Hay un inconveniente que recibe menos atención. Que se pueda descargar no significa que se pueda ejecutar. Los archivos ocupan 1,56 terabytes, lo que en la práctica implica un rack multinodo de GPU de centro de datos. Para cualquiera que no disponga de ello, los pesos abiertos han sido principalmente una cuestión técnica.

Pipe Network ha publicado un port de código abierto que reduce la brecha y consigue instalar una versión funcional de K3 en un equipo de escritorio Apple Silicon.

El obstáculo siempre fue la memoria. Incluso en su forma más comprimida, K3 necesita aproximadamente 870 GB. El Mac más grande que existe, el M3 Ultra Mac Studio, alcanza como máximo 512 GB de memoria unificada. Eso no es quedarse cerca.

Dos piezas de ingeniería resuelven el problema.

Transmitir la conversión

Antes de que un modelo pueda ejecutarse en un Mac, sus archivos deben reescribirse en el formato que lee el software de aprendizaje automático de Apple. Las herramientas estándar lo hacen cargando el modelo completo en la memoria, modificándolo y luego volviendo a guardarlo. Eso funciona con los modelos pequeños que la gente ejecuta en casa. Aquí no puede funcionar, porque K3 ocupa 5,6 TB en su forma original y ninguna máquina a la venta tiene ni de lejos tanta memoria.

Un modelo no es un bloque sólido. Es una pila de secciones, y K3 tiene 93, cada una de las cuales realiza una parte del trabajo antes de pasárselo a la siguiente. El conversor del port aprovecha esa estructura. Carga una sección, la traduce, la escribe en el disco, la descarta y luego pasa a la siguiente. En ningún momento es necesario que todo exista a la vez, por lo que la máquina que realiza el trabajo nunca necesita más que unas pocas decenas de gigabytes de memoria, en lugar de miles. Es fontanería más que algo glamuroso, pero nada más del proyecto puede ocurrir sin ella.

Podar los expertos que no usas

La mayor parte de K3 no está haciendo nada en un momento dado, y eso es intencionado. En lugar de una enorme red de propósito general, está construido como un panel de especialistas específicos. Cada una de sus 93 secciones contiene 896, y un enrutador selecciona los 16 más adecuados para la palabra que se está procesando. El resto queda fuera. Si se suma todo, aproximadamente el 98 % del volumen del modelo en disco corresponde a especialistas que están inactivos en cualquier instante, aunque todos siguen ocupando espacio.

Estos especialistas se llaman expertos, y REAP, una técnica de Cerebras, permite decidir cuáles conservar. Ejecuta en el modelo una muestra del tipo de texto que realmente te interesa, observa qué expertos hacen el trabajo pesado y descarta los que nunca justifican el espacio que ocupan. Aplicado a K3, reduce el tamaño de 1,56 TB a 350 GB, lo que cabe en un Mac Studio con margen de sobra.

El corpus es el producto

El resultado más interesante del repositorio es que el texto de muestra con el que calibras el modelo determina lo que el modelo terminado puede hacer.

El equipo midió en qué expertos se apoyaban distintos tipos de contenido. Los idiomas europeos se agrupan. El código se agrupa. El chino y el código apenas se solapan, menos de lo que cabría esperar por azar.

Las consecuencias aparecen en los resultados. Una versión calibrada con inglés y código pierde por completo el chino y empieza a repetirse. Una versión calibrada solo con chino escribe chino correctamente y luego no logra producir código funcional. Una versión calibrada con ambos conserva los dos. No solo estás comprimiendo un modelo: estás eligiendo cuáles de sus capacidades sobreviven.

El equipo señala con cautela que esto se basa en un número reducido de indicaciones de prueba, en lugar de una evaluación formal, y que una versión anterior del mismo experimento produjo una conclusión que más tarde descubrieron que era errónea.

La salvedad honesta

El entrenamiento es lo que enseña a un modelo. La inferencia es lo que ocurre cada vez que usas uno: el trabajo de convertir tu indicación en una respuesta, una palabra a la vez. Cada una de esas palabras requiere que la máquina recorra una gran parte de los pesos del modelo, por lo que la velocidad de inferencia depende sobre todo de la rapidez con la que una computadora puede mover los datos, más que de lo inteligente que sea.

La velocidad aquí es de 0,14 a 0,20 tokens por segundo. Una sola oración tarda minutos. Cada palabra generada requiere leer aproximadamente 87 GB de la memoria, así que esto es un límite del hardware, no un error de software, y podar de forma más agresiva no lo soluciona. Una versión 100 GB más pequeña apenas funcionó más rápido.

Esa es la verdadera lección del proyecto. Adaptar el modelo a la máquina se podía resolver con software. Hacerlo utilizable no, y demuestra con bastante precisión cuánto hardware sigue necesitando un modelo de este tamaño antes de que «local» se convierta en una descripción significativa. Esta es una herramienta por lotes para trabajos que pones en marcha y a los que vuelves después, no un chatbot. Sin embargo, el ancho de banda de memoria de las máquinas de consumo sigue aumentando, y los cimientos de software ya están terminados y son públicos para cuando el hardware se ponga al día.

Dos cosas sí funcionan correctamente. El componente de visión se probó con el código propio de Moonshot y coincide dentro del margen de error del redondeo, así que las imágenes funcionan de principio a fin. Y los expertos que sobrevivieron son idénticos bit a bit a los originales, porque el formato de origen y el formato de Apple resultan codificar los números de la misma manera. La única información que se pierde es la poda.

El repositorio también es inusualmente directo sobre lo que no se ha probado. Las versiones completas sin podar nunca han generado un solo token, porque no existe ningún ordenador capaz de almacenarlas.