Once puntos: cuánto distan de verdad los modelos abiertos de la nube
La pregunta que nos hacen en cada demo es si la inteligencia que cabe en una máquina de escritorio «es la de verdad». Hay un número para responderla, y conviene mirarlo entero: lo que dice y lo que no dice.
El número
El Artificial Analysis Intelligence Index es un índice compuesto que agrega varias pruebas de razonamiento, código y conocimiento en una sola escala. En la medición de agosto de 2026, arriba están los modelos de nube y debajo los que se pueden instalar en una oficina:
| Modelo | Dónde corre | Índice |
|---|---|---|
| Claude Opus 5 | nube | 63,0 |
| GPT-5.6 | nube | 58,9 |
| Gemini 3.7 | nube | 56,0 |
| DeepSeek V4 Pro | Conectao Core Enterprise | 53,2 |
| GLM-5.2 | pesos abiertos — fuera de nuestra gama | 52,6 |
| DeepSeek V4 Flash | Conectao Core Max | 51,8 |
Fuente: Artificial Analysis Intelligence Index, medición BenchLM, agosto de 2026. Leído el 30/08/2026.
Sobre la línea GLM. GLM-5.2 (junio de 2026, licencia MIT) tiene pesos abiertos, pero su fichero más ligero pesa 196,6 GiB y no cabe en los 128 GB de un Core Max: no lo atribuimos a nuestras máquinas. La línea corriente de la familia es GLM-5.3-Flash, con pesos publicados el 25/08/2026 y también licencia MIT. Todavía no tiene medición independiente en este índice: por eso no figura en la tabla, y no le atribuimos el número de otro modelo. Cuando la tenga, se añade con su fecha.
Entre lo mejor de la nube y lo mejor instalable hay 11 puntos (63,0 contra 53,2). Hace dos años esa distancia era mucho mayor y la conversación no tenía sentido. Hoy la tiene, y por eso existe este negocio.
Qué significan once puntos en el trabajo real
Un índice compuesto no se traduce en «11% peor». Significa que en las tareas más difíciles del conjunto — razonamiento largo en varios pasos, problemas de código no triviales, preguntas capciosas — el modelo de nube acierta con más frecuencia.
En las tareas por las que una empresa compra estos sistemas, la diferencia es difícil de notar: leer un contrato y señalar las cláusulas de riesgo, responder a un huésped por WhatsApp con la información del hotel, extraer los datos de una factura, resumir un acta, redactar un borrador estándar, buscar en el archivo de la empresa. Son tareas de comprensión y de formato, no de razonamiento al límite.
Dicho al revés, y con honestidad: si su caso de uso vive en ese margen de once puntos, la máquina en la oficina no es la respuesta correcta y se lo diremos en la demo. La forma de saberlo no es este artículo — es probar su caso real contra una máquina encendida.
Qué tamaño de modelo carga cada máquina
El «tamaño» de un modelo se mide en parámetros: más parámetros, más capacidad. El límite de lo que cabe en una máquina lo pone la memoria.
| Configuración | Modelos cargables | En la práctica |
|---|---|---|
| Core One | 7–13 mil millones | Atención al público, un documento a la vez |
| Core Studio | 13–27 mil millones | Contratos, borradores, archivo personal |
| Core Team | 32–70 mil millones | Archivo completo de la empresa, varios usuarios |
| Core Max | modelos MoE grandes, en formato cuantizado | DeepSeek V4-Flash o GLM-5.3-Flash en Q2 — la fila azul de la tabla de arriba |
| Core Enterprise | más allá, repartido en varias máquinas | Clúster, varios equipos |
«MoE» quiere decir mixture of experts: el modelo tiene cientos de miles de millones de parámetros — 304 mil millones en DeepSeek V4-Flash — pero activa solo una parte de ellos en cada respuesta. Eso, junto con la cuantización (el fichero de pesos se reduce al formato Q2), es la razón técnica por la que un modelo de ese tamaño cabe hoy en un equipo de escritorio y no en un datacenter. Dicho con precisión: el fichero completo sin comprimir no cabe en 128 GB — lo que se instala es la versión cuantizada.
Número de parámetros leído en la fuente (HuggingFace, ficha deepseek-ai/DeepSeek-V4-Flash) el 02/09/2026.
El motor que los ejecuta
Los modelos no se ejecutan solos: hace falta un motor de inferencia. Usamos ds4, open source con licencia MIT, escrito para una sola cosa: correr modelos grandes en una máquina de oficina. Expone API compatibles con los estándares de OpenAI y Anthropic — lo que significa que el software se conecta como si hablara con la nube, sin que nada salga de la empresa — y soporta contextos de hasta un millón de tokens, es decir cientos de páginas en una sola pregunta.
Cuando la memoria no alcanza, el motor usa el disco NVMe como prolongación. Eso permite cargar modelos más grandes que la RAM, a cambio de velocidad.
Por qué «open source» no es un detalle ideológico
Un modelo abierto se descarga y se queda. No lo pueden retirar, ni encarecer, ni cambiar por debajo. Si mañana el proveedor de un modelo de nube modifica el precio o las condiciones —y en 2026 lo hicieron los cuatro grandes, como contamos en el otro artículo— el que tiene el modelo en su máquina no se entera. Lo mismo vale para el software: instalamos plataformas open source públicas y verificables, y por eso no hay licencia por usuario que pagar.
Cuando sale una generación mejor de modelos, la actualización llega con el mantenimiento. Sin tocar sus datos, y sin renegociar nada.