Compra memoria, no TOPS. Para la IA local en un mini PC, la única especificación que determina qué modelos se pueden ejecutar es la RAM. 24 GB ejecutan un modelo de 14B sin problemas, 16 GB ejecutan bien los modelos de 7B u 8B, y 8 GB son para asistentes pequeños de 3B; ninguna cifra de NPU cambia eso.
Esa es la respuesta corta, y es lo contrario de cómo se comercializan las PC con IA. Los vendedores incluyen un número TOPS en la caja porque es un número entero grande; no incluyen el ancho de banda de la memoria porque es el valor que realmente limita el rendimiento.
Aquí te explicamos qué significan los términos de marketing, qué tan rápido genera texto realmente un mini PC y qué modelo comprar según el precio.
Conclusiones clave
- La memoria decide qué modelos se ejecutan. 8 GB → 3B, 16 GB → 7B/8B, 24 GB → 14B. No existe nada superior a 24 GB en este formato.
- TOPS no predice tokens por segundo. El ancho de banda de la memoria sí influye: un modelo de 14 bits a 102 GB/s alcanza un máximo de aproximadamente 11 tokens por segundo.
- La mayoría del software de IA local ignora la NPU. Ollama, LM Studio y llama.cpp Se ejecuta en la CPU y la iGPU.
- Su funcionamiento es económico. Dos horas de inferencia al día cuestan aproximadamente 27 dólares al año en electricidad.
- Los modelos 32B no son compatibles. 20 GB de archivos de instalación más Windows no dejan espacio en los 24 GB disponibles.
En esta guía
¿Qué es un mini PC con IA?
En 2026, la etiqueta significa una de tres cosas, y no son equivalentes:
- Una máquina con una NPU. Intel Core Ultra y AMD Ryzen Los chips de la serie 8000 incluyen una unidad de procesamiento neuronal con una potencia de entre 10 y 40 TOPS. Está diseñada para funcionar en segundo plano de forma continua (efectos de videollamadas, algunas herramientas de fotografía) y rara vez la utilizan los modelos de lenguaje locales.
- Una máquina con suficiente memoria. Esta es la única definición que importa para ejecutar un modelo. 24 GB de LPDDR5 a 102 GB/s pueden almacenar y alimentar un modelo de 14B.
- Una máquina con una potente GPU integrada. Las tarjetas gráficas Intel Arc y Radeon 780M pueden descargar algunas capas de un modelo, lo que acelera su generación, pero comparten memoria con la CPU, por lo que la capacidad no aumenta.
NPU vs GPU vs CPU
La inferencia local se divide entre tres motores, y la división depende del software:
- UPC — Siempre se utiliza, y a menudo es el único motor. Gestiona todo el modelo cuando no hay descarga de GPU.
- iGPU — utilizado por llama.cpp y sus derivados para colocar algunas capas. Más rápido que la CPU para las capas que contiene, limitado por la memoria compartida.
- NPU — utilizado por un pequeño número de pilas específicas de proveedores. No es la ruta predeterminada para Ollama o LM Studio en 2026.
Por qué TOPS no es el número para comprar
TOPS mide el pico de operaciones con enteros por segundo en una carga de trabajo sintética. La velocidad de generación está limitada por la rapidez con la que se pueden leer los pesos del modelo desde la memoria: una pasada completa por token. Un chip con 40 TOPS y 60 GB/s de ancho de banda será más lento que un chip con 10 TOPS y 100 GB/s.
Así que cuando veas "PC con IA, 40 TOPS", interprétalo como: esta máquina tiene un acelerador para tareas en segundo plano.Luego, compruebe la memoria.
¿Cuánta memoria se necesita para cada tamaño de modelo?
| Tamaño del modelo | Pesos del cuarto trimestre | Plus Windows + contexto | Memoria RAM mínima | Para qué sirve |
|---|---|---|---|---|
| 3B | 1,9 GB | ~7 GB | 8 GB | Resumen, traducción, asistentes sencillos |
| 7B/8B | 4,8 GB | ~10 GB | 12 GB ajustados, 16 GB cómodos | Charla general, redacción, autocompletado de código |
| 14B | 9,0 GB | ~15 GB | 16 GB ajustados, 24 GB cómodos | Mejor razonamiento, documentos extensos, codificación local |
| 32B | 19,9 GB | ~27 GB | 32 GB | No es posible en un mini PC de 24 GB. |
Los pesos son tamaños típicos de Q4_K_M GGUF. La sobrecarga corresponde a Windows más una caché de contexto de 8k a 32k; una instalación mínima de Linux ahorra aproximadamente 2 GB.
La regla práctica es la siguiente: elige el tamaño de memoria que realmente necesitas y luego compra la que lo admita con 2 a 4 GB de sobra. Siguiendo esta regla, la mayoría de la gente opta por 16 GB para 7B y 24 GB para 14B.
¿A qué velocidad correrá realmente?
Existe un modelo sencillo para la velocidad de generación: tokens por segundo ≈ ancho de banda de la memoria ÷ tamaño del modelo. El modelo completo se lee una vez por cada token, por lo que un modelo de 9 GB en una máquina de 102 GB/s alcanza un máximo de cerca de 11 tokens por segundo.
Por eso, un modelo de 3B funciona con una fluidez instantánea, mientras que uno de 32B funciona con lentitud en el mismo hardware. Esto también explica por qué añadir núcleos no ayuda: un chip de 16 núcleos y uno de 6 núcleos con el mismo ancho de banda procesan tokens prácticamente a la misma velocidad.
En la práctica, cabe esperar entre el 50 % y el 70 % del rendimiento teórico. Un modelo de 7 bytes en el cuarto trimestre de 2019, en un mini PC de 24 GB, ofrece una interacción fluida; 14 bytes son útiles para la redacción de borradores, pero no para el chat en tiempo real; cualquier dato que se salga de la memoria RAM se ralentiza hasta alcanzar la velocidad del disco duro y se vuelve inutilizable.
¿Cuánto cuesta dejarlo encendido?
Normalmente se deja encendida una caja de IA para que el modelo se cargue cuando lo necesites. Con 12,4 W en reposo, eso es aproximadamente $19 al año. Dos horas de inferencia al día equivalen a un promedio de 17 W, o $27. Incluso ocho horas al día solo alcanzan $53.
Compárese eso con el hardware: la diferencia entre una máquina de 16 GB y una de 24 GB es de aproximadamente 290 dólares. La electricidad nunca es el motivo para elegir una gama u otra; la memoria sí lo es.
Cual BMAX ¿Para cada trabajo?
| ¿Qué quieres ejecutar? | Elegir | Por qué |
|---|---|---|
| Pequeños asistentes 3B, resumen, traducción | B3 Pro — 8 GB, 199,99 dólares | Suficiente para modelos compactos y la forma más económica de experimentar. |
| Asistentes de chat y codificación 7B/8B | B11 Pro — 16 GB, 459,99 dólares | Los 16 GB dejan un margen considerable para Windows y un entorno 8K. |
| Modelos 14B, contexto extenso, varias herramientas abiertas | B12 Power — 24 GB, 749,99 dólares | El único nivel que ejecuta 14B cómodamente; 16 núcleos ayudan a un procesamiento rápido. |
| 32B y superiores | No es un mini PC | Necesita entre 32 y 64 GB de memoria ampliable; tiene un formato diferente. |
Dos aclaraciones. La memoria está soldada en todos los modelos, por lo que la decisión es definitiva. Si tienes que elegir entre 16 GB y 24 GB, compra el modelo de 24 GB si la IA local forma parte del plan; es la diferencia entre un equipo útil en 2029 y uno que no lo sea.
¿Cuándo no deberías comprar uno?
- Necesitas modelos 32B o superiores. Los pesos por sí solos ocupan 20 GB; con Windows y el contexto, no hay espacio en los 24 GB disponibles.
- Necesitas generación rápida. Un mini PC tiene limitaciones de ancho de banda. Si necesitas más de 30 tokens por segundo en un modelo 14B, necesitas una GPU dedicada con su propia memoria.
- Quieres entrenar o perfeccionar. La inferencia local funciona bien; el entrenamiento requiere VRAM y ancho de banda que este formato no tiene.
- Necesitas que sea silencioso bajo carga. La inferencia sostenida es una carga sostenida de todos los núcleos. Una máquina silenciosa con ventilador es audible después de diez minutos; nuestra guía sin ventilador Esto explica por qué la refrigeración pasiva tampoco es la solución.
¿Cómo empezar en 30 minutos?
- Instalar Ollama (línea de comandos) o LM Studio (aplicación de escritorio). Ambas gestionan la cuantización y la memoria automáticamente.
- Descarga un modelo 7B en el cuarto trimestre. Primero. Es la forma más rápida de confirmar que la máquina funciona antes de realizar una descarga de mayor tamaño.
- Ver memoria en el Administrador de tareas mientras se carga. Si se acerca al límite, reduzca el tamaño del contexto antes de eliminar el modelo.
- Utilice una instalación mínima de Linux Si puedes, libera unos 2 GB, que suele ser la diferencia entre que 14B quepa o no.
- Mantén el modelo en NVMe., No es una unidad USB. Cargar un modelo de 9 GB desde USB es tan lento que parece un fallo del sistema.
Si desea conocer la aritmética de memoria completa detrás de estos niveles, nuestra Guía de RAM de IA local va más allá. Si está construyendo una máquina que también sirve archivos y ejecuta contenedores, Guía de Linux Cubre la parte del software.
Preguntas frecuentes
¿Necesito una NPU para ejecutar IA localmente?
No. Ollama, LM Studio y llama.cpp Se ejecutan en la CPU y la iGPU. Una NPU ayuda con tareas en segundo plano, como los efectos de vídeo, pero no es la vía principal para los modelos de lenguaje en 2026.
¿Cuánta RAM necesito para un modelo 7B?
En total, con Windows y el entorno, se necesitan unos 10 GB, por lo que 12 GB es el mínimo y 16 GB es suficiente. En una instalación mínima de Linux, 8 GB pueden funcionar durante un breve período.
¿Puede un mini PC ejecutar un modelo 32B?
No correctamente. Un modelo de 32 bits en el cuarto trimestre ocupa aproximadamente 20 GB de memoria; con Windows y una caché de contexto, no hay espacio suficiente en una máquina de 24 GB. Puede que se cargue mediante paginación al disco, pero la velocidad es inutilizable.
¿Cuántos tokens por segundo debo esperar?
Aproximadamente, el ancho de banda de la memoria dividido por el tamaño del modelo, y en la práctica, entre el 50 % y el 70 % de ese valor. Un modelo de 7 bytes en el cuarto trimestre de un equipo de 24 GB es interactivo; 14 bytes son útiles para el diseño; 32 bytes no son prácticos.
¿Son suficientes 16 GB para la IA local?
Para los modelos 7B y 8B, sí.Para el modelo 14B, 16 GB funcionan, pero dejan muy poco margen de maniobra, y lo notarás cuando Windows se actualice o cuando tengas un navegador abierto.
¿Una CPU más rápida acelera las respuestas de la IA?
Apenas. La generación está limitada por el ancho de banda de la memoria, no por la capacidad de procesamiento. Una CPU más rápida facilita el procesamiento inmediato de entradas largas, pero no la generación de tokens.
¿Puedo usar la GPU integrada para acelerar las cosas?
Sí - llama.cpp LM Studio puede descargar algunas capas a las tarjetas gráficas Intel Arc o Radeon. Esto ayuda, pero no aumenta la memoria disponible, por lo que el tamaño máximo del modelo se mantiene igual.
Cual BMAX ¿Es mejor un mini PC para IA local?
El B12 Power con 24 GB para los modelos 14B, el B11 Pro con 16 GB para 7B y 8B, y el B3 Pro con 8 GB para tareas pequeñas de 3B.
Lecturas relacionadas
- IA local en un mini PC: guía completa de RAM para 7B–32B
- ¿Cuánto cuesta mantener un mini PC funcionando durante un año?
- Qué es realmente un PC con IA (principios, no compras)
- El BMAX guía de compra
Modelos de 24 GB, 16 núcleos y 14 bits. El BMAX B12 Power es el único nivel de la gama que ejecuta un modelo 14B en el cuarto trimestre con contexto de sobra.
Fuentes
- Tamaños de ponderación del modelo: tamaños típicos de Q4_K_M GGUF para modelos de parámetros de 3B a 32B; la sobrecarga supone Windows más 1 a 4 GB de caché KV.
- Cifras de ancho de banda: DDR5-5600 de doble canal ≈ 89 GB/s; LPDDR5-6400 ≈ 102 GB/s. La estimación del token es ancho de banda ÷ tamaño del modelo, un límite superior.
- Power: 12,4 W en reposo según la versión B12 publicada Power mediciones; inferencia sostenida de ~80 W modelada para un chip de 45 W bajo carga; electricidad a 17,45 ¢/kWh, EIA enero de 2026.
- Precios y configuraciones: bmaxbuy.com Páginas de productos, octubre de 2026.
Todas las cifras de rendimiento que aparecen en este artículo son límites superiores modelados, no mediciones. El rendimiento real depende del tiempo de ejecución, el formato de cuantización, la longitud del contexto y la eficiencia de la memoria.
