Strix Halo es el nombre en clave de la serie Ryzen AI Max de AMD, el primer chip para PC con suficiente memoria unificada para cargar modelos que antes exigían un armario de tarjetas gráficas. Nuestra máquina es un Framework Desktop: 16 núcleos, una Radeon 8060S integrada y 128 GB de LPDDR5X compartidos entre procesador y gráficos. Es una configuración habitual, de algo más de 2 000 euros, y la pregunta sobre ella es siempre la misma: qué puede ejecutar y a qué velocidad.

Podemos responder con mediciones y no con estimaciones, porque el propio baremo generó miles de textos en ella. La tabla da, para cada archivo de modelo probado, la mediana de tokens por segundo sobre las respuestas válidas generadas en esta máquina, tokens de razonamiento incluidos, junto al tamaño del archivo, la memoria necesaria con un contexto de 128 000 tokens lleno y la puntuación de escritura del modelo en la clasificación de esta edición.

Velocidad de los LLM en Strix Halo
ModeloTok/s medianaArchivo (GB)+128K (GB)ParámetrosPuntuaciónRespuestas
Gemma 4 26B A4B Q8_0 💡 on* 🏠39,828,131,026,0 B (4,0 B activos)51,3465
Gemma 4 E2B Q4_K_M 💡 on* 🏠39,43,45,35,1 B11,6224
Gemma 4 E4B Q8_0 💡 on* 🏠35,98,011,98,0 B14,8542
Gemma 4 E2B Q6_K 💡 on* 🏠33,23,95,85,1 B14,3216
Ling 3.0 Flash Q4_K_M 💡 high 🏠31,677,078,2124,0 B (5,1 B activos)21,5277
Ling 3.0 Flash Q4_K_M ↯ 🏠30,577,078,2124,0 B (5,1 B activos)17,4240
Gemma 4 E2B Q8_0 💡 on* 🏠29,25,06,95,1 B14,4224
Gemma 4 26B A4B QAT-Q4_0 💡 on* 🏠27,915,618,626,0 B (4,0 B activos)59,2118
Qwen3.6 35B A3B Q4_K_M 💡 on* 🏠26,622,124,835,0 B (3,0 B activos)44,3347
Nemotron 3 Nano Omni 30B A3B Q4_K_M 💡 on* 🏠25,126,127,030,0 B (3,0 B activos)7,2960
Gemma 4 E4B Q4_K_M 💡 on* 🏠22,46,310,28,0 B7,5221
Qwen3.6 35B A3B Q8_0 💡 on* 🏠22,137,840,635,0 B (3,0 B activos)38,2312
Nemotron 3 Nano Omni 30B A3B Q8_0 💡 on* 🏠21,235,236,130,0 B (3,0 B activos)6,3391
Nemotron 3 Super 120B A12B Q4_K_M 💡 full 🏠21,186,187,5120,0 B (12,0 B activos)23,4413
Gemma 4 26B A4B Q6_K 💡 on* 🏠20,223,826,826,0 B (4,0 B activos)50,9539
Gemma 4 E4B Q6_K 💡 on* 🏠18,66,210,18,0 B11,1218
Granite 4.2 8B Q4_K_M 💡 full 🏠16,95,326,88,0 B5,336
Gemma 4 12B Q8_0 💡 on* 🏠14,612,715,312,0 B45,8124
Gemma 4 12B QAT-Q4_0 💡 on* 🏠11,07,29,812,0 B37,3752
Gemma 4 31B QAT-Q4_0 💡 on* 🏠10,017,729,631,0 B51,5548
Gemma 4 12B Q6_K 💡 on* 🏠9,09,812,412,0 B39,4216
Qwen3.8 27B Q4_K_M 💡 xhigh** 🏠8,917,726,527,0 B39,1546
Muse Glimmer 30B K-Quant 17GB 💡 high 🏠8,818,220,029,6 B61,1394
Qwen3.8 27B Q8_0 💡 xhigh** 🏠8,430,038,727,0 B65,2498
Muse Glimmer 30B K-Quant Dynamic 💡 high 🏠8,021,122,929,6 B50,2397
Granite 4.2 30B Q4_K_M 💡 full 🏠7,617,752,130,0 B6,4423
Qwen3.6 27B Q8_0 💡 on* 🏠7,528,637,327,0 B42,9190
Qwen3.8 27B Q6_K 💡 xhigh** 🏠7,023,432,127,0 B57,1504
Granite 4.2 30B Q6_K 💡 full 🏠6,624,058,430,0 B9,1397
Gemma 4 31B Q6_K 💡 on* 🏠5,826,438,431,0 B58,5527
Qwen3.6 27B Q4_K_M 💡 on* 🏠5,216,525,327,0 B40,9588
Granite 4.2 30B Q8_0 💡 full 🏠4,931,165,530,0 B7,3447
Gemma 4 31B Q8_0 💡 on* 🏠4,833,845,831,0 B61,6316

Mediana de tokens por segundo sobre las respuestas válidas del baremo generadas en esta máquina, tokens de razonamiento incluidos; archivo y memoria como en la página IA local; puntuación de la clasificación principal de esta edición. Véase también: mediciones publicadas por la comunidad para el Ryzen AI Max+ 395.

La regla general: ancho de banda, no cómputo

Cuando un modelo genera texto, cada token exige leer una vez todos los pesos activos. En Strix Halo la memoria entrega unos 256 GB por segundo, así que un modelo denso guardado en 30 GB (Qwen3.8 27B en Q8_0) no puede superar unos 8,5 tokens por segundo, y medimos 8,4. Gemma 4 31B Q8_0, de 34 GB, se queda en 4,8. Reducir el archivo a la mitad con una cuantización Q4 duplica aproximadamente la velocidad, al coste documentado en nuestro análisis de cuantizaciones.

Los modelos de mezcla de expertos escapan a la regla: guardan muchos parámetros pero activan pocos por token. Gemma 4 26B A4B lee 4 000 millones de parámetros por token y alcanza 40 tokens por segundo en Q8_0; Qwen3.6 35B A3B llega a 22; Ling 3.0 Flash, un archivo de 77 GB, aún produce 30 tokens por segundo porque solo trabajan 5 000 millones de parámetros a la vez. En este hardware, el mejor compromiso para escribir es un modelo de expertos en Q8, no un modelo denso en Q4.

Lo que compran de verdad los 128 GB

Memoria, no velocidad. Nemotron 3 Super 120B en Q4_K_M es un archivo de 86 GB que ninguna tarjeta gráfica de consumo puede alojar; aquí corre a 21 tokens por segundo. Ling 3.0 Flash, de 77 GB, carga con margen para un contexto largo. Un modelo denso de 70 000 millones de parámetros en Q4 también cabe, pero a unos 5 tokens por segundo es una herramienta para escritores pacientes. Los benchmarks de la comunidad dan al M4 Max de Apple más o menos el doble de velocidad que Strix Halo en esos modelos densos de 70B, por entre 1 800 y 2 200 dólares más; en los modelos de expertos la diferencia es mucho menor.

Cómo se midieron las cifras

El motor llama.cpp de LM Studio, ajustes por defecto, las mismas 240 consignas por idioma que el resto del baremo, razonamiento activado cuando el modelo lo permite. La mediana se toma sobre respuestas completas, así que incluye la fase de razonamiento y el procesado de la consigna; una consigna corta con un razonamiento largo baja la cifra, que es justo lo que vive quien escribe. Las velocidades varían con la longitud del contexto, el backend (Vulkan o ROCm) y las versiones de los controladores: léelas como una ordenación de los modelos entre sí en una máquina, no como una promesa absoluta. La calidad procede de la clasificación de IA local, que usa los mismos archivos.

Fuentes y lecturas