🤖 IA Weekly Digest #17 — Semana 45, 2026

Compilado el 6 de noviembre de 2026

Esta semana el protagonismo lo han tenido los datos reales frente a los benchmarks de laboratorio: un usuario de r/LocalLLaMA comparó dos semanas de logs de agentes con INT8 frente a INT4, la comunidad exprime los STRIX Halo con Docker de un comando, y hasta llama.cpp mete optimizaciones de grafo que dan saltos de rendimiento brutales en los Gemma 4 pequeños. El hardware doméstico sigue ganando terreno, y las herramientas para ejecutarlo cada vez pesan menos de configurar.

🔝 Lo más importante de la semana

1. INT8 vs AWQ INT4 en carga agéntica: dos semanas de logs dan veredicto

Qué ha pasado: Un usuario comparó sus logs de agentes de dos semanas completas: INT8 en 4×3090 frente a AWQ INT4 en 2×3090, con el mismo sampler, harness (Hermes) y detector de loops en vLLM. Datos reales de producción agéntica, no benchmarks sintéticos.
Por qué importa: Es de las pocas comparativas de cuantización con datos longitudinales de carga agéntica, exactamente el caso de uso donde la cuantización agresiva suele romper el razonamiento en bucles de herramientas.
Para quién importa: Cualquiera que monte un servidor de inferencia multi-agente y dude entre quemar más GPUs con INT8 o ahorrar con INT4.
🔗 Reddit

2. Live-Swap CUDA: cambiar de workload de GPU sin reiniciar

Qué ha pasado: Ha circulado un flujo de trabajo para hacer live-swap de workloads CUDA — alternar llama.cpp, ComfyUI, Strata y más sobre la misma GPU sin reiniciar procesos ni perder la VRAM reservada.
Por qué importa: El cuello de botella real del bricolaje IA en casa no es la VRAM, es cómo repartirla entre inferencia, imagen y agentes sin montar un circus. Esto simplifica enormemente el servidor «todo en uno».
Para quién importa: Quien tenga una sola GPU potente y quiera convivencia pacífica entre sus agentes de texto y sus pipelines de imagen.
🔗 Reddit

3. libstrix: Strix Halo en Docker con un comando, y Qwen3.8-Flash-Next a 40+ tok/s

Qué ha pasado: Actualización de libstrix: imagen Docker de un solo comando para vLLM + ROCm en Strix Halo (Ryzen AI Max), y ya corre Qwen3.8-Flash-Next (125B-A6B) con ~1.6k tok/s de prefill y más de 40 tok/s de decode.
Por qué importa: El Strix Halo pasó de «proyecto de compilación manual para valientes» a hardware doméstico de 128GB unificado que corre un MoE enorme en Docker, sin tocar ni un Makefile.
Para quién importa: Quien esté mirando alternativas a las GPU NVIDIA para IA local seria: el ecosistema AMD por fin está reduciendo fricción.
🔗 Reddit

4. llama.cpp optimiza los grafos de Gemma 4: ganancias masivas en prompt processing de E2B y E4B

Qué ha pasado: Un PR en llama.cpp introduce optimizaciones de grafo para los Gemma 4 de 2B y 4B, con mejoras enormes de prefill en esos tamaños pequeños.
Por qué importa: Los modelos pequeños son los que corren en portátiles, Mac Mini y equipos modestos; ganar prefill ahí multiplica el uso real (RAG, agentes con contexto largo, resumen de documentos) sin tocar hardware.
Para quién importa: Cualquiera con un Mac Mini de 16GB o una máquina modesta que use modelos pequeños para trabajo diario.
🔗 Reddit

5. El mapa de motores de inferencia 2026 ya no parece de 2024

Qué ha pasado: Un hilo de r/LocalLLaMA repasa cómo ha explotado el ecosistema: de un monocultivo llama.cpp/Ollama a una ola de motores nuevos (vLLM en desktop, Strata, backends Vulkan/Rust como Hierarchos…), cada uno con su especialidad.
Por qué importa: Elegir motor ya no es trivial y la decisión afecta tanto al rendimiento como al ecosistema de herramientas que puedas encadenar después.
Para quién importa: Quien esté montando (o replanteando) su stack de IA local en 2026 y no quiera quedarse anclado en la herramienta de hace dos años.
🔗 Reddit

🧭 Radar rápido

• llama.cpp en ROCm, builds Lemonade — Un usuario documenta rendimientos de Qwen Flash Next en Vulkan sobre RX 9070 XT con builds Lemonade. 🔗 Reddit
• Strata en dos máquinas — Debate sobre repartir un modelo grande entre GPU y APU domésticos, con números de Qwen3.8-Flash-Next sobre RX 9070 XT. 🔗 Reddit
• Experto en cuantización: el artefacto del «yo ya lo he razonado» — Cómo las cuants bajas hacen que los modelos repitan verificaciones ya hechas. 🔗 Reddit
• Hierarchos Native — Backend Rust + Vulkan para entrenamiento, fine-tuning e inferencia: streaming más rápido en Intel HD 520 y RDNA3. 🔗 Reddit
• OpenClaw multi-agente en 5 minutos — Tutoriales para montar equipos de agentes privados con OpenClaw + Ollama sobre tu propio equipo. 🔗 YouTube · YouTube
• Ollama + Home Assistant en Mac Mini M4 — Guía completa de un servidor local integrado en la domótica de casa. 🔗 YouTube
• ¿Qué LLM corren en un Mac Mini M6 de 16GB? — Hilo práctico sobre runtimes y fine-tuning con memoria unificada justa. 🔗 Reddit
• ¿Qwen 4 27B correrá en tu tarjeta? — Si Qwen 3.8 27B te funciona hoy en llama.cpp, los números dicen que el próximo también. 🔗 YouTube

🎯 Mi lectura de la semana

Lo que más me ha llamado la atención no ha sido ningún lanzamiento, sino la madurez del flujo completo: cuantización medida con semanas de logs reales, hardware unificado que se instala con docker pull, y motores que optimizan modelos que ya están en nuestros escritorios.

Me quedo con la idea de que el hardware doméstico ya no compite en promesas, compite en fricción. Cuando correr un 125B en un mini-PC cuesta un comando, la decisión de compra deja de ser sobre TFLOPS y pasa a ser sobre cuánto tiempo quieres dedicar a mantenerlo.

¿Tienes algún comentario o quieres profundizar en algo? Respóndeme.
Si te ha gustado, suscríbete al blog en elmonomudo.com.