20
noviembre
2026

🤖 IA Weekly Digest #19 — Semana 47, 2026

posted in IA Weekly, IA Weekly Digest 7.46 AM

IA Weekly Digest #19 — Semana 43

🤖 IA Weekly Digest #19 — Semana 47, 2026

Compilado el 20 de noviembre de 2026

Semana de guerra de motores de inferencia local: BigMoeOnEdge presume de correr cualquier MoE en casi cualquier hardware, tandem.cpp mete un DeepSeek-V4.1 en un PC de 64 GB con una sola tarjeta de 16 GB, y Basalt responde a Strata con 224 tokens por segundo en Qwen3.8 Flash-Next. Mientras tanto, la cuantización extrema sigue bajando: Qwen3 a 2,7 bits por peso.

🔝 Lo más importante de la semana

1. BigMoeOnEdge: cualquier MoE, en cualquier hardware, sin repackaging

Qué ha pasado: Ha aparecido BigMoeOnEdge, una solución que ejecuta cualquier GGUF MoE que llama.cpp pueda cargar —sin repack ni formatos especiales— en NVIDIA, AMD, Intel, Mac, teléfono o CPU sola, superando a Strata y colibri en tarjetas de 8-16 GB.
Por qué importa: Si cumple lo prometido, elimina la fricción de «¿mi hardware puede correr este modelo?»: el mismo GGUF funciona en cualquier plataforma sin conversión, algo que hoy obliga a mantener varias herramientas según el chip.
Para quién importa: Quien tenga hardware modesto o heterogéneo (o un Mac) y quiera correr modelos MoE grandes sin pelearse con los formatos.
🔗 Reddit

2. tandem.cpp: DeepSeek-V4.1 en un PC de 64 GB con una GPU de 16 GB

Qué ha pasado: Nueva actualización de tandem.cpp, el conjunto de parches para llama.cpp que mantiene los expertos «calientes» de un MoE en la GPU y delega el resto a la CPU. Ahora soporta modelos más grandes que la VRAM disponible y añade soporte AMD (ROCm).
Por qué importa: Es la vía práctica para correr modelos de decenas de billones de parámetros en hardware de gama media, sin necesidad de multi-GPU ni servidores: la CPU deja de ser el cuello de botella al repartir bien los expertos.
Para quién importa: Quien quiera modelos frontier-like en local sin comprar 96 GB de VRAM, especialmente con GPUs AMD.
🔗 Reddit · GitHub

3. Basalt vs Strata: 224 tok/s con Qwen3.8 Flash-Next

Qué ha pasado: Un vídeo comparativo ha enfrentado Strata y Basalt corriendo Qwen3.8 Flash-Next, con Basalt marcando 224 tokens por segundo — cifras que hasta hace poco eran cosa de servidores, no de escritorios.
Por qué importa: La competición entre motores de inferencia está empujando los tok/s consumer a niveles absurdos. Cuando la velocidad deja de ser el problema, lo que decide la elección es la calidad de salida y la estabilidad — y ahí se está librando la batalla real.
Para quién importa: Quien esté eligiendo motor para su setup local y quiera datos comparativos en vez de números de marketing.
🔗 YouTube

4. Qwen3 a ~2,7 bits por peso con cuantización Leech

Qué ha pasado: Un nuevo método de cuantización basado en retículos de Leech (Rust + CUDA) permite ejecutar Qwen3 4B/8B/14B a unos 2,7 bits por peso, superando a IQ2_S en calidad con el mismo tamaño, aunque con penalización de velocidad.
Por qué importa: La cuantización extrema deja de ser «compresión con daño» para convertirse en una decisión de compromiso explícita entre calidad y velocidad. Que supere a IQ2_S en calidad sugiere que el techo de los 2-3 bits aún no ha llegado.
Para quién importa: Quien tenga poca VRAM/RAM y quiera modelos más capaces de los que su hardware aparentemente permite.
🔗 Reddit

5. Verificación de salidas de LLM local: Gemma 4 + Nimble en cascada

Qué ha pasado: Un artículo de Towards Data Science muestra un patrón de verificación con modelos 100% locales: Gemma 4 E2B redacta las respuestas y Nimble 9B de Bespoke Labs decide si aceptar, revisar o escalar a humano, con reintento focalizado solo en lo marcado.
Por qué importa: Es la pieza que falta en la mayoría de pipelines locales: control de calidad automatizado sin nube. La cascada «borrador + verificador» convierte un modelo pequeño en algo fiable para producción, sin depender de APIs de pago.
Para quién importa: Quien construya flujos de agentes locales y necesite garantías de salida sin que una nube se meta de por medio.
🔗 Towards Data Science

🔧 Especial: Agent frameworks, el eterno debate de 2026

Semana otra vez cargada de comparativas: LangGraph vs CrewAI vs AutoGen (guía de producción), agentes de producción desde cero con LangGraph + NotebookLM + CrewAI, DSPy vs LangGraph en Stanford CS329Z, workflows, multi-agent y producción según IBM y AutoGen vs CrewAI vs LangGraph en formato corto. El patrón se repite: el framework correcto depende del estado, la recuperación y los guardrails que necesites, no de la moda.

🧭 Radar rápido

  • ASR/TTS en llama.cpp — Yue2, Qwen3-ASR y Qwen3-TTS ya integrados en la ecocom, y el input de audio de Gemma 4 funcionando bien. 🔗 Reddit
  • Boost CPU-only para Q2_0 en AVX-VNNI — PR #26348 en llama.cpp acelera cuantizaciones de 2 bits en CPUs sin GPU. 🔗 Reddit
  • Pipeline de juego diario en DGX Spark — un hobby con Qwen3.6-35B-A3B en vLLM + Qwen-Image en ComfyUI que demuestra el DGX Spark como máquina de juegos generativos. 🔗 Reddit
  • 3090 vs 4090 para inferencia en Ollama — comparativa práctica de dos GPUs favoritas de segunda mano sobre 3 LLMs modernos. 🔗 YouTube
  • Pipeline local sin API de pago — guía con Ollama + vector DB local para montar un stack RAG 100% gratuito. 🔗 YouTube
  • ¿Cómo has llegado hasta aquí? — hilo de r/LocalLLaMA con trayectorias desde Ollama/LM Studio hasta setups serios; buen pulso de la comunidad. 🔗 Reddit
  • OpenClaw + Ollama en 5 minutos — otro tutorial de asistente privado local, señal de que el patrón sigue calando. 🔗 YouTube

🎯 Mi lectura de la semana

Esta semana lo interesante no es un modelo ni un hardware, sino un patrón: la capa de «motor» de la IA local se está especializando a toda velocidad. Strata, Basalt, BigMoeOnEdge, tandem.cpp… cada uno ataca el mismo problema (correr MoE grandes en hardware limitado) desde un ángulo distinto. Eso es señal de un mercado que se ha quedado sin fruta baja: el siguiente 20% de rendimiento ya no sale de un solo truco, sino de arquitecturas clever.

Lo otro que me ha llamado la atención es el artículo de verificación en cascada (Gemma 4 + Nimble). Llevamos meses viendo agentes por todas partes, pero apenas se habla de quién revisa al agente. Que la solución sea local y gratuita me parece la parte más subestimada de la semana: un modelo pequeño que vigila a otro modelo pequeño es, sospecho, cómo se verán los sistemas fiables de aquí a un año.


¿Tienes algún comentario o quieres profundizar en algo? Respóndeme.
Si te ha gustado, suscríbete al blog en elmonomudo.com.

Deja un comentario