🤖 IA Weekly Digest #18 — Semana 46, 2026
Compilado el 13 de noviembre de 2026
Esta semana la comunidad local ha estado muy fina: alguien ha conseguido que CUDA y ROCm trabajen juntos en una máquina mixta de Strix Halo + RTX 5090 (hasta un 48% más rápido), los primeros PRs confirman que Qwen4 está a la vuelta de la esquina, y OpenClaw se ha convertido en el protagonista de los tutoriales de asistentes privados con Ollama. Además, un experimento de steering vectors en Gemma4 que rozan lo inquietante: tres neuronas controlan cariño y desprecio hacia el usuario.
🔝 Lo más importante de la semana
1. Inferencia CUDA+ROCm con GPUs de fabricantes mezclados: hasta 48% más rápido
Qué ha pasado: Un usuario de r/LocalLLaMA ha logrado ejecutar inferencia LLM de forma simultánea sobre una iGPU Strix Halo (ROCm) y una RTX 5090 (CUDA), algo que ningún motor estándar (vLLM, llama.cpp) permite hoy. La combinación de ambos backends da hasta un 48% de mejora de rendimiento.
Por qué importa: Es el fin del muro de «solo GPUs del mismo vendor» para inferencia casera. Combinar la memoria unificada de un APU con la VRAM de una NVIDIA abre configuraciones híbridas que antes eran imposibles sin particionar el modelo.
Para quién importa: Cualquiera montando un servidor de inferencia doméstico con hardware heterogéneo o con APUs potentes sin aprovechar.
🔗 Reddit
2. Qwen4 se asoma: primeros PRs detectados en GitHub
Qué ha pasado: Se han visto los primeros pull requests preparando Qwen4: uno en RTP-LLM y otro en llama.cpp con commits etiquetados `qwen4exp`. La comunidad toma esto como señal inminente de lanzamiento, tras un 2026 donde Qwen ya dominó el segmento local con sus 27B y Flash-Next.
Por qué importa: Qwen es la familia de modelos abiertos más relevante para inferencia local; una nueva generación suele redefinir qué es posible en hardware consumer. El soporte llega a llama.cpp desde antes del release, buena señal de coordinación.
Para quién importa: Quien tenga cuantizaciones de Qwen en producción local y quiera planificar la migración (y su VRAM) desde ya.
🔗 Reddit · llama.cpp PR
3. OpenClaw + Ollama: el asistente privado 100% local se hace viral
Qué ha pasado: Dos tutoriales completos esta semana sobre montar un asistente privado con OpenClaw y Ollama a coste cero (Krish Naik y ProgrammingKnowledge2), y además Brian Casel ha publicado un vídeo detallando cómo lleva un equipo de 4 agentes con OpenClaw en un Mac Mini para gestionar su negocio.
Por qué importa: El patrón «asistente personal open-source sobre modelos locales» pasa de bricolaje de nicho a flujo documentado paso a paso. Caso real de uso multi-agente con hardware doméstico, no demo de juguete.
Para quién importa: Quien quiera un asistente persistente sin eximir datos a la nube, y cualquiera explorando arquitecturas multi-agente en producción doméstica.
🔗 YouTube (Krish Naik) · Setup guía · Multi-agent con OpenClaw
4. ¿Strata sacrifica calidad por velocidad? Su autor responde con benchmarks
Qué ha pasado: Tras semana de dudas en el subreddit («tu salida tiene que ser de peor calidad si va tan rápido»), el autor de Strata publicó benchmarks comparativos contra llama.cpp con el mismo Qwen3.8-Flash, además de un test exhaustivo previo de todos los GGUF de Qwen en una RTX 3060 12GB, misma máquina y archivos, back to back.
Por qué importa: Es raro ver a un proyecto responder a las críticas con metodología reproducible en vez de marketing. La discusión sobre si las optimizaciones de velocidad degradan la salida merece datos, no intuiciones.
Para quién importa: Usuarios de hardware modesto (12 GB VRAM) buscando acelerar inferencia sin perder calidad, y quien evalúe Strata como alternativa a llama.cpp.
🔗 Reddit · Benchmark Qwen completo
5. Steering vectors en Gemma4-31b: cariño y desprecio en las mismas 3 neuronas
Qué ha pasado: Un usuario ha descubierto en el espacio latente de Gemma4-31b que el «cariño» y el «desprecio» hacia el usuario están controlados por las mismas 3 neuronas, y ha publicado una receta para encontrar tus propios vectores de steering y exportarlos a GGUF para usarlos en llama.cpp.
Por qué importa: El steering sobre modelos locales cuantizados deja de ser-paper y se vuelve herramienta práctica: poder ajustar el tono/personalidad de tu modelo local sin fine-tuning es potente y ligeramente escalofriante.
Para quién importa: Quien quiera controlar el comportamiento de sus modelos locales más allá del system prompt, y curiosos de la interpretabilidad aplicada.
🔗 Reddit
🔧 Especial: Agent frameworks, ¿cuál en 2026?
Semana de comparative-tainment sobre frameworks de agentes: CrewAI vs LangGraph vs Mastra vs Agent Framework, CrewAI vs AutoGen vs LangChain, ¿está muerto el agent harness? (con Jediah Katz, ex-Cursor) y LangGraph vs CrewAI vs Microsoft AF. El consenso: elige por el tipo de estado y recuperación que necesitas, no por el hype.
🧭 Radar rápido
- RTX 5090 + Qwen 3.8 27B — Q4_K_M y Q5_K_M a 110-120 tok/s en OpenCode 2 + LM Studio. 🔗 Reddit
- Kimi-K3.1-Pro llega a llama.cpp — PR #31779 con soporte del modelo de texto. 🔗 Reddit
- MoE cache: expertos omitidos en CPU — llama.cpp PR con script de tuning para repartir expertos entre GPU y CPU. 🔗 Reddit
- clap.cpp — embeddings de audio en C++/GGML con CLI, servidor HTTP y bindings Python/Rust/Node. 🔗 Reddit
- Mac Studio M5 Ultra: Ollama vs LM Studio — 16 peticiones simultáneas y resultados casi empatados; vídeo práctico. 🔗 YouTube
- Un token cambia el 40% de las respuestas — experimento sobre reproducibilidad y sensibilidad al prompt inicial. 🔗 Reddit
- Workspace GUI de cuantización — de Safetensors a GGUF/MLX/ONNX con publicación directa a HuggingFace. 🔗 Reddit
- «Edad dorada» del LLM local — hilo de opinión sobre el estado del arte en Q4 2026 y el inminente Qwen 4. 🔗 Reddit
- Cómo hacer benchmark local en serio — hilo comunitario sobre estrategias para comparar modelos en múltiples modalidades. 🔗 Reddit
🎯 Mi lectura de la semana
La noticia que más me ha marcado es la de CUDA+ROCm trabajando juntos. Llevamos años aceptando como ley natural que el hardware mixto no se puede aprovechar para inferencia, y resulta que era un límite de software. Si esto madura, la conversación sobre «qué GPU comprar» cambia: ya no eliges un vendor, combinas lo que ya tienes en casa.
Lo segundo es la sensación de que Qwen4 está ya en fase de integración. Que llama.cpp prepare el terreno antes del lanzamiento confirma el ritmo al que el mundo local va absorbiendo cada generación. Y entre medias, el steering vector de Gemma4 me recuerda que sigue habiendo física curiosa bajo el capó: tres neuronas decidiendo si tu modelo te trata con cariño o con desprecio. Que no lo sepamos manejar del todo no le quita fascinación.
¿Tienes algún comentario o quieres profundizar en algo? Respóndeme.
Si te ha gustado, suscríbete al blog en elmonomudo.com.
