Diseñar RAG para millones de documentos no va de enchufar un LLM a una base vectorial. Va de construir un sistema capaz de encontrar evidencia, medir su fiabilidad, citarla y negarse a responder cuando no puede probar lo que dice.
Gemma 4 26B A4B corriendo en local con LM Studio en un MacBook Pro M3 Max ya me resuelve tareas útiles de verdad, incluyendo traducción, clasificación y flujos agentic con memoria, visión y tools. Y eso cambia bastante cómo pienso privacidad, coste y despliegues on premise.
Los agentes ya producen código a una velocidad absurda. Eso no vuelve más seguro el software. Sólo hace más visible qué parte del trabajo sigue siendo escasa: entender el cambio, acotar el riesgo y responder por lo que llega a producción.