NVIDIA ha anunciado Nemotron 3.5 Super VL, un modelo multimodal de código abierto de 120 mil millones de parámetros diseñado específicamente para gestionar flujos de trabajo empresariales complejos y autónomos. Este modelo combina razonamiento, uso de herramientas y comprensión de múltiples formatos en una única arquitectura.
Datos clave
- Nemotron 3.5 Super VL es un modelo MoE de 120B parámetros con 12B parámetros activos por token.
- Ofrece hasta 5 veces mayor rendimiento (throughput) para tareas agenticas en comparación con otros modelos abiertos de su categoría.
- Los clientes que han post-entrenado el modelo han reportado reducciones de coste de inferencia de hasta un 40% y latencia de hasta 10 veces.
- La arquitectura permite procesar texto, imagen, documento y vídeo sin necesidad de modelos separados.
- Los desarrolladores pueden personalizarlo usando NVIDIA NeMo con SFT, LoRA y aprendizaje por refuerzo.
Nemotron 3.5 Super VL: Una arquitectura MoE de 120B parámetros para automatizar flujos de trabajo complejos
NVIDIA ha presentado Nemotron 3.5 Super VL, un modelo multimodal de código abierto con una arquitectura Mixture-of-Experts (MoE) de 120 mil millones de parámetros. Este diseño activa 12 mil millones de parámetros por token, equilibrando la capacidad del modelo con la eficiencia de inferencia. Está destinado a manejar flujos de trabajo empresariales avanzados, donde una única solicitud puede requerir la lectura de documentos, la verificación de información en múltiples fuentes y la ejecución de herramientas. En un único GPU, el modelo promete un rendimiento hasta cinco veces superior (5x) para tareas agenticas en comparación con otros modelos abiertos de su tamaño.
Capacidades multimodales: Integración de texto, imagen, documento y vídeo en un solo modelo
El valor clave de Nemotron 3.5 Super VL reside en su capacidad de integrar razonamiento, seguimiento de instrucciones y uso de herramientas junto con la comprensión de texto, imagen, documento y vídeo. Al consolidar estas capacidades en un solo modelo, las empresas pueden abordar tareas visuales y textuales sin tener que desplegar múltiples modelos de visión-lenguaje o gestionar el contexto entre ellos. Además, la eficiencia se optimiza mediante técnicas como la cuantización NVFP4 con destilación consciente de la cuantización y la decodificación especulativa LiLiCorr, mejorando el rendimiento en plataformas como NVIDIA DGX Spark.
Optimización para agentes especializados: Uso de NeMo y casos de uso empresariales
Para asegurar su utilidad en entornos empresariales, el modelo es altamente personalizable. NVIDIA recomienda utilizar la librería NeMo para el post-entrenamiento, permitiendo a los desarrolladores usar Super VL con sus propios datos, herramientas y políticas mediante el ajuste fino supervisado (SFT) o Low-Rank Adaptation (LoRA), además de implementar el aprendizaje por refuerzo (RL). Numerosas organizaciones ya han adaptado el modelo: Scale AI lo post-entrenó para el procesamiento de créditos de proveedores en Skydance Corporation, logrando una reducción del coste de inferencia del 40%. De forma similar, Ramp mejoró su proceso de conversión de imágenes de recibos a JSON, esperando una latencia 10 veces menor.
Despliegue y escalabilidad: Optimización de la inferencia y modelos complementarios
Nemotron 3.5 Super VL forma parte de un sistema de modelos más amplio. Mientras que este modelo maneja tareas especializadas y de múltiples pasos, NVIDIA también ha lanzado Nemotron 3.5 Lightning para tareas de texto de alto volumen y Nemotron 3 Ultra para la planificación y orquestación de tareas complejas. Adicionalmente, se ha anunciado la disponibilidad de modelos más compactos, como los dos modelos Bolt, que permiten llevar la funcionalidad de agentes a máquinas locales, además de datasets abiertos en Hugging Face para el entrenamiento.
Más sobre este tema: Herramientas de IA
Fuente de esta noticia: consultar el anuncio o artículo original.
