StepFun ha puesto a disposición en pesos abiertos (open weights) Step 5 Preview, un modelo de arquitectura Mixture-of-Experts (MoE) diseñado para tareas de agentes a largo plazo. Esta versión cuenta con 600 mil millones de parámetros totales y soporta hasta 1 millón de tokens de contexto.
Datos clave
- 600 mil millones de parámetros totales
- 27 mil millones de parámetros activos por token
- Soporte de contexto de hasta 1 millón de tokens
- Disponible como pesos abiertos (open weights)
- Formatos FP8 y BF16 en Hugging Face y ModelScope
Presentación de Step 5 Preview como modelo open weights
StepFun ha anunciado el lanzamiento de Step 5 Preview, haciéndolo disponible con pesos abiertos (open weights). Este modelo se define como una arquitectura *sparse Mixture-of-Experts* (MoE) desarrollada específicamente para aplicaciones de trabajo agentico y de horizonte largo. La versión ha sido publicada en plataformas clave como Hugging Face y ModelScope, donde se encuentran disponibles los checkpoints en formatos FP8 y BF16. El anuncio, reportado por MarkTechPost, establece a Step 5 como un competidor significativo en el ámbito de los modelos de lenguaje grandes (LLMs) de código abierto.
Arquitectura MoE y capacidades para agentes a largo plazo
Técnicamente, Step 5 Preview presenta una magnitud considerable de 600 mil millones de parámetros en total. Sin embargo, su eficiencia se centra en que solo 27 mil millones de parámetros están activos por token, característica propia de la arquitectura MoE que permite manejar grandes capacidades computacionales de manera selectiva. Además, el modelo está optimizado para gestionar contextos extremadamente largos, alcanzando un soporte de hasta 1 millón de tokens. Estos parámetros sugieren su idoneidad para el desarrollo de agentes de IA complejos que requieren memoria y coherencia a lo largo de interacciones muy extensas.
Disponibilidad técnica y formatos de checkpoint
La disponibilidad de Step 5 Preview como pesos abiertos es un dato crucial para la comunidad de desarrolladores, ya que permite la experimentación y la adaptación local sin las restricciones de modelos propietarios. La publicación de los checkpoints en formatos FP8 y BF16 facilita su integración en diversos entornos de *ordenador* y *móvil*, optimizando el uso de la memoria y acelerando el proceso de inferencia. Este acceso abierto posiciona a StepFun como un actor relevante que impulsa la democratización de modelos de IA de alta capacidad.
Implicaciones para el desarrollo de IA de frontera
Aunque los detalles específicos sobre los *benchmarks* de rendimiento en tareas concretas no se detallan en la fuente, el lanzamiento de esta versión sugiere un enfoque en la escalabilidad y la gestión de la memoria contextual. Los desarrolladores pueden acceder a los modelos en Hugging Face y ModelScope para comenzar con la implementación de sus flujos de trabajo agenticos, aprovechando la arquitectura MoE y su soporte de 1M de tokens.
Más sobre este tema: Herramientas de IA
Fuente de esta noticia: consultar el anuncio o artículo original.
