Términos

Mixture of Experts

Sigue la cobertura, explicaciones e historias tecnológicas relacionadas.

Última cobertura

CN
Meta lanza el modelo Muse Spark Open de 816.000 millones de parámetros que funciona localmente en dos Mac Studio

Meta lanza el modelo Muse Spark Open de 816.000 millones de parámetros que funciona localmente en dos Mac Studio

Meta ha lanzado el modelo de inteligencia artificial de pesos abiertos Muse Spark Open, diseñado para la programación y las tareas agénticas de larga duración, que puede ejecutarse localmente en dos Mac Studio equipados con procesadores M5 Ultra y una memoria unificada total de 1 terabyte. Aunque sus pesos están disponibles para su descarga, el modelo está sujeto a la licencia de Meta, que impone restricciones comerciales a determinados usos.

CN
JetBrains lanza Mellum2.1 como modelo abierto y rápido para agentes de programación

JetBrains lanza Mellum2.1 como modelo abierto y rápido para agentes de programación

JetBrains ha lanzado el modelo abierto Mellum2.1 bajo la licencia Apache 2.0, centrado en ejecutar agentes de programación y subagentes localmente o en la infraestructura propia del usuario. La versión se basa en entrenamiento mediante aprendizaje por refuerzo dentro de entornos de software reales, con importantes mejoras en el manejo de repositorios de código y la velocidad de inferencia.

CN
GitHub Copilot decidirá automáticamente entre la ejecución local y en la nube

GitHub Copilot decidirá automáticamente entre la ejecución local y en la nube

GitHub pretende ampliar Copilot para dirigir automáticamente las tareas de programación a modelos locales o en la nube, pero Microsoft aún no ha aclarado cuánto contexto de los repositorios podría salir del dispositivo del desarrollador ni cómo restringir esta dirección.

CN
Mistral AI revela Mistral Large 4 con una arquitectura de un billón de parámetros

Mistral AI revela Mistral Large 4 con una arquitectura de un billón de parámetros

Mistral AI anunció su modelo multimodal Mistral Large 4, que incorpora un billón de parámetros, de los cuales 49.000 millones están activos en cada operación. El modelo está dirigido a la programación, los agentes inteligentes, la ciberseguridad y los usos empresariales, con una vista previa pública y un plan para publicar sus pesos antes de finales de octubre.

CN
Guía práctica para entender el lenguaje de la inteligencia artificial: de los modelos lingüísticos al «razonamiento opaco»

Guía práctica para entender el lenguaje de la inteligencia artificial: de los modelos lingüísticos al «razonamiento opaco»

El artículo recopila y explica una amplia variedad de términos que se han vuelto esenciales para comprender los modelos de inteligencia artificial, su arquitectura y sus métodos de entrenamiento y ejecución. También destaca conceptos más recientes, como los agentes, el protocolo MCP y el razonamiento opaco, y aclara las limitaciones y los riesgos asociados con ellos.

CN
Tencent lanza el modelo de código abierto Hy4 Preview con una capacidad de 770.000 millones de parámetros

Tencent lanza el modelo de código abierto Hy4 Preview con una capacidad de 770.000 millones de parámetros

Tencent anunció la disponibilidad del modelo Hy4 Preview de código abierto, con una ventana de contexto de más de un millón de tokens y la capacidad de activar 49.000 millones de parámetros en cada operación. La empresa afirma que el modelo superó en una prueba interna ciega a GLM-5.3 y Kimi K3, aunque los resultados se limitan a la evaluación de Tencent y el modelo es una versión preliminar.

CN
Un estudio de Georgia Tech propone un ajuste eléctrico para reducir el atasco de las interconexiones ópticas durante el entrenamiento de modelos MoE

Un estudio de Georgia Tech propone un ajuste eléctrico para reducir el atasco de las interconexiones ópticas durante el entrenamiento de modelos MoE

Un artículo de investigación del Georgia Institute of Technology analiza el efecto de las operaciones repetidas de ajuste térmico en interconexiones ópticas a gran escala utilizadas para entrenar modelos lingüísticos basados en la arquitectura Mixture of Experts. Según el resumen publicado, eliminar los periodos de atasco aceleró 2,7 veces el entrenamiento de Mixtral 8x7B en el escenario estudiado.

CN
Z.ai revela la identidad del modelo Ox Alpha y lo ofrece con pesos abiertos bajo el nombre GLM-5.3-Flash

Z.ai revela la identidad del modelo Ox Alpha y lo ofrece con pesos abiertos bajo el nombre GLM-5.3-Flash

Z.ai confirmó que el misterioso modelo Ox Alpha le pertenece y lo lanzó con el nombre GLM-5.3-Flash, ofreciendo sus pesos a través de Hugging Face. El modelo está orientado a la programación y a tareas agénticas de larga duración, y utiliza 320.000 millones de parámetros, con aproximadamente 18.000 millones activos en cada consulta y un contexto de hasta un millón de tokens.

CN
El experimento de bartowski revela los límites de los datos de imatrix y la importancia de su diversidad en los modelos GGUF

El experimento de bartowski revela los límites de los datos de imatrix y la importancia de su diversidad en los modelos GGUF

bartowski presenta un amplio experimento para mejorar los datos de calibración utilizados con imatrix al cuantizar modelos mediante llama.cpp, y concluye que las mayores ganancias aparecen con tasas de bits bajas, especialmente en modelos de expertos múltiples MoE. El nuevo dataset es más pequeño y específico, pero combina textos diversos y conversaciones formateadas para el uso de herramientas.

CN
Writer lanza Palmyra X6 para reducir en un 52% el coste de los agentes de IA

Writer lanza Palmyra X6 para reducir en un 52% el coste de los agentes de IA

Writer ha anunciado su nuevo modelo Palmyra X6 junto con una capa de orquestación rediseñada y herramientas de gobernanza para supervisar el consumo de tokens y el gasto de los agentes. La empresa afirma que la combinación del modelo y la plataforma reduce el coste una media del 52%, mejora la velocidad un 48% y la calidad un 10%.