Termos

Mixture of Experts

Acompanhe as últimas notícias, explicações e histórias tecnológicas relacionadas.

Cobertura mais recente

CN
Meta lança o modelo Muse Spark Open com 816 bilhões de parâmetros, executado localmente em dois Mac Studio

Meta lança o modelo Muse Spark Open com 816 bilhões de parâmetros, executado localmente em dois Mac Studio

A Meta lançou o modelo de inteligência artificial de pesos abertos Muse Spark Open, projetado para programação e tarefas agentivas de longo prazo, que pode ser executado localmente em dois Mac Studio equipados com processadores M5 Ultra e com 1 terabyte de memória unificada no total. Embora seus pesos estejam disponíveis para download, o modelo está sujeito à licença da Meta, que impõe restrições comerciais a alguns usos.

CN
JetBrains lança Mellum2.1 como modelo aberto rápido para agentes de programação

JetBrains lança Mellum2.1 como modelo aberto rápido para agentes de programação

A JetBrains lançou o modelo aberto Mellum2.1 sob a licença Apache 2.0, com foco na execução de agentes de programação e subagentes localmente ou na infraestrutura própria do usuário. A versão baseia-se em treinamento por aprendizagem por reforço em ambientes de software reais, com grandes melhorias no trabalho com repositórios de código e na velocidade de inferência.

CN
O GitHub Copilot decidirá automaticamente entre a execução local e na nuvem

O GitHub Copilot decidirá automaticamente entre a execução local e na nuvem

A GitHub pretende ampliar o Copilot para direcionar automaticamente tarefas de programação a modelos locais ou em nuvem, mas a Microsoft ainda não esclareceu quanto do contexto dos repositórios poderá deixar o dispositivo do desenvolvedor nem como esse direcionamento poderá ser restringido.

CN
Mistral AI revela o Mistral Large 4 com uma arquitetura que inclui um trilhão de parâmetros

Mistral AI revela o Mistral Large 4 com uma arquitetura que inclui um trilhão de parâmetros

A Mistral AI anunciou seu modelo multimodal Mistral Large 4, que inclui um trilhão de parâmetros, dos quais 49 bilhões ficam ativos em cada operação. O modelo tem como alvo a programação, os agentes inteligentes, a cibersegurança e os usos corporativos, com uma prévia pública disponível e um plano para publicar seus pesos antes do fim de outubro.

CN
Um guia prático para entender a linguagem da inteligência artificial: dos modelos linguísticos ao «raciocínio opaco»

Um guia prático para entender a linguagem da inteligência artificial: dos modelos linguísticos ao «raciocínio opaco»

O material reúne e explica uma ampla variedade de termos que se tornaram essenciais para compreender os modelos de inteligência artificial, sua estrutura e seus métodos de treinamento e operação. Também destaca conceitos mais recentes, como agentes, o protocolo MCP e o raciocínio opaco, esclarecendo as limitações e os riscos associados a eles.

CN
A Tencent lança o modelo Hy4 Preview de código aberto com capacidade de 770 bilhões de parâmetros

A Tencent lança o modelo Hy4 Preview de código aberto com capacidade de 770 bilhões de parâmetros

A Tencent anunciou a disponibilização do modelo Hy4 Preview de código aberto, com uma janela de contexto superior a um milhão de tokens e capacidade de ativar 49 bilhões de parâmetros em cada operação. A empresa afirma que o modelo superou GLM-5.3 e Kimi K3 em um teste interno cego, embora os resultados estejam limitados à avaliação da Tencent e o modelo seja uma versão preliminar.

CN
Estudo da Georgia Tech propõe ajuste elétrico para reduzir a instabilidade das interconexões ópticas durante o treinamento de modelos MoE

Estudo da Georgia Tech propõe ajuste elétrico para reduzir a instabilidade das interconexões ópticas durante o treinamento de modelos MoE

Um artigo de pesquisa do Georgia Institute of Technology analisa o impacto de operações repetidas de ajuste térmico em interconexões ópticas de grande escala usadas para treinar modelos de linguagem baseados na arquitetura Mixture of Experts. Segundo o resumo publicado, a eliminação dos períodos de instabilidade acelerou o treinamento do Mixtral 8x7B em 2,7 vezes no cenário estudado.

CN
A Z.ai revela a identidade do modelo Ox Alpha e o disponibiliza com pesos abertos sob o nome GLM-5.3-Flash

A Z.ai revela a identidade do modelo Ox Alpha e o disponibiliza com pesos abertos sob o nome GLM-5.3-Flash

A Z.ai confirmou que o misterioso modelo Ox Alpha pertence à empresa e o lançou sob o nome GLM-5.3-Flash, disponibilizando seus pesos por meio do Hugging Face. O modelo tem como alvo a programação e tarefas agentivas de longo prazo, baseia-se em 320 bilhões de parâmetros, com cerca de 18 bilhões ativados em cada consulta, e oferece um contexto de até um milhão de tokens.

CN
Experimento de bartowski revela os limites dos dados do imatrix e a importância de sua diversidade nos modelos GGUF

Experimento de bartowski revela os limites dos dados do imatrix e a importância de sua diversidade nos modelos GGUF

bartowski apresenta um experimento amplo para aprimorar os dados de calibração usados com o imatrix ao quantizar modelos por meio do llama.cpp e conclui que os maiores ganhos aparecem em taxas de bits baixas, especialmente em modelos de mistura de especialistas (MoE). O novo dataset é menor e mais focado, mas combina textos diversificados e conversas formatadas para o uso de ferramentas.

CN
Writer lança o Palmyra X6 para reduzir em 52% o custo de agentes de IA

Writer lança o Palmyra X6 para reduzir em 52% o custo de agentes de IA

A Writer anunciou seu novo modelo Palmyra X6, juntamente com uma camada de orquestração redesenhada e ferramentas de governança para monitorar o consumo de tokens e os gastos dos agentes. A empresa afirma que a combinação do modelo com a plataforma reduz o custo em média em 52% e melhora a velocidade em 48% e a qualidade em 10%.