최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
Meta가 프로그래밍과 장기 에이전트 작업을 위해 설계된 오픈 웨이트 인공지능 모델 Muse Spark Open을 출시했다. 이 모델은 M5 Ultra 프로세서와 총 1TB의 통합 메모리를 탑재한 Mac Studio 두 대에서 로컬로 실행할 수 있다. 가중치는 다운로드할 수 있지만, Meta의 라이선스에 따라 일부 사용 사례에는 상업적 제한이 적용된다.
JetBrains가 Apache 2.0 라이선스로 제공되는 오픈 모델 Mellum2.1을 출시했다. 이 모델은 프로그래밍 에이전트와 하위 에이전트를 사용자의 로컬 환경이나 자체 인프라에서 실행하는 데 초점을 맞춘다. 실제 소프트웨어 환경에서 강화 학습을 활용해 훈련했으며, 코드 저장소 처리와 추론 속도를 크게 개선했다.
GitHub는 Copilot을 확장해 프로그래밍 작업을 로컬 또는 클라우드 모델로 자동 전달할 계획이지만, Microsoft는 저장소 컨텍스트 중 어느 정도가 개발자의 기기를 떠날 수 있는지, 또는 이러한 라우팅을 어떻게 제한할 수 있는지 아직 설명하지 않았다.
Mistral AI가 1조 개의 매개변수를 포함하며, 각 작업에서 490억 개가 활성화되는 멀티모달 모델 Mistral Large 4를 발표했다. 이 모델은 프로그래밍, 지능형 에이전트, 사이버 보안 및 기업용 활용을 겨냥하며, 공개 프리뷰를 제공하고 10월 말 이전에 가중치를 공개할 계획이다.
이 글은 인공지능 모델과 그 구조, 학습 및 실행 방식을 이해하는 데 필수적인 다양한 용어를 모아 설명합니다. 또한 에이전트, MCP 프로토콜, 불투명 추론과 같은 최신 개념을 조명하고, 이와 관련된 한계와 위험을 설명합니다.
Tencent가 100만 토큰을 초과하는 컨텍스트 창과 각 작업에서 490억 개의 매개변수를 활성화할 수 있는 오픈 소스 Hy4 Preview 모델을 공개했다. 회사는 내부 블라인드 테스트에서 이 모델이 GLM-5.3과 Kimi K3를 앞섰다고 밝혔지만, 결과는 Tencent의 평가에 국한되며 모델은 초기 프리뷰 버전이다.
Georgia Institute of Technology의 연구 논문이 Mixture of Experts 구조 기반 언어 모델 훈련에 사용되는 대규모 광 연결에서 반복적인 열 튜닝 작업이 미치는 영향을 분석한다. 공개된 초록에 따르면, 연구된 시나리오에서 정체 구간을 제거하자 Mixtral 8x7B 훈련이 2.7배 빨라졌다.
Z.ai는 정체가 불분명했던 Ox Alpha 모델이 자사의 모델임을 확인하고 GLM-5.3-Flash라는 이름으로 출시했으며, Hugging Face를 통해 가중치를 제공했다. 이 모델은 프로그래밍과 장기 에이전트 작업을 겨냥하며, 3,200억 개의 매개변수를 기반으로 각 질의에서 약 180억 개를 활성화하고 최대 100만 토큰의 컨텍스트를 지원한다.
bartowski는 llama.cpp를 사용해 모델을 양자화할 때 imatrix에 사용되는 보정 데이터에 관한 광범위한 실험을 검토하고, 가장 큰 이득은 낮은 비트율, 특히 다중 전문가 MoE 모델에서 나타난다는 결론을 내렸다. 새로운 dataset은 더 작고 집중적이지만, 다양한 텍스트와 도구 사용을 위해 구성된 대화를 함께 포함한다.
Writer가 새로운 모델 Palmyra X6와 함께 재설계된 오케스트레이션 계층 및 에이전트의 토큰 소비와 지출을 모니터링하는 거버넌스 도구를 발표했다. 회사는 모델과 플랫폼을 결합하면 비용이 평균 52% 절감되고, 속도는 48%, 품질은 10% 향상된다고 밝혔다.