오픈 소스 AI 모델 개발 전문 기업인 Nous Research는 새로운 모델인 Arete-27B를 공개했다. 이 모델은 중국 Alibaba가 개발한 Qwen3.8-27B 모델을 기반으로 하지만, 모델의 응답을 회사가 말하는 "서구적 가치"를 반영하도록 재지향하기 위한 근본적인 수정을 거쳤다.
수정 및 학습 메커니즘
Nous Research는 기초 모델을 처음부터 개발한 것이 아니라, 기존 모델에 미세 조정(Fine-tuning) 기술을 적용했다. 이 과정은 1,202회의 학습 단계를 통해 약 5,280만 개의 토큰(token)을 학습시키는 데 소요되었으며, 강화 학습이나 선호도 최적화와 같은 복잡한 기술을 사용할 필요 없이 원본 모델의 엔지니어링 구조를 훼손하지 않고 진행되었다.
실질적으로 무엇이 변하는가?
회사는 표현의 자유, 민주주의, 정부 정책을 포함한 7개 카테고리에 걸친 803개의 질문을 통해 평가를 실시했다. 결과에 따르면 중국 정부의 공식 담론을 채택하는 응답 비율이 기존 모델의 22%에서 Arete-27B 모델에서는 1% 미만으로 현저히 감소했다. 또한 "정보 정확도"(Fact Score) 지표는 5점 만점에 2.32에서 2.98로 상승했다.
이 뉴스가 중요한 이유
이러한 발전의 중요성은 오픈 웨이트(open weights) 모델의 가치관 및 정치적 성향을 비교적 제한된 학습 노력만으로도 재형성할 수 있음을 입증했다는 데 있다. 그러나 회사는 다음과 같은 중요한 한계점을 지적한다:
- 독립적 검증: 결과는 Grok 4.7 모델을 사용하여 평가되었으며, 아직 제3자의 독립적인 검토를 거치지 않았다.
- 정치적 편향: 공식 담론과의 일치도가 낮아졌다고 해서 반드시 완전한 정치적 중립이나 절대적인 정보 정확도에 도달했음을 의미하지는 않는다.
- 일반 성능: 테스트 결과, 수정 사항이 모델의 일반적인 능력에 부정적인 영향을 미치지 않았음이 확인되었으며, Arete-27B는 표준 성능 테스트에서 원본 모델과 유사한 성능을 유지했다.
Nous Research는 Hugging Face 플랫폼을 통해 모델 가중치, 학습 데이터 및 평가 방법론을 공개했으며, 이는 연구자들이 독립적인 테스트를 수행하고 대규모 언어 모델의 이데올로기적 성향을 변화시키는 데 있어 이 방법론이 얼마나 효과적인지 검증할 수 있는 길을 열어주었다.