Anthropic은 2026년 9월 18일 Accenture와 첨단 인공지능 모델에 대한 독립 평가를 수행하기 위한 파트너십을 발표했다. 이는 모델 개발사 외부에서 완료된 뒤 검토하는 데 그치지 않고, 독립 평가자를 모델 개발사 내부에 참여시키려는 조치다. 공동 작업은 Accenture 산하의 전문 인공지능 부문인 Faculty가 주도한다.
이번 파트너십의 범위에는 모델 평가 및 공격적 시뮬레이션 방식의 테스트, 정렬 평가, 보호 수단 검토가 포함된다. Anthropic은 기업과 정부, 다양한 산업 분야에 인공지능을 배포해 온 Accenture의 경험이 모델의 안전성과 활용에 대한 평가에 실질적인 관점을 더할 것이라고 밝혔다.
양측은 향후 5년 동안 이 분야와 관련된 역량 구축에 각각 최소 10억 달러를 투자할 것으로 예상한다. 회사는 발표에서 지출 일정이나 이러한 투자를 측정하는 메커니즘에 관한 세부 사항을 밝히지 않았다.
통합 평가란 무엇을 의미하는가?
통합 평가란 독립 평가자들이 직원에 준하는 수준의 접근 권한을 가지고 인공지능 회사 내부에서 활동하는 것을 의미한다. 이를 통해 평가자들은 훈련 중인 모델을 추적하고, 모델 구축과 배포에 영향을 미치는 결정을 검토하며, 모델을 담당하는 직원들과 직접 대화할 수 있다. Anthropic에 따르면 이러한 위치는 평가자들이 회사의 안전 약속 준수 여부를 확인하고, 취약점을 발견하며, 사고를 보고하고, 혜택과 위험에 대해 대중에게 더욱 충분한 정보를 바탕으로 한 설명을 제공하는 데 도움이 될 수 있다.
Anthropic은 독립 평가자의 참여가 안전에 대한 책임을 회사에서 이전하거나 회사의 책임성을 낮추는 것이 아니라고 강조한다. 모델의 안전은 여전히 회사의 직접적인 책임이다. 이 이니셔티브의 실질적인 가치는 개발 단계와 내부 결정에 대한 독립적인 접근을 통해 이러한 책임을 더욱 검증 가능하게 만드는 데 있다.
아직 해결되지 않은 격차
현재 통합 평가자들이 어떤 정보를 제공받아야 하는지, 또는 이들이 결과를 어떤 방식으로 보고해야 하는지를 정하는 합의된 기준은 없다. 장기적으로 독립 평가에 자금을 조달할 안정적인 체계도 마련되어 있지 않다. Anthropic은 향후 자금이 공동 기금이나 정부 출처에서 나와야 한다고 보지만, 현재 단계에서는 이러한 대안이 제공되지 않기 때문에 Accenture의 업무에 직접 자금을 지원할 예정이다.
회사는 자체 자금으로 통합 평가의 일부 요소를 시험하기 위해 METR 및 다른 비영리 기관들과도 협의하고 있다. 또한 Accenture와의 파트너십은 독점적이지 않으며, 앞으로 몇 주 안에 발표할 다른 평가자들과도 협력할 것이라고 밝혔다. Accenture 역시 다른 인공지능 개발사들과 협력할 예정이다.
certi.news의 분석
이번 발표의 중요성은 모델 안전성에 관한 논의를 별도의 평가 보고서에서 개발 과정 자체에 대한 감시로 옮긴다는 데 있다. 이는 평가자들에게 초기 결정과 위험을 더 효과적으로 포착할 수 있는 능력을 제공할 수 있지만, 동시에 평가자의 독립성, 접근 권한의 범위, 정보 보호 메커니즘, 결과 공개 방식에 관한 핵심적인 질문을 제기한다. Anthropic이 기준이나 안정적인 자금 조달 모델이 존재하지 않는다는 점을 인정하고 있는 만큼, 이번 파트너십은 최종적인 거버넌스 체계라기보다 중요한 기반 구축 실험에 해당한다.