최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
Circuit Breaker Labs는 다양한 연령, 문화, 언어의 사용자를 모방하는 에이전트를 통해 인공지능 모델을 테스트하며, 심리적 피해로 이어질 수 있는 상호작용을 발견하는 것을 목표로 한다. 현재 이 회사는 인공지능 기반 교육, 일기, 심리 지원 애플리케이션을 대상으로 하고 있다.
Anthropic은 Accenture와 협력해 첨단 인공지능 모델에 대한 독립 평가와 침투 테스트를 회사 내부에서 수행한다. 양측은 5년 동안 각각 최소 10억 달러를 투자할 것으로 예상된다. 이번 이니셔티브는 새로운 감독 모델을 보여주지만, 접근 권한, 자금 조달 및 보고에 관한 안정적인 기준은 여전히 부족하다.