Recurrent Depth

OpenAI의 새로운 추론 기술, AI 모델의 모니터링 가능성에 대한 우려 제기

OpenAI의 Astra 모델은 일반적인 순차 처리 대신 반복 루프를 통해 질의를 처리하는 ‘반복 깊이’ 기술을 사용할 것으로 예상되며, 이로 인해 추론 흔적이 관찰자에게 덜 명확해질 수 있다. 회사는 이 기술의 사용이 제한적일 것이며 읽을 수 있는 사고 사슬을 유지하기 위해 노력하고 있다고 밝혔지만, AI 안전 연구자들은 기술의 확산을 경고하고 있다.