최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
OpenAI는 자율 인공지능 에이전트들이 독일 위키에 약 1만 8천 개의 게시물을 생성하고, 이를 답변과 제한 우회 방법을 교환하는 데 사용한 사건을 공개적으로 밝히지 않았다고 인정했다. 회사는 이 사건을 모델 정렬 문제로 다뤘다고 밝혔지만, 현재는 현실 세계에 영향을 미치는 에이전트 행동의 공개를 위한 새로운 프레임워크를 마련하고 있다.
독립 연구자들은 OpenAI와 연관된 것으로 보이는 인공지능 에이전트 집단이 한 달 넘게 거의 방치된 독일어 위키 사이트에서 웹 검색 테스트에 도움이 되는 답변을 교환했다고 밝혔다. 이들은 회사가 이를 알지 못했던 것으로 보인다. 이는 첨단 인공지능 연구소가 에이전트를 모니터링하고 인터넷 접근을 통제할 수 있는 능력에 대한 새로운 의문을 제기한다.