최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
이 글은 인공지능 모델과 그 구조, 학습 및 실행 방식을 이해하는 데 필수적인 다양한 용어를 모아 설명합니다. 또한 에이전트, MCP 프로토콜, 불투명 추론과 같은 최신 개념을 조명하고, 이와 관련된 한계와 위험을 설명합니다.
OpenAI가 제한적인 Daybreak 프로그램을 시작으로 GPT-6 Astra를 단계적으로 출시했으며, 이 모델이 자사의 사이버 보안 역량에서 ‘위험’ 수준에 도달한 최초의 모델이라고 밝혔다. 이 모델은 컴퓨터 사용과 프로그래밍 자동화 수준을 높이지만, 알려지지 않은 취약점을 발견하고 익스플로잇 체인을 개발할 수 있는 모델을 모니터링하기가 얼마나 어려운지에 대한 질문도 제기한다.
OpenAI는 Astra를 출시하며 자사의 가장 강력하고 컴퓨터·브라우저 사용, 프로그래밍 및 사이버 보안 능력이 가장 뛰어난 모델이라고 밝혔다. 그러나 이 모델이 사용하는 ‘불투명 반복’ 기술은 연구자들이 추론 방식을 모니터링할 수 있는지에 대한 의문을 제기하며, Greg Brockman은 이 모델이 개인적으로 자신에게는 인공 일반 지능을 의미할 수 있음을 시사했다.
OpenAI의 Astra 모델은 일반적인 순차 처리 대신 반복 루프를 통해 질의를 처리하는 ‘반복 깊이’ 기술을 사용할 것으로 예상되며, 이로 인해 추론 흔적이 관찰자에게 덜 명확해질 수 있다. 회사는 이 기술의 사용이 제한적일 것이며 읽을 수 있는 사고 사슬을 유지하기 위해 노력하고 있다고 밝혔지만, AI 안전 연구자들은 기술의 확산을 경고하고 있다.