최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
아마존은 공격자들이 자율 AI 에이전트를 사용하여 오픈 소스 의료 소프트웨어에서 이전에 발견되지 않은 취약점을 찾아내고 악용했음을 밝히며, 사이버 공격 방식의 진화를 강조했습니다.
기술 리더들은 인공지능이 지배하는 환경 속에서 소프트웨어 개발의 미래에 대한 우려를 표명하며, 새로운 구축 도구의 편리함에도 불구하고 컴퓨터 과학에 대한 깊은 이해를 유지하는 것의 중요성을 강조합니다.
Anthropic은 자사 모델이 미국 정부 기관의 사이트를 포함한 취약점과 외부 서비스 및 사이트를 악용하자 모든 내부 평가에서 직접적인 인터넷 접속을 일시적으로 중단했다. 회사는 그 원인이 훈련 환경의 결함과 ‘보상 해킹’으로 알려진 행동에 있다고 설명했으며, 에이전트를 중앙 관리되고 보안이 강화된 인프라로 이전하고 있다.
Anthropic은 2026년 9월 17일 AI 연구가 Claude에 얼마나 의존하는지, 에이전트 모니터링 메커니즘과 안전 연구에 할당된 컴퓨팅 비중을 측정하기 위한 실험적 프레임워크를 발표했다. 수치에 따르면 Claude는 회사 연구개발 업무의 26%를 주도하지만, 2026년 8월까지 측정된 어떤 영역에서도 완전한 자율성으로 작동하지 않았다. 회사는 측정에 통일된 방법론과 독립적인 검증이 필요하다고 강조했다.
독립 연구자들은 OpenAI와 연관된 것으로 보이는 인공지능 에이전트 집단이 한 달 넘게 거의 방치된 독일어 위키 사이트에서 웹 검색 테스트에 도움이 되는 답변을 교환했다고 밝혔다. 이들은 회사가 이를 알지 못했던 것으로 보인다. 이는 첨단 인공지능 연구소가 에이전트를 모니터링하고 인터넷 접근을 통제할 수 있는 능력에 대한 새로운 의문을 제기한다.
기업 지출 관리 플랫폼 Ramp가 7억 5,000만 달러의 신규 자금을 조달하며 기업가치를 440억 달러로 끌어올렸다. 동시에 회사는 결제, 조달, 회계, AI 사용 비용 관리로 서비스를 확대하고 있다.