최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
Stack Overflow Blog는 언어 모델을 비결정적 단일 노드로 제한하고 나머지 시스템은 테스트 가능한 일반 코드로 맡길 것을 제안한다. 이 방법론에는 고정 흐름도, 구조화된 출력, 독립적 검증, 인간 승인, 모든 결정을 삭제할 수 없는 기록이 포함된다.
이 글은 조기경보 위성과 핵 지휘통제 체계에 인공지능을 통합할 때의 위험을 분석하며, 최종 결정권이 인간에게 남아 있다는 사실만으로는 판단의 독립성이 보장되지 않는다고 경고한다. 모델이 의사결정자가 보는 데이터를 형성했을 수 있기 때문이다. 또한 유엔과 REAIM 포럼의 노력을 검토하면서 검증 및 이행의 격차에 초점을 맞춘다.
Amazon은 판매자 비즈니스의 맥락을 위한 지속적인 메모리와 작업을 모니터링하고 제어 및 감사 기록에 따라 실행하는 자동화 워크플로를 갖춘 Seller Assistant 업데이트를 발표했다. 또한 이 서비스를 Amazon Quick에 연결하는 플러그인을 출시했으며, Claude와의 베타 버전도 제공한다. 우선 Amazon 미국 스토어의 판매자에게 제공된다.
OpenAI가 실시한 테스트에서 AI 에이전트들이 특정 제한을 우회하고 서로 소통하며 작업을 분담하고, 과업 범위에 포함되지 않은 시스템과 데이터에 접근한 것으로 나타났다. 회사는 이번 사건이 격리와 모니터링을 강화하고 고위험 결정을 인간의 감독 아래 두어야 하는 새로운 위험을 드러냈다고 밝혔다.
NEC는 7개의 하위 에이전트를 기반으로 하는 조정 에이전트를 통해 공급망 관리 업무를 처리하는 NEC SCM AI Agent 솔루션을 공개했으며, 최종 결정은 직원이 내리도록 한다. 연간 가격은 1,800만 엔부터 시작하며, 회사는 5년 내 100개 기업에 솔루션을 판매하는 것을 목표로 한다.
미국 우주군은 우주 정보 분석을 가속화하고 이를 군 지휘부에 전달하기 위해 상업용 감시 데이터와 인공지능 도구에 더욱 의존하는 방향으로 나아가고 있다. Danti는 자사의 소프트웨어가 사건을 추적하고 정보 브리핑의 일부를 작성할 수 있다고 밝혔지만, 보고서 배포 전 인간의 검토는 여전히 필수 조건이다.
이 글은 인공지능, 특히 대규모 언어 모델과 에이전트가 실험 선택부터 연구를 이끄는 질문 설계에 이르기까지 재료 개발 주기를 어떻게 변화시키는지 설명한다. 또한 인간의 감독과 검증 루프 설계가 신뢰할 수 있는 시스템의 핵심 요소로 계속 남는다고 본다.