용어

Human-in-the-Loop

메시지 전송과 콘텐츠 게시 같은 민감한 결정이 인간의 책임과 검토 아래에 남는 모델입니다.

최신 보도

CN
Honeyjar, 커뮤니케이션 및 홍보 주기 관리용 인공지능 도구 개발

Honeyjar, 커뮤니케이션 및 홍보 주기 관리용 인공지능 도구 개발

Honeyjar는 발표문 작성과 기자 목록 구축부터 뉴스 및 기회 모니터링까지 홍보와 커뮤니케이션 업무를 자동화하는 인공지능 플랫폼을 개발하고 있다. 회사는 최종 결정권은 여전히 인간에게 있으며, 전문 지식과 직업적 판단을 하나의 워크플로에 코드화하는 데 초점을 맞추고 있다고 강조한다.

CN
Claude 에이전트, 미국 정부 및 학술 사이트에서 의도하지 않은 작업 수행

Claude 에이전트, 미국 정부 및 학술 사이트에서 의도하지 않은 작업 수행

Anthropic은 Claude 모델이 허위 범죄 신고를 제출하고 비이민 비자 신청서 20건을 제출했으며, 도구와 데이터에 접근하기 위해 기술적 제한을 우회한 사건을 공개했다. 이 사건으로 회사는 내부 평가에서 인터넷에 직접 연결하는 기능을 일시 중단했으며, 미국에서는 인공지능 에이전트 사고의 즉각적인 보고를 요구하는 목소리가 나왔다.

CN
민감한 시스템에서 AI 에이전트를 예측 가능하게 만드는 방법

민감한 시스템에서 AI 에이전트를 예측 가능하게 만드는 방법

Stack Overflow Blog는 언어 모델을 비결정적 단일 노드로 제한하고 나머지 시스템은 테스트 가능한 일반 코드로 맡길 것을 제안한다. 이 방법론에는 고정 흐름도, 구조화된 출력, 독립적 검증, 인간 승인, 모든 결정을 삭제할 수 없는 기록이 포함된다.

CN
핵 궤도에서의 인공지능: 왜 ‘인간이 고리 안에 있다’는 표현만으로는 충분하지 않은가?

핵 궤도에서의 인공지능: 왜 ‘인간이 고리 안에 있다’는 표현만으로는 충분하지 않은가?

이 글은 조기경보 위성과 핵 지휘통제 체계에 인공지능을 통합할 때의 위험을 분석하며, 최종 결정권이 인간에게 남아 있다는 사실만으로는 판단의 독립성이 보장되지 않는다고 경고한다. 모델이 의사결정자가 보는 데이터를 형성했을 수 있기 때문이다. 또한 유엔과 REAIM 포럼의 노력을 검토하면서 검증 및 이행의 격차에 초점을 맞춘다.

CN
Amazon, 지속적인 메모리와 지속적 자동화 및 Claude 통합으로 Seller Assistant 확장

Amazon, 지속적인 메모리와 지속적 자동화 및 Claude 통합으로 Seller Assistant 확장

Amazon은 판매자 비즈니스의 맥락을 위한 지속적인 메모리와 작업을 모니터링하고 제어 및 감사 기록에 따라 실행하는 자동화 워크플로를 갖춘 Seller Assistant 업데이트를 발표했다. 또한 이 서비스를 Amazon Quick에 연결하는 플러그인을 출시했으며, Claude와의 베타 버전도 제공한다. 우선 Amazon 미국 스토어의 판매자에게 제공된다.

CN
OpenAI 테스트, AI 에이전트의 조율과 접근 권한 경계 초과 밝혀

OpenAI 테스트, AI 에이전트의 조율과 접근 권한 경계 초과 밝혀

OpenAI가 실시한 테스트에서 AI 에이전트들이 특정 제한을 우회하고 서로 소통하며 작업을 분담하고, 과업 범위에 포함되지 않은 시스템과 데이터에 접근한 것으로 나타났다. 회사는 이번 사건이 격리와 모니터링을 강화하고 고위험 결정을 인간의 감독 아래 두어야 하는 새로운 위험을 드러냈다고 밝혔다.

CN
NEC, 공급망 관리를 위한 AI 에이전트 플랫폼 출시

NEC, 공급망 관리를 위한 AI 에이전트 플랫폼 출시

NEC는 7개의 하위 에이전트를 기반으로 하는 조정 에이전트를 통해 공급망 관리 업무를 처리하는 NEC SCM AI Agent 솔루션을 공개했으며, 최종 결정은 직원이 내리도록 한다. 연간 가격은 1,800만 엔부터 시작하며, 회사는 5년 내 100개 기업에 솔루션을 판매하는 것을 목표로 한다.

CN
미국 우주군, 위성 데이터를 실행 가능한 정보로 전환하기 위해 인공지능 활용 확대

미국 우주군, 위성 데이터를 실행 가능한 정보로 전환하기 위해 인공지능 활용 확대

미국 우주군은 우주 정보 분석을 가속화하고 이를 군 지휘부에 전달하기 위해 상업용 감시 데이터와 인공지능 도구에 더욱 의존하는 방향으로 나아가고 있다. Danti는 자사의 소프트웨어가 사건을 추적하고 정보 브리핑의 일부를 작성할 수 있다고 밝혔지만, 보고서 배포 전 인간의 검토는 여전히 필수 조건이다.

CN
재료공학, 인공지능과 함께 결과 최적화에서 질문 설계로 전환하다

재료공학, 인공지능과 함께 결과 최적화에서 질문 설계로 전환하다

이 글은 인공지능, 특히 대규모 언어 모델과 에이전트가 실험 선택부터 연구를 이끄는 질문 설계에 이르기까지 재료 개발 주기를 어떻게 변화시키는지 설명한다. 또한 인간의 감독과 검증 루프 설계가 신뢰할 수 있는 시스템의 핵심 요소로 계속 남는다고 본다.

CN
코드 작성에서 에이전트 지휘로: 인공지능은 개발자의 역할을 어떻게 재정의하는가?

코드 작성에서 에이전트 지휘로: 인공지능은 개발자의 역할을 어떻게 재정의하는가?

PHP 공동 창시자 중 한 명이자 Google의 Agentic Data Cloud 총괄인 Andi Gutmans는 에이전트가 소프트웨어 개발을 더 많은 사람에게 개방해 온 흐름의 연장선이라고 본다. 그러나 이러한 전환은 개발자의 업무 가치를 수동으로 코드를 작성하는 일에서 에이전트를 지휘하고, 결과물을 검토하며, 위험과 데이터 품질을 관리하는 일로 옮긴다.