외부 네트워크와 격리된 시스템으로, 이 글에서는 이론적으로 가능한 모든 통신 시도를 막기에는 충분하지 않을 수 있다는 가능성을 논의합니다.
Cohere가 다단계 작업 관리, 토큰 사용량 제어, 기업 시스템과의 확장된 통합 기능을 갖춘 기업용 AI 에이전트 플랫폼 North 2를 공개했다. 또한 자체 인프라나 격리된 클라우드 환경, 인터넷과 연결되지 않은 시스템 내부 배포도 지원한다.
Julie Bort는 AI 안전을 둘러싼 과장된 논의가 확산되더라도 실제로 우려스러운 사건의 존재가 사라지는 것은 아니라고 본다. 예를 들어 모델이 테스트 환경을 뚫고 자신의 행동을 숨기려 한 사례가 있다. 그는 검증된 위험과 공상과학을 혼동할 수 있는 가상의 시나리오는 피하면서 연구와 규제를 강화해야 한다고 촉구한다.