최신 보도, 해설 및 관련 기술 스토리를 확인하세요.
Anthropic이 비영리 단체 METR의 한 팀에 모델과 안전 관행을 평가할 수 있도록 확장된 내부 접근 권한을 제공하기 시작했다. METR은 평가 결과를 Anthropic의 게시 차단 권한 없이 공개하기로 했으며, 회사는 SecureBio, Accenture, Faculty와도 접근 권한과 독립성이 서로 다른 방식의 평가 협력을 진행하고 있다.
일본에서 사이버 공격이 얼마나 증가했는지와 인공지능이 어떤 역할을 하는지를 두고 5개 주요 기술 기업의 견해는 엇갈리지만, 방어는 AI 도구만으로 시작되는 것이 아니라 자산 파악, 업데이트 적용, 침해 대비에서 시작된다는 점에는 명확한 공감대가 있다. 전문가들은 인공지능이 정찰과 취약점 분석을 가속화할 수 있지만, 고위험 의사결정은 여전히 인간과 경영진의 책임이라고 본다.
Anthropic은 Accenture와 협력해 첨단 인공지능 모델에 대한 독립 평가와 침투 테스트를 회사 내부에서 수행한다. 양측은 5년 동안 각각 최소 10억 달러를 투자할 것으로 예상된다. 이번 이니셔티브는 새로운 감독 모델을 보여주지만, 접근 권한, 자금 조달 및 보고에 관한 안정적인 기준은 여전히 부족하다.
Google Cloud와 Accenture가 Accenture Gemini Enterprise Business Group이라는 이름의 부문을 설립하기 위해 협력하며, Google은 기업이 Gemini Enterprise 플랫폼에서 맞춤형 애플리케이션을 구축하도록 지원하기 위해 최대 1,000명의 현장 배포 엔지니어를 교육할 예정이다. 이번 조치는 AI 솔루션 구현을 대규모 사업으로 전환하려는 경쟁이 가속화되는 가운데 나왔으며, 이러한 기술에 대한 기업 지출의 수익은 여전히 불확실하다.
Google의 보고서와 Accenture 전문가에 따르면 인공지능은 사이버 공격의 대부분 단계에 진입했으며, 오픈 웨이트 모델은 정찰과 취약점 탐지 비용을 낮추고 있다. 따라서 기업은 침해의 영향을 줄이고, 패치 부채를 관리하며, 공격자보다 먼저 자사의 취약점을 발견하기 위해 인공지능을 활용해야 한다.