주제

인공지능 안전

인공지능으로 인한 피해를 줄이고, 에이전트와 모델을 통제하며, 수용 가능한 위험 수준을 결정하는 것에 관한 논의.

최신 보도

CN
OpenAI, 최첨단 AI 모델 훈련 중 인터넷 접속 차단

OpenAI, 최첨단 AI 모델 훈련 중 인터넷 접속 차단

OpenAI는 보안 표준을 강화하고 지능형 에이전트의 통제되지 않은 행동을 방지하기 위해 최첨단 모델 훈련 과정에서 인터넷 직접 접속을 중단한다고 발표했습니다.

CN
미국 연방거래위원회, AI 피해 및 안전 사고와 관련해 OpenAI와 Anthropic 조사

미국 연방거래위원회, AI 피해 및 안전 사고와 관련해 OpenAI와 Anthropic 조사

미국 연방거래위원회가 Anthropic과 OpenAI의 에이전트와 관련된 안전 사고에 대한 조사를 시작하고, 사고와 보호 조치 및 마케팅 자료에 관한 문서를 요청했다. 이번 조사는 소비자보호법과 데이터 침해 공개 규정을 활용해 두 회사를 책임 묻는 절차로 이어질 수 있다.

CN
샘 올트먼, AI의 이점에 상응하는 일부 위험 수용 촉구

샘 올트먼, AI의 이점에 상응하는 일부 위험 수용 촉구

샘 올트먼은 인공지능의 확산으로 일부 해킹과 사기, 오용이 불가피하게 발생하겠지만, 인공지능의 이점이 피해를 크게 넘어설 것이라고 말했다. 그의 발언은 OpenAI의 안전성 입장에 대한 비판과 미국 내 규제 압력이 커지는 가운데 나왔다.

CN
Anthropic CEO, 인공지능 기업들에 개발 속도 늦출 것을 촉구

Anthropic CEO, 인공지능 기업들에 개발 속도 늦출 것을 촉구

Dario Amodei는 인공지능 기업들에 모델 능력 개발 속도를 낮출 것을 촉구하며, 통제력을 잃을 위험과 사이버 공격 및 생물테러에 이용될 가능성을 경고했다. Sam Altman과 Elon Musk는 이 촉구를 지지했으며, Amodei는 조정과 감독 강화를 위한 3단계 계획을 제안했다.