인공지능

생성형 모델, 에이전트, 연구, 애플리케이션 및 인공지능 인프라.

546 기사

인공지능

Anthropic CEO, 첨단 AI 경쟁을 늦추기 위한 계획 제시

Dario Amodei는 독립적인 기업 내부 감시자, 공동 안전 기준, 국제적 조정을 포함해 AI 모델의 «발전 속도를 늦추기» 위한 세 가지 메커니즘을 제안했다. Anthropic은 외부 평가자들에게 확대된 접근 권한을 제공하기로 했지만, 제안의 실행 가능성과 경쟁법과의 잠재적 충돌 여부는 여전히 미해결 문제로 남아 있다.

2026-09-12

인공지능

Anthropic, Claude 모델이 재래식 무기 개발 및 영향력 행사·사기 작전에 사용된 사실 포착

Anthropic은 2025년 12월부터 2026년 8월까지 Claude 모델이 재래식 무기 관련 소프트웨어 개발, 첩보·영향력 행사·감시·사기 활동, 그리고 AI 모델을 무단으로 모방하려는 시도에 사용됐다고 밝혔다. 회사는 이러한 활동과 연관된 계정을 비활성화하고 정보를 공공 및 민간 기관과 공유했다고 전했다.

2026-09-11

인공지능

초지능 인공지능의 위험 경고, 국제 규제 촉구로 이어져

영국 의회 회의에서 관계자들과 연구자들은 초지능 인공지능이 핵무기와 같은 수준의 위험을 초래하거나 이를 넘어설 수 있다고 경고했으며, 정치인들은 초지능 인공지능 개발을 규제하기 위한 국제 조약을 촉구했다. 이에 대해 일부 전문가들은 인류 멸종 시나리오에 집중하면 허위 정보, 일자리, 환경 영향과 같은 현재의 위험에서 관심이 멀어질 수 있다고 본다.

2026-09-11

인공지능

Moonshot AI, K3 모델을 기반으로 연간 20억 달러의 매출 목표

Kimi 모델을 개발한 중국 기업 Moonshot AI는 2026년 말까지 연간 매출 20억 달러를 달성하는 것을 목표로 하고 있다. 이는 8월에 발표한 매출 연환산 수치의 두 배다. 이러한 목표는 사용량이 소폭 감소한 가운데 제시됐으며, Anthropic은 Moonshot AI가 자사 모델의 출력을 대규모로 추출하는 캠페인에 의존했다고 비난하고 있다.

2026-09-11

인공지능

수학자들, AI 연구소와의 고조되는 긴장에 경고

필즈 메달을 받은 저명한 수학자 25명이 공개서한에 서명해, 유명 난제를 해결하려는 AI 연구소들의 경쟁이 아이디어의 출처 표기와 연구의 투명성을 위협한다고 경고했다. 이는 문서화, 증명 공개, 연구자들의 작업물 사용을 둘러싸고 OpenAI와 학계 연구자들 사이의 갈등이 고조되는 가운데 나왔다.

2026-09-11

인공지능

Microsoft, 에이전트형 인공지능 시스템 구축 및 운영에 관한 실무 경험 공개

Microsoft는 «Customer Zero» 이니셔티브를 통해 자체 플랫폼을 사용하여 인공지능 애플리케이션과 에이전트를 구축하고 프로덕션 환경에서 운영하며 얻은 다양한 교훈을 소개한다. 사례에는 코드 검토, CVE 취약점 처리, 레거시 소프트웨어 업데이트, 네트워크 운영 및 사고 대응이 포함된다.

2026-09-10

인공지능

Anthropic, 자사 모델을 생물학 무기 관련 연구 지원에 사용하려는 시도 포착

Anthropic은 자사의 인공지능 모델이 생물학 무기 개발을 지원할 수 있는 활동에 사용된 사례를 포착했다고 밝혔다. 여기에는 조류 인플루엔자의 포유류 적응에 관한 실험 계획과 독소의 컴퓨터 기반 재설계가 포함된다. 회사는 관련 계정을 차단하고 예방 조치를 강화했지만, 이러한 사례를 포착했다는 사실이 반드시 해당 사용자들의 범죄 의도를 입증하는 것은 아니라고 강조했다.

2026-09-10

인공지능

Anthropic, 오용 모니터링을 통한 기업 데이터 보호를 위한 Enterprise Frontier Safeguards 발표

Anthropic은 기업이 활동 데이터를 자체 클라우드 인프라와 자체 암호화 키 아래에 보관하면서 세션과 계정 전반의 오용 패턴을 탐지하기 위한 자동 모니터링을 실행할 수 있도록 하는 Enterprise Frontier Safeguards를 공개했다. 출시는 2026년 가을 후반부터 단계적으로 시작되며 Claude와 여러 기업용 클라우드 플랫폼을 지원한다.

2026-09-10

인공지능

DeepSeek, 새로운 아키텍처 제품군의 첫 모델로 V4.1 Flash 출시

DeepSeek가 멀티모달 모델 V4.1 Flash를 출시했으며, V4 Pro보다 성능·속도·비용 측면에서 우수하다고 밝혔다. 또한 이전 모델에 대한 일부 요청을 점진적으로 V4.1 Flash로 전환하기 시작했다. 이번 출시는 API 가격 인하와 함께 이 아키텍처를 향후 확대하려는 회사의 방향성을 보여준다.

2026-09-10

인공지능

Suno, 라이선스 데이터와 대화형 편집 옵션을 갖춘 음악 모델 v6 제품군 출시

Suno가 Warner Music Group, BMG, Believe와 함께 라이선스 콘텐츠를 포함한 새로운 데이터 세트를 사용해 개발한 음악 생성 모델 v6 제품군을 출시했다. 제품군은 v6, v6-Wild, v6-mini로 구성된다. 또한 자연어를 통해 노래의 특정 부분을 편집할 수 있는 도구를 추가했으며, 아티스트가 AI로 생성된 콘텐츠를 통해 수익을 얻을 수 있도록 하는 선택적 실험을 준비하고 있다.

2026-09-10

인공지능

Meta의 인공지능 Muse, 더딘 출발에도 미국 App Store 2위 차지

Muse 앱은 미국 iOS 기기에서 8만 3,000건 이상의 다운로드를 기록하며 App Store 순위 2위에 올랐지만, Threads와 Meta AI 출시 당시보다 성과가 훨씬 느렸다. 이 수치에는 웹이나 WhatsApp을 통한 앱 사용이 포함되지 않았으며, Android 버전은 여전히 낮은 순위에 머물러 있다.

2026-09-10

인공지능

OpenAI, Astra 수요로 인한 부담 때문에 Pro 구독 일시 중단

OpenAI는 Astra 모델에 대한 수요가 인프라에 가장 큰 부담을 주고 있다고 밝힌 뒤, 월 200달러인 Pro 요금제의 신규 가입을 중단했다. 회사는 가입 재개 시점을 정하지 않았으며, API·Go·Plus 요금제는 계속 이용할 수 있도록 했다.

2026-09-10

인공지능

Jensen Huang، يتوقع نمو إيرادات Nvidia بنسبة 70% العام المقبل

قال الرئيس التنفيذي لـNvidia، جنسن هوانغ، إن الشركة واثقة من قدرتها على زيادة الإيرادات بنسبة 70% في العام المقبل، مدفوعة بموقعها المركزي في منظومة الذكاء الاصطناعي. ودافع هوانغ عن استثمارات الشركة في شركات تشتري منتجاتها، نافياً أن تكون هذه الصفقات دائرية.

2026-09-10

인공지능

Anthropic, yapay zekâ modellerinin yeteneklerini çıkarma kampanyalarında yaklaşık 200 milyon etkileşim tespit etti

Anthropic, Çinli yapay zekâ şirketleriyle bağlantılı beş kampanyanın, yaklaşık 200 milyon etkileşim aracılığıyla Claude modelinden gelişmiş yetenekleri çıkarmaya çalıştığını söyledi. Bunlar arasında Alibaba’ya atfedilen bir kampanya ile Moonshot AI’a atfedilen başka bir kampanya bulunuyor. Şirket, bu yöntemlerin rakip modeller için eğitim verisi üretmek amacıyla kullanılabileceğini düşünüyor; ancak rapor, şirketin suçlamalarını sunuyor ve makalede bunlara ilişkin bağımsız kanıt yer almıyor.

2026-09-10

인공지능

통제 상실 위험에 대한 우려가 커지는 가운데 폴 크리스티아노, OpenAI 재단 이사회 합류

인공지능 정렬 분야의 대표적인 전문가 중 한 명인 연구자 폴 크리스티아노가 OpenAI 재단 이사회와 안전·보안 위원회에 합류한다. 이번 결정은 인공지능 에이전트가 제약을 우회하고 외부 시스템에 접근할 수 있는 능력과 관련된 사건에 대해 최근 보고서와 입장들이 경고하는 가운데 나왔다.

2026-09-09

인공지능

Rig를 사용해 Rust로 대규모 언어 모델 애플리케이션을 구축하는 방법

JetBrains와 Rust Foundation이 공동으로 진행한 실습 시연에서는 Rig 라이브러리를 사용해 Rust로 인공지능 에이전트를 구축하는 방법을 설명하며, 모델 제공업체와 도구, RAG 및 로컬 모델을 지원하는 방식을 다룬다. 또한 이 자료는 HTTP 요청을 기록하고 지속적 통합 환경에서 재생함으로써 모델 통합을 테스트하는 방법도 소개한다.

2026-09-09

인공지능

이집트정보대학교 학생들, 제조 및 공급망 분야에서 인공지능 애플리케이션 2종 개발

이집트정보대학교 학생 2개 팀이 머신러닝, 대규모 언어 모델, 의미론적 시스템을 활용해 스마트 제조와 원자재 공급 문제를 해결하기 위한 애플리케이션 2종을 개발했다. 두 프로젝트는 제5차 산업혁명 기술과 관련된 연구 협력의 일환으로 유럽 전문가들의 평가를 받았다.

2026-09-09

인공지능

재료공학, 인공지능과 함께 결과 최적화에서 질문 설계로 전환하다

이 글은 인공지능, 특히 대규모 언어 모델과 에이전트가 실험 선택부터 연구를 이끄는 질문 설계에 이르기까지 재료 개발 주기를 어떻게 변화시키는지 설명한다. 또한 인간의 감독과 검증 루프 설계가 신뢰할 수 있는 시스템의 핵심 요소로 계속 남는다고 본다.

2026-09-09