용어

Prompt Injection

최신 보도, 해설 및 관련 기술 스토리를 확인하세요.

최신 보도

CN
Cloudflare, 인공지능 시대에 맞춘 적응형 프레임워크로 위험 탐지·애플리케이션 보호·보안 대응 연결

Cloudflare, 인공지능 시대에 맞춘 적응형 프레임워크로 위험 탐지·애플리케이션 보호·보안 대응 연결

Cloudflare는 취약점 탐지, 에이전트 거버넌스, 런타임 보호, 사고 대응을 지속적인 학습 루프로 연결하는 통합 애플리케이션 보안 프레임워크를 발표했다. 이 제안에는 대규모 언어 모델을 활용한 애플리케이션 스캔, 에이전트 트래픽 검증, 긍정적 보안 정책 적용, 위협 정보에 대한 접근성 확대 기능이 포함된다.

CN
GitHub Security Lab, C/C++ 프로젝트를 퍼징으로 자동 테스트하는 워크플로 공개

GitHub Security Lab, C/C++ 프로젝트를 퍼징으로 자동 테스트하는 워크플로 공개

GitHub Security Lab은 Taskflow Agent 프레임워크를 기반으로 한 Fuzzing Taskflow를 소개했다. 이 워크플로는 언어 모델을 활용해 진입점을 찾고, 테스트 도구를 작성하며, 커버리지를 개선하고, 크래시를 분류하고, 취약점에 대한 초기 보고서를 작성한다. 프로젝트는 에이전트가 명령어 주입의 영향을 받을 수 있는 빌드 및 실행 명령을 수행하므로 호스트 시스템에서 직접 실행하지 말라고 경고한다.

CN
Amazon, 유엔 총회에서 Amazon Leo 확장과 인공지능 통제 방안 소개

Amazon, 유엔 총회에서 Amazon Leo 확장과 인공지능 통제 방안 소개

Amazon은 Amazon Leo 위성이 약 400기로 구성되어 있으며, 2028년부터 휴대전화 직접 연결 서비스를 시작할 계획이라고 밝혔다. 이와 함께 인공지능 거버넌스 도구를 개발하고 물을 사용하는 데이터센터의 효율성을 개선하고 있다.

CN
Microsoft의 분기별 테스트, 이메일 위협에 대한 Defender 성능 공개

Microsoft의 분기별 테스트, 이메일 위협에 대한 Defender 성능 공개

Microsoft는 2026년 5월부터 7월까지 진행된 벤치마크에서 Defender가 다른 평가 솔루션보다 고위험 위협을 더 적게 놓쳤으며, 메시지 전달 후 처리에서 뚜렷한 우위를 보였다고 밝혔다. 동시에 결과는 인공지능이 공격자의 사칭 능력을 높이고 있으며, 효과적인 보호를 위해서는 지속적인 측정과 다층 방어가 필요하다는 점을 보여준다.