개발자들이 코드의 상당 부분을 작성하기 위해 인공지능 에이전트(AI Agents)에 의존하는 비중이 늘어남에 따라, 엔지니어들은 특히 복잡한 분산 시스템에서 이러한 결과물을 검토하는 데 있어 점차 커지는 어려움에 직면하고 있습니다. Rust로 구축된 분산 시스템용 오픈소스 프레임워크인 Hydro 팀은 에이전트가 범할 수 있는 오류를 감지하기 위해 컴파일러(Compiler) 내부에 소프트웨어 검사 메커니즘을 통합함으로써 이 격차를 해소하고자 합니다.
전통적인 테스트가 충분하지 않은 이유는 무엇인가요?
Hydro 팀의 연구 리드인 샤다그 라다드(Shadaj Laddad)는 인공지능 에이전트가 코드와 그에 대한 테스트를 동시에 작성하는 경향이 있으며, 이로 인해 인간 검토자가 이러한 테스트의 정확성을 확인하기 어렵다고 지적합니다. 기능들은 종종 격리된 상태에서는 잘 작동하지만 더 큰 시스템에 통합될 때는 실패하게 되어, 소프트웨어 보증의 붕괴로 이어집니다.
소프트웨어적 "안전 장치"로의 전환
에이전트가 작성한 테스트에 전적으로 의존하는 대신, Hydro 팀은 에이전트의 "신뢰 구역" 외부에서 엄격한 규칙을 강제하는 데 주력하고 있습니다. Rust 언어의 대여 검사기(Borrow Checker)가 코드가 실행되기 전에 경쟁 상태(Race Conditions)를 방지하는 방식과 유사하게, Hydro는 분산 시스템에 유사한 검사를 적용하는 것을 목표로 합니다. 요청 실패 후 재전송 시 중복 실행이 되지 않도록 보장하는 멱등성(Idempotency)과 같은 반복 패턴들이 현재 에이전트가 준수할 수 있는 일반적인 안전 장치로 전환되기 위해 탐색되고 있습니다.
런타임과의 통합
이러한 노력과 병행하여, AWS는 최근 에이전트를 위한 오픈소스 런타임(Runtime)인 Infinity를 출시했습니다. 이는 도구 응답이나 지속적 통합(CI) 작업을 기다리는 동안 에이전트의 작업을 일시 중단하도록 설계되어 리소스 소비를 크게 줄여줍니다. 이 접근 방식은 엄청난 수의 에이전트를 매우 효율적으로 실행할 수 있게 해줍니다.
개발자에게 이는 무엇을 의미하나요?
이러한 추세는 컴파일러가 인공지능 오류에 대항하는 최일선 방어선이 되도록 진화해야 함을 인정하는 것을 의미합니다. Hydro는 여전히 초기 단계에 있지만, 신뢰성이 추가적인 테스트 계층이 아니라 언어 및 도구 구조에 내장되는 "에이전트 프로그래밍" 시대에 고신뢰성 분산 시스템을 구축하는 방법에 대한 모델을 제시합니다.
뉴스 출처
The New Stack - Software Development
원문 보기 ↗