일본 기업을 겨냥한 데이터 유출 및 랜섬웨어 공격에 관한 보고가 증가하고 있다. 그러나 가장 어려운 질문은 인공지능이 공격자 측에서 사용되고 있는지 여부만이 아니라, 인공지능이 실제로 공격을 가속화하고 그 범위를 확대하는 데 얼마나 기여하는지에 관한 것이다. 현실에 가까운 상황을 파악하기 위해 ITmedia AI Plus는 Hitachi, Fujitsu, Accenture, IBM 및 이름이 공개되지 않은 한 공급업체 등 5개 기술 기관의 의견을 조사했다.
공격 증가 여부는 수치로 확정되지 않았다
최근 공격 증가에 대한 5개 기관의 추정은 서로 달랐다. Hitachi는 공격의 규모와 속도가 증가했다고 말하며, 인공지능의 발전에 따라 취약점 공개부터 악용까지 걸리는 기간이 몇 주에서 몇 시간으로 줄어들었다고 추정했다. Accenture 역시 보안 운영 센터와 사고 대응 팀이 처리하는 사례 수가 눈에 띄게 증가했다고 밝혔지만, 일본에 한정된 통계는 제시하지 않았다.
반면 IBM은 공개된 공지 건수를 공격 활동의 직접적인 지표로 간주하는 데 주의를 당부했다. 한 달 동안 공개된 사고가 실제로는 그보다 훨씬 전에 발생했을 수 있기 때문이다. 이름이 공개되지 않은 공급업체는 9월 이후 무단 접근 또는 유사한 피해에 관한 신고가 70건 이상 등장했다고 밝혔지만, 이 수치에는 7월과 8월에 발생한 침해가 포함될 수 있다. 또한 여러 기업이 하나의 서비스나 플랫폼의 영향으로 피해를 입었다고 발표하면서 수치가 부풀려질 수도 있다고 설명했다.
공격자가 인공지능을 사용한다는 증거는 무엇인가?
Hitachi는 공격자가 인공지능을 사용하는 일이 개연성이 높다고 본다. Accenture는 자사의 위협 인텔리전스 팀이 인공지능 에이전트와 관련된 사례를 포착했다고 밝혔으며, 완전히 인간 운영자에게 의존하는 대신 자동화된 에이전트가 작업의 중심이 되는 모델로 침해 작업이 점진적으로 이동하고 있다고 말했다.
그러나 IBM과 Fujitsu는 공개된 사고를 통해 입증할 수 있는 범위의 한계를 강조했다. IBM에 따르면 세부 내용이 공개된 사례에서는 인공지능 사용을 확정할 만한 증거가 나타나지 않았다. 그럼에도 IBM은 저비용 클라우드 애플리케이션 프로그래밍 인터페이스를 통해 고급 모델에 접근할 수 있기 때문에 공격자가 이를 사용할 가능성을 무시하는 것은 합리적이지 않다고 본다. 또 다른 공급업체 역시 인터넷에 공개된 웹 시스템의 취약점을 탐색하는 데 이러한 도구가 사용될 수 있다고 보았지만, 개별 사례에서 그렇게 사용됐다고 단정하지는 않았다.
기업에 실질적으로 달라지는 것은 무엇인가?
조사에 참여한 기관들의 권고는 새로운 인공지능 도구를 구매하는 것이 우선이 아니라, 무엇을 먼저 보호해야 하는지 파악하는 것이 우선이라는 점에서 일치한다. 여기에는 비즈니스 연속성에 필수적인 시스템과 자산을 식별하고, 대중에게 노출된 서비스와 데이터를 줄이며, 보안 패치를 적용하고, 인증 메커니즘과 인터넷 인터페이스의 취약점이 안전한지 확인하는 조치가 포함된다.
Accenture와 Hitachi는 공격 표면과 비정상적인 통신을 지속적으로 모니터링할 것을 권고했다. 또한 계약 종료 후 제3자 데이터가 어떻게 처리되는지를 포함해 제3자 데이터를 점검하는 것이 중요하다는 권고도 제시됐다. 전문가들은 침해 대응 계획과 사고 훈련이 침해가 발생할 수 있다는 가정에 기반해야 하며, 침해를 완전히 막을 수 있다는 약속에 기반해서는 안 된다고 본다.
인공지능은 방어에서 어디에 도움이 되는가?
Hitachi는 자사가 수행한 테스트에서 위협 모델 작성에 걸리는 시간을 몇 주에서 몇 시간으로 줄인 사례를 제시했다. Accenture는 과거 몇 주 또는 몇 달이 걸리던 일부 취약점 및 코드 점검 작업을 짧은 경우 며칠 안에 완료할 수 있다고 밝혔다. IBM은 유망한 분야로 보안 운영 센터에서의 위협 모니터링 및 분석, 취약점 발견과 평가, 위험에 따른 보안 패치 적용 우선순위 설정 등 3가지를 꼽았다.
그러나 속도가 빨라진다고 해서 의사결정을 시스템에 전적으로 위임할 수 있는 것은 아니다. Hitachi와 Fujitsu는 인공지능 분석과 전문가의 판단을 결합해야 한다고 강조했다. 또 다른 공급업체는 시스템을 중단하거나 위험을 수용할지에 대한 결정은 여전히 경영진의 결정이라고 경고했다. 편집부의 해석: 기업들의 답변은 가장 중요한 변화가 보안의 기본 요소가 사라진 것이 아니라 공격이 가능한 속도가 빨라졌다는 점임을 보여준다. 따라서 기업이 실무적으로 던져야 할 질문은 무엇을 보호해야 하는지, 무엇을 중단할 수 있는지, 그리고 공격자가 첫 번째 방어선을 넘어섰을 때 어떻게 사업을 복구할 것인지이다.