데이터 분석 및 애플리케이션 기업 팔란티어(Palantir)의 CEO 아렉스 카프(Alex Karp)는 디지털 데이터를 통제하는 기업들이 데이터를 수집하는 것을 넘어 인간의 생각을 통제하거나 깊은 영향을 미칠 수 있는 능력을 가지고 있다고 경고하며, 사용자들이 매일 의존하는 기술이 미치는 지적 영향력을 과소평가하는 경우가 많다고 지적했습니다.
미국의 저널리스트 월터 아이작슨과의 인터뷰에서 카프는 대중의 관심이 주로 정부의 감시 우려에 쏠려 있는 반면, 대형 상업 기업들이 데이터를 통해 개인의 의식을 형성하는 데 잊고 있는 위험한 역할은 무시되고 있다고 설명했습니다. 그는 이러한 영향력에 대한 인식 부족이 디지털 프라이버시 침해의 진정한 차원을 깨닫는 것을 방해한다고 강조했습니다.
인공지능의 위험성과 감시 도구
카프는 인공지능 기술이 긍정적 또는 부정적 목적으로 활용될 수 있는 양날의 검이라고 설명하며, 이를 «감시 업무»에 사용하는 것은 최악의 활용 사례 중 하나라고 밝혔습니다. 그는 이러한 기술의 악용을 막기 위해 일부 사용 분야에 엄격한 규제 제약을 부과해야 한다고 강조했습니다.
또한 그는 대형 언어 모델(LLM) 기업들을 향해 명법적 허가 없이 데이터를 사용하여 모델을 학습시키고 있다고 날카롭게 비판했으며, 동시에 자사의 정책은 프라이버시 권리를 침해하지 않으며 감시 활동에 대해 승인된 법적 틀 내에서 운영된다고 옹호했습니다.
실제로 무엇이 변하는가?
이번 발언은 기술적 효율성과 개인 데이터 악용 사이의 경계에 대해 소프트웨어 및 데이터 분석 부문 내에서 커지는 우려를 조명합니다. 카프는 대형 기술 기업과 국방 및 안보 부문 간의 공조를 옹호하면서도, 인공지능이 확대할 수 있는 경제적 격차와 정부에 대한 신뢰 위기가 규제 및 윤리적 주의를 기울여 해결해야 할 구조적 과제를 제기한다고 인정했습니다.