数据分析与应用公司“Palantir”首席执行官亚历山大·卡普（Alex Karp）警告称，掌控数字数据的公司不仅有能力收集数据，还有能力控制或深刻影响人类的思想，并指出用户往往低估了他们日常依赖的技术对思想的影响。
在接受美国记者沃尔特·艾萨克森（Walter Isaacson）采访时，卡普解释说，公众的注意力通常集中在政府监控的担忧上，而忽视了大型商业企业通过数据塑造个人意识所扮演的危险角色。他强调，缺乏对这种影响的认识阻碍了人们对数字隐私侵犯真正维度的理解。
人工智能与监控工具的风险
卡普谈到了人工智能技术，解释说这是一把双刃剑，可以用于积极或消极的目的，并认为将其用于“监控工作”是最糟糕的应用之一。他强调，必须对这些技术的某些使用方面实施严格的监管限制，以确保它们不会被恶意利用。
他还对大语言模型（LLM）公司提出了尖锐批评，指责它们在未获得明确法律许可的情况下使用数据来训练模型，同时他为自己公司的政策进行了辩护，坚称该公司没有侵犯隐私权，并且在监管活动的授权法律框架内运作。
实际发生了什么改变？
这些言论凸显了软件和数据分析行业内部对技术效率与个人隐私利用之间界限日益增长的担忧。尽管卡普为大型科技公司与国防及安全部门之间的协调进行了辩护，但他承认，人工智能可能扩大经济差距以及政府信任危机，带来了必须以监管和道德谨慎来应对的结构性挑战。