土耳其公司 ShadowX 提供一个面向企业人工智能安全的平台，重点规范员工、开发人员和代理使用人工智能工具的方式。该平台将敏感数据发现、所谓的“影子人工智能”可视性、模型安全以及代理式人工智能系统保护整合在同一层中。
ShadowX 于 2024 年由 Nedim Kaya 和 Erdinç Balcı 创立，目前团队有 11 人，其中相当一部分人员从事产品、人工智能、网络安全和软件工程开发。经过约两年的开发，该公司在内部构建了平台的基础架构，并可根据客户需求集成大型语言模型和开源技术。
在数据到达模型之前保护数据
FilterX 组件可以实时检查员工发送给人工智能模型的文本、文件和图像。它能够发现敏感信息，并在共享前将其隐藏或重新表述，所依据的技术包括正则表达式规则、自然语言处理和本地语言模型。支持的文件包括 PDF、Word、Excel、演示文稿和图像。
公司表示，FilterX 会在敏感数据被共享前捕获这些数据，同时支持对比原始输入与编辑后的版本。而 VisionX 则将浏览器扩展、人工智能渠道和终端节点警报汇集到一个界面中，以跟踪机构内部对这些工具的使用情况。
从模型保护到代理安全
Model Defense 组件重点是在提示词注入（prompt injection）和越狱（jailbreak）等攻击到达模型之前发现它们，同时应对隐私提取和滥用场景。RedX 通过真实攻击场景测试人工智能系统，而 SOC-AI 旨在分析安全运营中心事件，并自动化部分重复的初步分析任务。
ShadowX 特别关注能够发送电子邮件、访问文件、编写代码或通过应用程序编程接口执行操作的代理安全。AI Agents 组件可以根据既定策略限制代理能够执行的操作，而 MCP Monitoring 则监控代理和工具与外部 MCP 服务器之间的连接。
实际会发生什么变化？
该平台的重要性在于，它将人工智能保护从仅监控员工对话，拓展为控制涵盖数据、模型、代理及其连接工具的更广泛交互周期。通过在机构基础设施内部运行，金融机构和政府部门可以在不将敏感数据发送至第三方云服务的情况下处理这些数据，但安全控制的有效性细节和实际使用结果仍需独立评估。
ShadowX 目前在土耳其得到使用，尤其是在银行、政府和科技行业，并正在为不同规模的客户开展概念验证和销售工作。该公司在英国也有一名客户。公司支持本地部署、云端部署和混合部署模式，其收入来自年度订阅，具体金额根据模块、用户数量和部署模式而有所不同。
公司计划在进军美国和亚太地区之前，扩大其在欧洲、中东和非洲的客户基础及合作伙伴网络。从长期来看，该公司希望将 ShadowX 打造成一个能够保障人与人工智能系统之间所有交互的平台，而不仅仅是保障员工使用的工具。