La empresa turca ShadowX ofrece una plataforma de seguridad de la inteligencia artificial empresarial centrada en controlar cómo los empleados, los desarrolladores y los agentes utilizan las herramientas de inteligencia artificial. La plataforma combina el descubrimiento de datos sensibles, la visibilidad de lo que se conoce como «inteligencia artificial en la sombra», la seguridad de los modelos y la protección de los sistemas de inteligencia artificial agéntica en una sola capa.
ShadowX fue fundada en 2024 por Nedim Kaya y Erdinç Balcı, y su equipo está compuesto por 11 personas, una gran parte de las cuales trabaja en el desarrollo de productos, la inteligencia artificial, la ciberseguridad y la ingeniería de software. Tras aproximadamente dos años de desarrollo, la empresa desarrolló internamente la infraestructura básica de la plataforma, con la posibilidad de integrar modelos lingüísticos de gran tamaño y tecnologías de código abierto según las necesidades de los clientes.
Protección de los datos antes de que lleguen al modelo
El componente FilterX permite analizar en tiempo real los textos, archivos e imágenes que los empleados envían a los modelos de inteligencia artificial. Puede detectar y ocultar información sensible o reformular las entradas antes de compartirlas, basándose en reglas de expresiones regulares, procesamiento del lenguaje natural y modelos lingüísticos locales. Los archivos compatibles incluyen PDF, Word, Excel, presentaciones e imágenes.
La empresa afirma que FilterX captura los datos sensibles antes de que se compartan y permite comparar la entrada original con la versión depurada. Por su parte, VisionX reúne las extensiones del navegador, los canales de inteligencia artificial y las alertas de los endpoints en una única interfaz para supervisar el uso de estas herramientas dentro de la organización.
De la protección de modelos a la seguridad de los agentes
El componente Model Defense se centra en detectar ataques como la inyección de instrucciones (prompt injection) y los intentos de eludir las restricciones (jailbreak) antes de que lleguen al modelo, además de escenarios de extracción de información privada y uso indebido. RedX prueba los sistemas de inteligencia artificial mediante escenarios de ataque reales, mientras que SOC-AI pretende analizar los eventos de los centros de operaciones de seguridad y automatizar algunas tareas repetitivas de análisis inicial.
ShadowX presta especial atención a la seguridad de los agentes capaces de enviar correos electrónicos, acceder a archivos, escribir código o ejecutar operaciones mediante interfaces de programación de aplicaciones. El componente AI Agents permite restringir las acciones que los agentes pueden ejecutar según políticas específicas, mientras que MCP Monitoring supervisa las conexiones de los agentes y las herramientas con servidores MCP externos.
¿Qué cambia en la práctica?
La importancia de la plataforma radica en trasladar la protección de la inteligencia artificial de la mera supervisión de las conversaciones de los empleados al control de un ciclo de interacción más amplio que incluye los datos, los modelos, los agentes y las herramientas conectadas a ellos. La opción de operar dentro de la infraestructura de la organización ofrece a las instituciones financieras y a las entidades gubernamentales una vía para procesar datos sensibles sin enviarlos a servicios en la nube de terceros, aunque los detalles sobre la eficacia de los controles de seguridad y los resultados del uso real aún requieren una evaluación independiente.
ShadowX se utiliza actualmente en Turquía, especialmente en los sectores bancario, gubernamental y tecnológico, y lleva a cabo pruebas de concepto y ventas con clientes de distintos tamaños. También cuenta con un cliente en el Reino Unido. La empresa admite modelos de despliegue local, en la nube e híbrido, y sus ingresos dependen de suscripciones anuales que varían según los módulos, el número de usuarios y el modelo de despliegue.
La empresa pretende ampliar su base de clientes y su red de socios en Europa, Oriente Medio y África antes de expandirse a Estados Unidos y Asia-Pacífico. A largo plazo, quiere convertir ShadowX en una plataforma que asegure todas las interacciones entre las personas y los sistemas de inteligencia artificial, no solo las herramientas de los empleados.