La inteligencia artificial ha cambiado la forma en que los equipos de seguridad y operaciones gestionan los incidentes, ya que ahora se utiliza para clasificar alertas, recuperar procedimientos operativos, proponer acciones e incluso preparar análisis posteriores al incidente. Sin embargo, los ejercicios de simulación conocidos como Tabletop Exercises todavía suelen evaluar los conocimientos de las personas sobre los procedimientos y su capacidad para tomar decisiones bajo presión, sin probar el sistema inteligente que se ha convertido en intermediario entre ellas y la información.
El artículo, publicado por Webflow como contenido patrocinado, sostiene que esto deja una brecha práctica: si la inteligencia artificial forma parte del proceso real de respuesta, también debe formar parte de las pruebas. Esto se aplica a los equipos de seguridad, a los equipos de fiabilidad de sitios que la utilizan para clasificar fallos, a los equipos de soporte que dependen de ella para dirigir las escalaciones y a las operaciones de TI que la usan para automatizar solicitudes de acceso.
De probar a las personas a probar todo el sistema
Los ejercicios de simulación tradicionales partían de la base de que las herramientas eran estables y que la variable principal eran las personas: ¿quién recibe la alerta? ¿Quién tiene autoridad para decidir? ¿Y el equipo sigue el procedimiento operativo con suficiente rapidez? Pero el fallo de una herramienta de inteligencia artificial no necesariamente se manifiesta como una interrupción evidente. Puede ofrecer un resumen erróneo con seguridad, recuperar un procedimiento antiguo porque coincide con las palabras clave o sugerir una acción que parece lógica, pero no es segura.
Estos fallos silenciosos pueden ralentizar la respuesta o llevar al equipo a tomar una decisión equivocada sin que aparezca un mensaje de error que lo alerte. Por ello, un ejercicio que no incluya estos casos solo prueba una parte del sistema que funcionará durante el incidente real.
Casos que deberían incluirse en el ejercicio
- Respuesta errónea expresada con seguridad: se puede simular una alucinación al identificar la causa raíz o recuperar un documento relacionado, pero antiguo. El objetivo no es asumir que el sistema no se equivocará, sino probar la capacidad de los responsables de la respuesta para verificar la información y no tratar la respuesta como un hecho.
- Interrupción del sistema de inteligencia artificial: debería probarse qué ocurre si el sistema utilizado para la investigación deja de estar disponible o se ve afectado por el propio incidente, y si el equipo todavía sabe cómo realizar la clasificación manualmente.
- Elusión de las salvaguardas bajo presión: los controles pueden parecer adecuados durante una revisión tranquila, pero quizá se ignoren cuando el incidente se prolonga durante horas y alguien quiere que el sistema ejecute la acción en lugar de proponerla para obtener aprobación humana.
- Erosión de las habilidades manuales: depender durante mucho tiempo de la recuperación automática puede debilitar la capacidad del equipo para buscar en los documentos y ejecutar los pasos sin ayuda.
- Ambigüedad en el punto de entrega: debe probarse si los trabajadores saben claramente dónde termina el papel del sistema y dónde comienza la decisión humana, especialmente cuando la recomendación automática resulta convincente, pero es parcialmente incorrecta.
¿Cómo actualizan los equipos sus ejercicios?
Las organizaciones no necesitan cancelar sus programas actuales, sino añadir una capa dirigida a la propia herramienta de inteligencia artificial. También deberían participar las personas que construyen y gestionan estas herramientas, porque son quienes mejor pueden identificar sus patrones de fallo. Asimismo, la sesión de revisión debe ir más allá de la pregunta «¿siguió el equipo el procedimiento operativo?» y plantear otra: «¿otorgó el equipo al sistema el nivel de confianza adecuado?». Una confianza baja desperdicia la utilidad de la herramienta, mientras que un exceso de confianza puede convertir una respuesta errónea en una causa directa del agravamiento del incidente.
El artículo subraya que una sola prueba no es suficiente, porque los modelos, las fuentes de recuperación y las salvaguardas cambian con el tiempo. Por ello, el ejercicio debe repetirse cada vez que cambien componentes del sistema que influyan en la respuesta.
La lectura editorial de certi.news
El cambio real aquí no consiste en añadir la inteligencia artificial a la lista de herramientas, sino en que pase a ocupar una posición influyente en la cadena de decisión. Esto amplía el alcance de la respuesta a incidentes: el equipo no solo prueba la preparación de sus integrantes, sino también la fiabilidad del intermediario que sintetiza la información y propone el siguiente paso. Los límites del planteamiento siguen siendo claros: el artículo no ofrece resultados de medición independientes ni un estándar unificado para evaluar estos ejercicios, y además se basa en la experiencia de Webflow. Por tanto, sus recomendaciones deben tratarse como un marco práctico adaptable, no como una prueba general.