La inteligencia artificial está pasando gradualmente de producir respuestas y contenido a operar sistemas que interactúan directamente con el mundo físico, como vehículos autónomos, robots industriales, drones, sistemas quirúrgicos e infraestructuras inteligentes. En estas aplicaciones, el impacto de un error no se limita a un resultado impreciso o una recomendación deficiente; puede provocar que se ignore un obstáculo, que un mecanismo funcione de manera incorrecta, que se produzca un frenado repentino o que las personas y las operaciones queden expuestas a riesgos reales.
Esta es la idea central de un artículo de opinión publicado como contenido patrocinado por Semiconductor Engineering el 3 de septiembre de 2026, escrito por Dana Neustadter e Ilya Tolchinsky. Tolchinsky ocupa el cargo de director principal de productos de inteligencia artificial en Synopsys, mientras que Neustadter es directora sénior de gestión de productos para soluciones de seguridad en la empresa. Por su naturaleza, el artículo presenta una visión y recomendaciones editoriales de sus autores, no un anuncio de producto ni resultados de pruebas independientes.
El riesgo comienza antes de ejecutar el modelo
Los autores afirman que las amenazas para la inteligencia artificial física no comienzan en la fase de inferencia ni terminan en la capa de software. Los datos utilizados para el entrenamiento pueden estar incompletos, sesgados, modificados o ser de baja calidad, tanto si son datos reales como sintéticos. El sistema puede aprender desde el principio patrones incorrectos que no se manifiesten claramente durante las pruebas y que luego salgan a la luz al enfrentarse a condiciones operativas diferentes.
Los sensores constituyen otro punto de exposición, porque las cámaras, el LiDAR, el radar, los micrófonos y los sistemas de posicionamiento son los que construyen la imagen que el sistema tiene del entorno. Si estas entradas se bloquean, corrompen o manipulan, puede cambiar la imagen en la que se basa el modelo para tomar decisiones.
El problema tampoco se limita a cada componente individual. Una plataforma robótica, por ejemplo, puede combinar un componente de percepción, otro de planificación del movimiento y un tercero de ejecución del control. Los retrasos temporales, las diferencias entre las entradas, la deriva del modelo o la vulneración de uno de los componentes pueden provocar una pérdida de sincronización y la aparición de un comportamiento difícil de predecir.
Desde las raíces de confianza hasta el comportamiento durante el funcionamiento
La superficie de ataque también se extiende al hardware, incluido el silicio, los bloques de propiedad intelectual integrados, los aceleradores y los enlaces de interconexión. El artículo señala que una raíz de confianza débil en el hardware, una ruta insegura de actualización del firmware o la reutilización de un bloque de propiedad intelectual vulnerable en varios productos pueden socavar la protección existente en las capas superiores.
Los sistemas de inteligencia artificial agéntica añaden otra complejidad, ya que se desplazan por entornos dinámicos, toman decisiones y cambian su comportamiento en tiempo real. Por ello, los autores no consideran suficiente verificar el modelo una sola vez antes de su implementación. En cambio, abogan por una garantía continua durante el funcionamiento para supervisar si las salidas siguen dentro de los límites operativos seguros a medida que cambian las condiciones.
¿Qué cambia en la práctica?
La conclusión práctica del artículo es que la confianza debe construirse en todo el sistema, desde el silicio hasta el software, en lugar de limitarse a la capa de aplicación. Esto requiere examinar el origen de los datos, verificar la integridad de los modelos, proteger las cadenas de suministro de hardware y software, autenticar las actualizaciones y supervisar cómo se comporta el sistema cuando las entradas son inciertas o contradictorias.
La importancia de este planteamiento reside en que vincula la seguridad con la seguridad operacional: proteger únicamente la red no garantiza que los sensores midan el entorno de forma fiable, y la precisión del modelo por sí sola no garantiza que la decisión se ejecute dentro de límites seguros. Sin embargo, el artículo no ofrece un estándar cuantitativo ni un mecanismo de implementación específico para medir estas garantías, ni presenta datos experimentales que comparen distintos enfoques. Por tanto, su llamamiento a generar confianza a lo largo del ciclo de vida sigue siendo un marco general que debe traducirse, en cada aplicación, en pruebas y controles medibles.