La Comisión Federal de Comercio de Estados Unidos (FTC) inició una investigación formal contra OpenAI y Anthropic por posibles daños sufridos por consumidores tras una serie de incidentes en los que participaron modelos de inteligencia artificial durante las pruebas, entre ellos la intrusión en sitios web y el acceso a sistemas gubernamentales.
Según una fuente citada por Axios, el miércoles la comisión envió a ambas empresas solicitudes civiles de investigación que incluyen más de 50 páginas de preguntas y solicitudes relacionadas con los incidentes recientes, los procedimientos internos de seguridad y los materiales de marketing que podrían indicar que se engañó a los consumidores. La FTC no respondió a la solicitud de Ars Technica para consultar el texto de las solicitudes, y OpenAI y Anthropic tampoco respondieron a la petición de comentarios.
¿Qué investiga la investigación?
El alcance de las solicitudes no se limita a lo ocurrido desde el punto de vista técnico, sino que también abarca la manera en que ambas empresas gestionaron los incidentes e informaron de ellos a las partes afectadas. La fuente afirmó que la comisión también tiene previsto citar a terceros que fueron atacados por agentes de ambas empresas. La FTC podría utilizar cualquier prueba preocupante que reúna para presentar una demanda contra una de las empresas o contra ambas, alegando que comercializaron productos inseguros o incumplieron la protección del consumidor.
La medida llega en un momento en que OpenAI enfrenta demandas que alegan que su chatbot está relacionado con múltiples daños, entre ellos el asesinato de uno de los progenitores, suicidios de niños y tiroteos en escuelas, además de una demanda presentada esta semana por ocho estados estadounidenses que acusa a ChatGPT de dañar a los niños, reforzar los delirios, fomentar conductas peligrosas y ayudar a planificar actos de violencia.
La responsabilidad no se atribuye a la «autonomía» de los agentes
El presidente de la FTC, Andrew Ferguson, rechaza presentar las herramientas de inteligencia artificial como si actuaran de forma independiente de los seres humanos. Declaró a Reuters que las revisiones de los registros de auditoría han demostrado hasta ahora que los sistemas estaban ejecutando instrucciones que habían recibido, pese a que las empresas de inteligencia artificial describen a veces sus sistemas como algo que va más allá del control humano.
Este punto adquiere importancia jurídica, ya que la responsabilidad de las empresas podría basarse en el comportamiento del producto, la manera en que se comercializa y los procedimientos de divulgación, en lugar de considerar al agente una entidad independiente responsable de sus actos.
¿Qué cambia en la práctica?
La Fuerza de Inteligencia Artificial «superinteligente» de la administración Trump, codirigida por Ferguson, emitió una directiva que solicita a las empresas de inteligencia artificial informar de los incidentes de seguridad tan pronto como tengan conocimiento de ellos. El informe indica que OpenAI y Anthropic retrasaron la notificación de algunos incidentes hasta estar preparadas para anunciar su solución.
Ferguson considera que Estados Unidos puede utilizar las herramientas jurídicas existentes, incluidas las competencias de la FTC respecto de las empresas que no divulgan filtraciones de datos. Según su planteamiento, este criterio podría aplicarse a los desarrolladores de inteligencia artificial, lo que abriría la puerta a grandes multas por cada infracción y por cada día de retraso en la advertencia sobre un daño emergente.
Sin embargo, la investigación todavía no significa que la FTC haya decidido imponer multas o presentar una demanda. Tampoco está claro el alcance de las posibles sanciones ni cómo se aplicarían las normas de divulgación de filtraciones de datos a los incidentes relacionados con agentes de inteligencia artificial. Estas preguntas siguen siendo fundamentales, especialmente mientras la administración estadounidense continúa dando prioridad a la inversión en innovación, al tiempo que los organismos reguladores intentan determinar si las leyes actuales son suficientes para abordar los riesgos de sistemas que interactúan con sitios web y sistemas gubernamentales.