Dario Amodei, director ejecutivo de Anthropic, afirmó que la visión negativa de la inteligencia artificial refleja, en esencia, una crisis de confianza entre el público, las empresas, los gobiernos y el sector tecnológico, y no es consecuencia directa de los mensajes de advertencia que transmiten los líderes de la industria. Sus declaraciones respondieron al inversor Gavin Baker, quien consideró que las advertencias de Amodei sobre los riesgos de la inteligencia artificial contribuyeron a alimentar una reacción negativa en Estados Unidos, especialmente hacia los centros de datos.
Baker había criticado, en el programa All-In y en la plataforma X, la postura de Anthropic favorable a ciertas formas de regulación, incluido un proyecto de ley en California que impone requisitos de transparencia a las grandes empresas de inteligencia artificial. Dijo que Amodei, dado que dirige una empresa candidata a convertirse en una de las más importantes del mundo, debería ofrecer una imagen más positiva de su sector, y consideró que había perdido el debate sobre la regulación de la inteligencia artificial.
Amodei rechaza responsabilizar a las advertencias del escepticismo
Amodei respondió que sus mensajes no habían sido desequilibradamente negativos y señaló que se habían distribuido aproximadamente por igual entre los riesgos y los beneficios de la inteligencia artificial. Añadió que escribió su artículo «Machines of Loving Grace» porque no consideraba que la industria ofreciera una imagen suficientemente inspiradora de la capacidad de la tecnología para cambiar el mundo a mejor.
Aunque reconoció que la visión general de la inteligencia artificial es negativa y que esto representa un problema importante, Amodei rechazó afirmar que la causa principal de esa negatividad fueran las advertencias de los líderes de la industria. Según su interpretación, la gente común no confía en las empresas, los gobiernos ni el sector tecnológico, y tiende a creer que estas entidades podrían desarrollar una nueva manera de perjudicarla. Amodei considera que la reacción contra la inteligencia artificial es la manifestación más reciente de una crisis de confianza que se ha formado durante décadas.
¿Qué considera Amodei una crítica más precisa?
Amodei afirmó que la crítica más precisa a las empresas de inteligencia artificial, incluida Anthropic, es que todavía no han cumplido sus grandes promesas de beneficiar al mundo. Añadió que la responsabilidad recae en las propias empresas, y que las promesas generales, como decir que la inteligencia artificial curará el cáncer, se han acercado más a convertirse en frases trilladas que en una fuente de inspiración. En su opinión, lo que podría cambiar la postura de la gente es lograr resultados tangibles, no mejorar el marketing ni los mensajes mediáticos.
La regulación entre la reducción de riesgos y la concentración del poder
Amodei también rechazó presentar el debate regulatorio como una elección binaria entre desplegar la inteligencia artificial sin restricciones o limitar la tecnología a un pequeño número de empresas debido a las normas gubernamentales. Dijo que la idea extendida en Silicon Valley, que equipara la regulación con la captura regulatoria y la concentración del poder, simplifica demasiado la realidad, ya que muchas personas fuera de ese círculo consideran que la regulación limita la influencia de las empresas y protege a los individuos.
Explicó que Anthropic formula cuidadosamente sus propuestas políticas con el objetivo de ralentizar a las empresas líderes de inteligencia artificial y, al mismo tiempo, conceder una ventaja relativa a las empresas más pequeñas. Amodei considera que la inteligencia artificial es una tecnología que, por su propia estructura, tiende a concentrar el poder, mientras que los modelos de pesos abiertos solo ayudan parcialmente a abordar este problema, porque trasladan parte de la concentración hacia las entidades que poseen la mayor capacidad de cómputo y la mayor cantidad de chips.
Según Amodei, unas «reglas de circulación» adecuadas pueden abordar los riesgos de ciberseguridad, biológicos y de alineación, y limitar institucionalmente el poder de las empresas líderes de inteligencia artificial, manteniendo al mismo tiempo abierto el espacio para los modelos de pesos abiertos y afrontando sus riesgos específicos. Este planteamiento sitúa el núcleo del desacuerdo en cómo construir confianza y lograr beneficios prácticos, no únicamente en elegir un discurso más optimista o más pesimista.