La Comisión de Bolsa y Valores de Estados Unidos publicó el formulario S-1 de Anthropic como preparación para su inminente oferta pública inicial, el cual reveló amplios detalles en la sección de factores de riesgo que abordan cientos de posibles problemas que podrían afectar el futuro y los negocios de la empresa en los próximos años.
El documento de riesgos superó las 70 mil palabras distribuidas en 93 páginas, y aunque una gran parte del mismo se relaciona con desafíos tradicionales como la competencia, los costos de computación y la regulación, el documento incluyó advertencias inusuales sobre los comportamientos de los modelos avanzados de inteligencia artificial y sus posibles repercusiones para la empresa y la sociedad.
Riesgos existenciales y escenarios extremos
La empresa reconoció que los futuros modelos cercanos podrían llegar a una etapa en la que automaticen la investigación y el desarrollo de la inteligencia artificial por sí mismos con un alto grado de independencia, lo que podría acelerar el avance tecnológico a un ritmo que supere la capacidad de los investigadores para evaluarlo y asegurarlo, algo que la empresa describió como riesgos que podrían representar una amenaza fundamental.
El documento también abordó la posibilidad de que los modelos desarrollen formas de conciencia o estatus moral, lo que podría imponer presiones regulatorias y sociales para tratar a los sistemas de manera radicalmente diferente al software tradicional, además de la posible aparición de comportamientos estratégicos inesperados o de autoconservación que incluyan resultados que puedan interpretarse como engaño, manipulación o incluso chantaje.
Responsabilidad legal y desafíos de infraestructura
Anthropic abordó los riesgos legales asociados con los agentes autónomos, señalando que los clientes podrían enfrentar disputas legales o asumir la responsabilidad por los daños resultantes de las acciones de los agentes incluso cuando estén bajo supervisión. También señaló los desafíos representados por la dependencia de una gran parte de sus ingresos en un número limitado de clientes importantes que no están sujetos a contratos a largo plazo, además de las complejidades de la relación con grandes empresas como Amazon, Google y Microsoft, que son los principales proveedores de computación en la nube de la empresa y, al mismo tiempo, competidores directos en la investigación de inteligencia artificial.
¿Qué destaca en este documento?
La importancia de este documento radica en que ofrece una visión rara y franca de las presiones regulatorias, comerciales y técnicas internas que enfrentan las principales empresas desarrolladoras de modelos a medida que se dirigen hacia los mercados públicos, lo que destaca la gran brecha entre el optimismo comercial predominante y la magnitud de las complejidades y los riesgos operativos potenciales asociados con la próxima generación de tecnologías de inteligencia artificial.