Aceleración sin precedentes en el desarrollo de modelos
Un informe publicado por la organización de investigación sobre la seguridad de la inteligencia artificial (METR) mostró que Anthropic está experimentando una aceleración significativa en el ritmo de desarrollo de sus modelos inteligentes, ya que los datos indican que la empresa logró el año pasado un progreso equivalente a dos años de evolución histórica. Según la investigación, que duró 11 semanas, esta aceleración no se debe únicamente al aumento de la capacidad de computación, sino a la contribución de la propia inteligencia artificial en el proceso de desarrollo.
Los empleados de la empresa informaron que el uso de los modelos internos más recientes aumentó su productividad en un factor de 12 en comparación con trabajar sin asistencia técnica, el doble de la tasa registrada hace apenas unos meses. El informe también reveló que la empresa ha finalizado el entrenamiento de tres nuevos modelos que aún no se han lanzado al público, lo que refleja una velocidad extrema en los ciclos de desarrollo.
¿Por qué preocupa esta noticia a los investigadores?
El quid del problema radica en la contradicción entre los llamados del director ejecutivo de Anthropic, Dario Amodei, sobre la necesidad de frenar el ritmo de desarrollo de la inteligencia artificial, y la realidad que indica que la empresa está liderando una carrera hacia sistemas capaces de mejorarse a sí mismos (Recursive Self-Improvement) sin una intervención humana significativa. Los investigadores creen que este desarrollo podría superar la capacidad de los procedimientos de seguridad actuales para mantenerse al día, lo que plantea al público desafíos técnicos y éticos complejos.
Transparencia y restricciones editoriales
El informe generó una amplia controversia debido a la decisión de Anthropic de ocultar gran parte de los resultados obtenidos por la organización METR, bajo el pretexto de proteger secretos comerciales y evitar que los competidores exploten la hoja de ruta técnica de la empresa. Expertos en el campo de la seguridad de la inteligencia artificial criticaron este ocultamiento, argumentando que impide que el público y los organismos reguladores evalúen los riesgos reales de forma independiente.
Por su parte, Sam McCandlish, cofundador de Anthropic, defendió la decisión de ocultación, afirmando que revelar detalles sobre los impulsores de la aceleración podría exacerbar los riesgos que la empresa intenta evitar. Sin embargo, persisten las incógnitas sobre la capacidad de las empresas privadas para gestionar la seguridad tecnológica de esta magnitud sin la supervisión gubernamental o independiente adecuada, especialmente ante el aumento de las presiones políticas en Estados Unidos para imponer restricciones más estrictas al desarrollo de la inteligencia artificial.