La visión de Anthropic para la regulación federal
Informes recientes revelaron que la empresa Anthropic presentó un borrador de un nuevo proyecto de ley a los legisladores en los Estados Unidos, con el objetivo de establecer un marco regulatorio para la inteligencia artificial. Este movimiento se produce en un momento en que aumentan las presiones globales para controlar el ritmo de desarrollo de modelos avanzados, ya que la empresa busca definir escenarios claros que justifiquen la prohibición del lanzamiento de cualquier modelo de inteligencia artificial en el mercado.
Estándares de riesgos catastróficos
El proyecto de ley propuesto define casos específicos clasificados como "riesgo inminente y catastrófico", que son situaciones que podrían provocar la muerte de más de 50 personas o causar daños materiales superiores a mil millones de dólares. El borrador estipula que estos riesgos deben derivar de:
- La creación o lanzamiento de armas biológicas.
- La pérdida de control del modelo por parte de los desarrolladores.
- La ejecución de ataques cibernéticos a gran escala.
Estos estándares son muy similares a los contenidos en la ley del estado de California (Senate Bill 53), lo que indica un intento de unificar los estándares de seguridad a nivel federal.
¿Qué cambia en la práctica?
El punto más controvertido radica en el mecanismo de implementación; la ley propone depender de "evaluadores independientes" registrados ante el Departamento de Comercio de los Estados Unidos para evaluar los riesgos de los modelos. Sin embargo, la ley otorga a los desarrolladores el derecho a pagar a estos evaluadores, siempre que los pagos no estén vinculados a los resultados de la evaluación, lo que plantea dudas sobre la independencia de este proceso.
Además, la ley impone restricciones estrictas a las agencias federales; les prohíbe tomar una decisión unilateral para detener el lanzamiento de cualquier modelo. En cambio, si una agencia detecta un riesgo inminente, debe notificar al Departamento de Comercio dentro de las 72 horas, el cual, a su vez, debe solicitar una orden judicial a un juez en Washington D. C. para detener el lanzamiento. Esto significa retirar la autoridad de discreción directa de los organismos reguladores técnicos y limitarla al proceso judicial.
Contexto de la competencia regulatoria
Esta iniciativa surge en medio de una división dentro del sector tecnológico; mientras algunas empresas abogan por marcos regulatorios voluntarios basados en observadores internos, otros líderes de la industria, como Jensen Huang, director ejecutivo de Nvidia, consideran que el sector no necesita nuevas leyes que restrinjan la innovación. El paso de Anthropic es un intento proactivo de las grandes empresas por redactar las reglas a las que estarán sujetas, en lugar de dejarlas en manos de legisladores que podrían imponer restricciones más estrictas o integrales.