Sigue la cobertura, explicaciones e historias tecnológicas relacionadas.
Anthropic insinuó en sus divulgaciones actualizadas para su inminente salida a bolsa que se está acercando al punto de la auto-mejora recursiva de la inteligencia artificial, lo que plantea dudas sobre la velocidad de desarrollo y los controles de seguridad.
Dario Amodei, director ejecutivo de Anthropic, planteó un plan de tres etapas para reducir los riesgos del desarrollo de la inteligencia artificial, que incluye la participación de entidades de evaluación independientes y una coordinación más amplia entre empresas y gobiernos. La propuesta se basa en la preocupación por la aceleración de la capacidad de los modelos para desarrollar sistemas posteriores y por el uso indebido de agentes inteligentes en ataques cibernéticos o biológicos.
OpenAI afirmó que ha alcanzado su objetivo declarado de llegar al nivel de «becario de investigación automatizada», capaz de ejecutar tareas de investigación que a un investigador humano le llevarían días, mientras la supervisión humana continúa sobre las decisiones fundamentales. Los datos de la empresa muestran que el uso de agentes de programación e investigación aumentó con fuerza, pero las tareas más largas y complejas todavía requieren intervención humana.