Personas
Sam Altman
Sam Altman es el director ejecutivo de OpenAI. Los materiales disponibles relacionan su nombre con el debate sobre la seguridad de la inteligencia artificial, la velocidad de desarrollo de los modelos y la necesidad de una evaluación independiente y de supervisión internacional.
Sam Altman es el director ejecutivo de OpenAI, y los materiales disponibles han abordado sus posturas sobre la gestión de los riesgos de la inteligencia artificial y la gobernanza relacionada con ella.
Posturas sobre los riesgos de la inteligencia artificial
Altman afirmó que la expansión de la inteligencia artificial podría ir acompañada de algunas intrusiones, fraudes y usos indebidos, pero considera que los beneficios de la tecnología superarán ampliamente sus daños. También señaló que impedir todos los incidentes o usos perjudiciales no es un objetivo realista.
Estas declaraciones sitúan su postura frente a demandas más estrictas que piden ralentizar el desarrollo de los modelos o detener la creación de los sistemas más avanzados. Los materiales indican que Altman expresó su apoyo a la idea de ralentizar el desarrollo planteada por Dario Amodei, director ejecutivo de Anthropic.
Evaluación independiente y seguridad
Según una fuente periodística, Altman afirmó que está de acuerdo con la idea de dar un paso relacionado con la evaluación independiente. Los materiales disponibles no ofrecen detalles sobre la forma, el alcance o el calendario de aplicación de este paso.
Otro material también citó a Altman afirmando que la seguridad y la alineación con los objetivos humanos deben avanzar en paralelo con las capacidades de los modelos. En cambio, la dimisión de uno de los trabajadores del equipo de sistemas de seguridad de OpenAI generó un debate sobre la velocidad del desarrollo y la suficiencia de los procedimientos de la empresa.
Supervisión internacional y gobernanza
El debate en el que apareció Altman está relacionado con cuestiones más amplias, como el papel de los auditores independientes, la supervisión de los modelos avanzados y la posibilidad de establecer normas comunes entre países. Las pruebas disponibles no incluyen un anuncio de un sistema internacional vinculante ni de una política ejecutiva completa cuya aprobación contara con la participación de Altman.
¿Qué se puede confirmar a partir de los materiales disponibles?
- Altman es el director ejecutivo de OpenAI.
- Expresó su apoyo a la idea de ralentizar el desarrollo de la inteligencia artificial en el contexto de un debate dentro del sector.
- Su nombre se relacionó con la idea de dar un paso sobre la evaluación independiente.
- Considera que algunos riesgos de la inteligencia artificial pueden aceptarse a cambio de sus beneficios, aunque reconoce la necesidad de abordar los incidentes.