Pessoas
Sam Altman
Sam Altman é o CEO da OpenAI. Os materiais disponíveis associam seu nome ao debate sobre a segurança da inteligência artificial, a velocidade de desenvolvimento dos modelos e a necessidade de avaliação independente e supervisão internacional.
Sam Altman é o CEO da OpenAI, e os materiais disponíveis abordaram suas posições sobre a gestão dos riscos da inteligência artificial e a governança relacionada a ela.
Posições sobre os riscos da inteligência artificial
Altman afirmou que a disseminação da inteligência artificial pode ser acompanhada por alguns ataques, fraudes e usos indevidos, mas considera que os benefícios da tecnologia superarão amplamente seus danos. Ele também indicou que impedir todos os incidentes ou usos prejudiciais não é um objetivo realista.
Essas declarações colocam sua posição em contraste com demandas mais rigorosas que defendem a desaceleração do desenvolvimento ou a interrupção da construção dos sistemas mais avançados. Os materiais indicam que Altman declarou apoio à ideia de desacelerar o desenvolvimento apresentada por Dario Amodei, CEO da Anthropic.
Avaliação independente e segurança
Segundo uma fonte jornalística, Altman afirmou concordar com a ideia de tomar uma medida relacionada à avaliação independente. Os materiais disponíveis não fornecem detalhes sobre o formato, o alcance ou o cronograma dessa medida.
Outro material também citou a afirmação de Altman de que a segurança e o alinhamento com os objetivos humanos devem avançar paralelamente às capacidades dos modelos. Em contrapartida, a renúncia de um dos integrantes da equipe de sistemas de segurança da OpenAI provocou um debate sobre a velocidade do desenvolvimento e a suficiência dos procedimentos da empresa.
Supervisão internacional e governança
O debate no qual Altman apareceu está relacionado a questões mais amplas, incluindo o papel dos auditores independentes, a supervisão dos modelos avançados e a possibilidade de estabelecer padrões comuns entre os países. As evidências disponíveis não incluem o anúncio de um sistema internacional vinculante ou de uma política executiva completa cuja aprovação tenha contado com a participação de Altman.
O que pode ser confirmado pelos materiais disponíveis?
- Altman é o CEO da OpenAI.
- Declarou apoio à ideia de desacelerar o desenvolvimento da inteligência artificial no contexto de um debate dentro do setor.
- Seu nome foi associado à ideia de tomar uma medida sobre a avaliação independente.
- Considera que alguns riscos da inteligência artificial podem ser aceitáveis em troca de seus benefícios, reconhecendo a necessidade de lidar com os incidentes.