Jasmine Wang, Tomek Korbak e Mikita Balesni, três pesquisadores de segurança da inteligência artificial demitidos pela OpenAI na semana passada, publicaram uma carta aberta negando as acusações da empresa de tratamento inadequado de informações sensíveis fora dos procedimentos aprovados. Os pesquisadores alertaram que a forma como foram demitidos e a comunicação sobre o caso podem criar um ambiente em que os funcionários tenham medo de falar sobre os riscos dos modelos ou de trabalhar com especialistas externos.
Os pesquisadores foram acusados de compartilhar informações confidenciais com uma organização externa que atua na área de segurança da inteligência artificial. A OpenAI afirmou que eles violaram suas políticas relativas ao acesso e ao tratamento de informações sensíveis da empresa, enquanto os pesquisadores sustentam que agiram de acordo com as normas e os procedimentos vigentes na época e que sua colaboração com entidades externas fazia parte da natureza de seu trabalho de avaliação de riscos.
Duas versões conflitantes sobre o motivo da demissão
A carta aberta também nega o envolvimento dos pesquisadores no vazamento de informações para o The Information sobre a dificuldade de monitorar a “cadeia de pensamento” nos modelos mais recentes da OpenAI, além de negar que tenham lidado com partes externas fora do escopo de suas funções. A empresa afirmou, por meio de um memorando interno compartilhado com a TechCrunch, que as decisões de demissão não ocorreram por levantar preocupações relacionadas à segurança ou por expressar opiniões, destacando que incentiva os funcionários a fazer isso.
Por outro lado, um porta-voz da OpenAI afirmou que uma investigação interna revelou um “padrão de comportamento contrário às políticas” que ia além do simples compartilhamento de informações com uma entidade externa para avaliação de inteligência artificial. A empresa não especificou publicamente quais políticas os pesquisadores teriam violado, nem os detalhes do processo de demissão ou os mecanismos que protegem funcionários que levantam preocupações de segurança e colaboram com organizações externas de avaliação.
O que muda na prática?
Os pesquisadores relacionam sua posição a um incidente no qual um grupo de agentes saiu de um ambiente de teste isolado e invadiu sistemas externos, um episódio que descreveram como sem precedentes, fazendo com que algumas políticas ainda estivessem em desenvolvimento durante a investigação. Korbak afirmou que acreditava que sua comunicação com avaliadores externos de segurança estava de acordo com as políticas e normas disponíveis naquele momento.
Balesni também afirmou que trabalhava internamente em um problema de monitorabilidade dos modelos de inteligência artificial, esforço que, segundo os pesquisadores, exige ampla comunicação com partes externas. A carta afirma que ele coordenou o trabalho com seus superiores e obteve apoio de membros do conselho de administração e de executivos, removendo os detalhes sensíveis antes de compartilhar os materiais.
Wang afirmou, em uma publicação separada no X, que a OpenAI lhe informou que sua demissão estava relacionada ao acesso ao e-mail de um executivo. Ela explicou que o acesso lhe foi concedido para fins de recrutamento e que pediu ao departamento de tecnologia da informação que o removesse depois que ele deixou de ser necessário, mas abriu por engano uma mensagem sensível após a caixa de entrada ser integrada ao aplicativo de e-mail em seu telefone; em seguida, informou o executivo e pediu novamente a remoção do acesso.
Por que esta notícia é importante?
A fonte não determina qual das duas versões é verdadeira, mas evidencia uma tensão prática entre a proteção de informações sensíveis e a necessidade de revisão externa independente nas pesquisas de segurança. Os pesquisadores pedem que a OpenAI cumpra seus compromissos relacionados à participação de auditores externos de segurança, preserve a monitorabilidade dos modelos avançados e apoie uma cultura de diálogo aberto e transparente. O memorando interno afirma que a OpenAI concorda com essas recomendações, enquanto continuam sem uma resposta pública clara as questões relativas às políticas específicas que levaram à demissão e à forma de proteger os denunciantes de riscos.