A NVIDIA e um amplo grupo de empresas de tecnologia e organizações de código aberto anunciaram a criação da Open Secure AI Alliance, com o objetivo de desenvolver e compartilhar tecnologias e ferramentas abertas que ajudem os defensores a proteger softwares e agentes inteligentes à medida que o uso da inteligência artificial se expande. A aliança baseia-se em iniciativas da comunidade Linux Foundation, incluindo a iniciativa Akrites e os trabalhos da OpenSSF, com foco no tratamento e na divulgação de vulnerabilidades por meio de tecnologias abertas.
A aliança reúne parceiros fundadores dos setores de computação em nuvem, segurança cibernética, software empresarial e pesquisa em inteligência artificial, entre eles NVIDIA, Adobe, Akamai, Amazon, Atlassian, Cisco, Cloudflare, CrowdStrike, Dell Technologies, Docker, GitHub e Google?
A abertura como ferramenta defensiva
A aliança considera que a defesa cibernética precisa de modelos abertos e ferramentas operacionais abertas, pois elas permitem que os defensores inspecionem e adaptem os sistemas e os executem em sua própria infraestrutura, protegendo os dados e reduzindo a dependência de um único provedor. Segundo o material, essas ferramentas podem complementar modelos fechados avançados ao oferecer controles personalizáveis e adequados a ambientes locais.
A NVIDIA reconhece que modelos abertos, como qualquer tecnologia poderosa, podem ser usados indevidamente para enfraquecer medidas de proteção ou reaproveitados em ataques cibernéticos. No entanto, o material argumenta que esses riscos não se limitam aos sistemas abertos e que manter os pesos dos modelos fechados não impede que invasores determinados tentem acessar ou explorar capacidades avançadas.
O material cita um incidente de segurança recente sofrido pela Hugging Face, afirmando que a empresa utilizou um modelo GLM 5.2 com pesos abertos em sua infraestrutura para analisar mais de 17 mil ações e conter a invasão, depois que ferramentas de inteligência artificial fechadas dificultaram a análise forense por não conseguirem distinguir entre invasores e defensores. A NVIDIA usa esse episódio para ilustrar a importância de os defensores possuírem sistemas avançados que possam ser inspecionados, modificados e executados internamente.
Contribuições da NVIDIA e componentes de proteção
A NVIDIA afirmou que contribui para a aliança com modelos abertos, pesos de modelos, dados e novas pesquisas sobre estruturas operacionais de agentes. A empresa também disponibilizou no GitHub o projeto de código aberto NVIDIA Labs Object-Oriented Agent (NOOA), uma estrutura de pesquisa destinada a ajudar as estruturas operacionais de agentes a se integrarem melhor aos modelos, tornando o comportamento dos agentes mais fácil de testar, rastrear, auditar e governar.
Os participantes trabalham na construção de um ecossistema aberto de defesa para agentes que inclui identidade e isolamento, formatos seguros de modelos, verificação com múltiplos modelos e fluxos de trabalho de programação segura. Entre os exemplos apresentados no material está a contribuição da HPE para SPIFFE/SPIRE, destinada à verificação criptográfica das identidades de agentes e serviços, além da disponibilização pela Hugging Face do formato Safetensors para a organização PyTorch, um formato para armazenar pesos de modelos com garantias contra a execução remota de código.
Um apelo à infraestrutura compartilhada
A NVIDIA convocou governos, empresas e pesquisadores a investirem em uma infraestrutura aberta para a defesa com inteligência artificial, como conjuntos de dados, estruturas de avaliação, simuladores de ataques e ferramentas de testes ofensivos. A empresa também instou formuladores de políticas e órgãos reguladores a tratarem modelos abertos, estruturas operacionais e ferramentas de segurança como ativos defensivos, alertando que restrições abrangentes aos sistemas de inteligência artificial abertos podem enfraquecer a capacidade de defesa e aumentar a concentração da dependência em um número limitado de provedores fechados.