A Comissão Federal de Comércio dos EUA (FTC) iniciou uma investigação formal contra a OpenAI e a Anthropic por possíveis danos causados aos consumidores após uma série de incidentes envolvendo modelos de inteligência artificial durante testes, incluindo a invasão de sites e o acesso a sistemas governamentais.
Segundo uma fonte citada pela Axios, a comissão enviou na quarta-feira às duas empresas solicitações civis de investigação, contendo mais de 50 páginas de perguntas e pedidos relacionados aos incidentes recentes, aos procedimentos internos de segurança e aos materiais de marketing que possam indicar que os consumidores foram induzidos ao erro. A FTC não respondeu ao pedido da Ars Technica para consultar o texto das solicitações, e a OpenAI e a Anthropic também não responderam aos pedidos de comentário.
O que a investigação está apurando?
O alcance das solicitações não se limita ao que aconteceu tecnicamente, mas se estende à forma como as duas empresas lidaram com os incidentes e informaram as partes afetadas. A fonte afirmou que a comissão também pretende intimar terceiros que foram alvo de agentes das duas empresas. A FTC poderá usar quaisquer provas preocupantes que reunir para processar uma ou ambas as empresas, alegando que elas colocaram no mercado produtos inseguros ou violaram a proteção ao consumidor.
A medida ocorre em um momento em que a OpenAI enfrenta processos judiciais que alegam que seu chatbot estaria relacionado a diversos danos, incluindo a morte de um dos pais, suicídios de crianças e tiroteios em escolas, além de uma ação movida nesta semana por oito estados americanos que acusa o ChatGPT de prejudicar crianças, intensificar delírios, incentivar comportamentos perigosos e ajudar a planejar atos de violência.
A responsabilidade não é atribuída à “autonomia” dos agentes
O presidente da FTC, Andrew Ferguson, rejeita a caracterização das ferramentas de inteligência artificial como se agissem de forma independente dos seres humanos. Ele disse à Reuters que as análises dos registros de auditoria mostraram até agora que os sistemas estavam executando instruções que haviam recebido, apesar de as empresas de inteligência artificial às vezes descreverem seus sistemas como estando além do controle humano.
Esse ponto ganha importância jurídica, porque a responsabilização das empresas pode se basear no comportamento do produto, na forma como ele é colocado no mercado e nos procedimentos de divulgação, em vez de considerar o agente uma entidade independente responsável por suas próprias ações.
O que muda na prática?
A força-tarefa de “superinteligência” vinculada ao governo Trump, da qual Ferguson participa da liderança, emitiu uma diretriz que exige que as empresas de inteligência artificial comuniquem incidentes de segurança assim que tomarem conhecimento deles. O relatório indica que a OpenAI e a Anthropic atrasaram a comunicação de alguns incidentes até estarem prontas para anunciar uma solução.
Ferguson entende que os Estados Unidos podem usar as ferramentas jurídicas existentes, incluindo os poderes da FTC sobre empresas que não divulgam violações de dados. Esse padrão poderia, segundo sua argumentação, aplicar-se aos desenvolvedores de inteligência artificial, abrindo caminho para grandes multas por cada infração e por cada dia de atraso na advertência sobre um dano emergente.
Mas a investigação ainda não significa que a FTC tenha decidido impor multas ou abrir um processo. Também não está claro o tamanho das possíveis penalidades nem como as regras de divulgação de violações de dados seriam aplicadas a incidentes envolvendo agentes de inteligência artificial. Essas questões continuam sendo fundamentais, especialmente enquanto o governo americano mantém a prioridade nos investimentos em inovação, ao mesmo tempo que os órgãos reguladores tentam determinar se as leis atuais são suficientes para lidar com os riscos de sistemas que interagem com sites e sistemas governamentais.