Acompanhe as últimas notícias, explicações e histórias tecnológicas relacionadas.
A Anthropic afirmou que cinco campanhas ligadas a empresas chinesas de inteligência artificial tentaram extrair capacidades avançadas do modelo Claude por meio de quase 200 milhões de interações, incluindo uma campanha atribuída à Alibaba e outra à Moonshot AI. A empresa considera que essas técnicas podem ser usadas para produzir dados de treinamento para modelos concorrentes, embora o relatório apresente acusações da empresa e não forneça, no material, provas independentes sobre elas.
Espera-se que o modelo Astra, da OpenAI, utilize a técnica de «profundidade recorrente», que processa consultas por meio de ciclos repetidos em vez da sequência habitual, o que pode tornar os vestígios de raciocínio menos claros para os observadores. A empresa afirma que o uso da técnica será limitado e que está comprometida em manter cadeias de pensamento legíveis, mas pesquisadores de segurança da inteligência artificial alertam para sua expansão.