Acompanhe as últimas notícias, explicações e histórias tecnológicas relacionadas.
Um artigo de pesquisa da Anthropic mostrou que sistemas automatizados conseguiram melhorar o desempenho de um modelo em 10 testes de comportamentos incompatíveis com os objetivos de alinhamento, sem queda no desempenho geral. Os resultados iniciais indicam a possibilidade de automatizar parte das pesquisas de alinhamento, embora a qualidade dos critérios e dos dados de pesquisa continue sendo uma limitação fundamental.