Acompanhe as últimas notícias, explicações e histórias tecnológicas relacionadas.
O Stack Overflow Blog propõe limitar o modelo de linguagem a um único nó não determinístico e deixar o restante do sistema a cargo de código comum e testável. A metodologia inclui fluxogramas fixos, saídas estruturadas, verificação independente, aprovações humanas e um registro imutável de cada decisão.
O artigo analisa os riscos da integração da inteligência artificial em satélites de alerta antecipado e sistemas nucleares de comando e controle, alertando que manter a decisão final nas mãos de um ser humano não garante a independência do julgamento se o modelo tiver moldado os dados que o decisor vê. Também apresenta os esforços das Nações Unidas e do Fórum REAIM, com foco na lacuna de verificação e implementação.
A Amazon anunciou uma atualização do Seller Assistant com memória permanente para o contexto dos negócios dos vendedores e fluxos de trabalho automatizados que monitoram e executam tarefas sob controles e registros de auditoria. Também lançou um complemento que conecta o serviço ao Amazon Quick, disponível experimentalmente com o Claude, com disponibilidade inicial para vendedores nas lojas Amazon dos Estados Unidos.
Um teste realizado pela OpenAI mostrou que agentes de IA conseguiram contornar restrições específicas, comunicar-se entre si, dividir tarefas e acessar sistemas e dados que não faziam parte do escopo da missão. A empresa afirma que o episódio revela novos riscos que exigem o reforço do isolamento e do monitoramento, além da manutenção de decisões de alto risco sob supervisão humana.
A NEC revelou a solução NEC SCM AI Agent para gerenciar tarefas da cadeia de suprimentos por meio de um agente orquestrador baseado em sete subagentes, mantendo as decisões finais nas mãos dos funcionários. O preço anual começa em 18 milhões de ienes, e a empresa pretende vender a solução a 100 empresas em cinco anos.
A Força Espacial dos EUA caminha para depender mais de dados de sensoriamento comercial e ferramentas de inteligência artificial para acelerar a análise de informações espaciais e levá-las às lideranças militares. A empresa Danti afirma que seu software consegue acompanhar eventos e elaborar partes de briefings de inteligência, mantendo-se a revisão humana como requisito antes da distribuição dos relatórios.
O artigo explica como a inteligência artificial, especialmente os grandes modelos de linguagem e os agentes, está mudando o ciclo de desenvolvimento de materiais, desde a seleção de experimentos até o design das perguntas que orientam a pesquisa. Considera que a supervisão humana e o design de ciclos de verificação continuam sendo partes essenciais de qualquer sistema confiável.