Termos

Segurança da IA

Área que se concentra na avaliação dos riscos dos modelos de inteligência artificial e no estabelecimento de medidas para mitigá-los.

Cobertura mais recente

CN
A renúncia de um executivo da OpenAI reacende o debate sobre a velocidade de desenvolvimento de modelos de inteligência artificial

A renúncia de um executivo da OpenAI reacende o debate sobre a velocidade de desenvolvimento de modelos de inteligência artificial

David Robinson renunciou à equipe de sistemas de segurança da OpenAI, criticando a cultura da empresa e a velocidade de desenvolvimento de seus modelos, e alertando que o otimismo irrestrito pode aumentar os riscos de lidar com sistemas extremamente capazes. A OpenAI afirma que adia o treinamento ou o lançamento quando necessário e amplia a avaliação externa e o monitoramento em tempo real.

CN
A Anthropic visa uma avaliação de dois trilhões de dólares apesar de enormes perdas e alertas sobre os riscos da inteligência artificial

A Anthropic visa uma avaliação de dois trilhões de dólares apesar de enormes perdas e alertas sobre os riscos da inteligência artificial

A Anthropic está se preparando para abrir seu capital com uma avaliação-alvo de até dois trilhões de dólares, com planos de gastar cerca de 518 bilhões de dólares em computação, chips e infraestrutura. O prospecto revela grandes perdas, concentração de receitas e amplos alertas sobre os riscos de modelos avançados de inteligência artificial.

CN
Jensen Huang: Die Sicherheit künstlicher Intelligenz ist ein technisches, kein rechtliches Problem

Jensen Huang: Die Sicherheit künstlicher Intelligenz ist ein technisches, kein rechtliches Problem

Jensen Huang ist der Ansicht, dass KI-Unternehmen die Risiken ihrer Produkte durch Engineering und Marktkräfte steuern können, ohne neue Gesetze zu benötigen. Eine Analyse von TechCrunch bezweifelt jedoch, dass dieser Ansatz ausreicht, und verweist auf Schäden durch Software und technische Produkte sowie auf mit künstlicher Intelligenz verbundene Fälle.

CN
OpenAI, Anthropic e Google DeepMind realizam conversas conjuntas sobre a segurança da inteligência artificial

OpenAI, Anthropic e Google DeepMind realizam conversas conjuntas sobre a segurança da inteligência artificial

A OpenAI confirmou que conversas sobre a segurança da inteligência artificial estão em andamento há semanas com a Anthropic e o Google DeepMind, em paralelo a apelos pela criação de um órgão independente de padrões e de um mecanismo para verificar a segurança de modelos avançados. Isso ocorre em meio a alertas sobre os riscos da legislação antitruste e à oposição, dentro do governo americano, ao endurecimento da regulamentação por razões relacionadas à manutenção da competição com a China.

CN
A China critica a proposta de desacelerar o desenvolvimento da inteligência artificial e a descreve como uma tática da Guerra Fria

A China critica a proposta de desacelerar o desenvolvimento da inteligência artificial e a descreve como uma tática da Guerra Fria

Meios de comunicação chineses e o Ministério das Relações Exteriores da China rejeitaram o apelo do presidente da Anthropic para desacelerar o desenvolvimento da inteligência artificial, considerando que a proposta poderia se transformar em um meio de excluir a China da inovação global. O debate revela um conflito entre as exigências de segurança tecnológica e as restrições geopolíticas sobre chips e modelos avançados.

CN
Especialistas propõem equilíbrio em vez de desacelerar o desenvolvimento da inteligência artificial ou deixá-lo sem restrições

Especialistas propõem equilíbrio em vez de desacelerar o desenvolvimento da inteligência artificial ou deixá-lo sem restrições

Especialistas em políticas e ética da inteligência artificial pediram um equilíbrio entre a velocidade de desenvolvimento dos modelos e os requisitos de segurança e regulamentação, após alertas internos de grandes empresas de que o progresso pode ultrapassar a capacidade da sociedade de compreender e controlar a tecnologia. Os especialistas consideram que a cooperação entre empresas, governos e sociedade civil deve acompanhar a competição tecnológica.

CN
رئيس Anthropic يطرح خطة لإبطاء سباق الذكاء الاصطناعي المتقدم

رئيس Anthropic يطرح خطة لإبطاء سباق الذكاء الاصطناعي المتقدم

اقترح Dario Amodei ثلاث آليات لـ«إبطاء وتيرة التقدم» في نماذج الذكاء الاصطناعي، تشمل مراقبين مستقلين داخل الشركات، ومعايير سلامة مشتركة، وتنسيقاً دولياً. وتلتزم Anthropic من جانبها بإتاحة وصول موسع لمقيّمين خارجيين، فيما تبقى قابلية تطبيق المقترحات وتعارضها المحتمل مع قوانين المنافسة أسئلة مفتوحة.

CN
Demissões e reestruturações repetidas pressionam a OpenAI antes de uma possível oferta pública

Demissões e reestruturações repetidas pressionam a OpenAI antes de uma possível oferta pública

A OpenAI passa por mudanças organizacionais sucessivas e pela saída de vários altos executivos, enquanto se prepara potencialmente para uma oferta pública que poderia elevar seu valor para cerca de 1 trilhão de dólares. Isso ocorre enquanto a empresa redistribui responsabilidades de segurança da inteligência artificial e enfrenta a concorrência crescente da Anthropic no mercado corporativo.