Термины

Безопасность ИИ

Область, сосредоточенная на оценке рисков моделей искусственного интеллекта и разработке мер по их снижению.

Последние материалы

CN
Отставка руководителя OpenAI вновь вызвала споры о темпах разработки моделей искусственного интеллекта

Отставка руководителя OpenAI вновь вызвала споры о темпах разработки моделей искусственного интеллекта

Дэвид Робинсон ушёл из команды систем безопасности OpenAI, раскритиковав культуру компании и скорость разработки её моделей и предупредив, что неограниченный оптимизм может повысить риски взаимодействия с чрезвычайно мощными системами. В OpenAI заявляют, что при необходимости приостанавливают обучение или откладывают запуск, а также расширяют внешнюю оценку и мониторинг в реальном времени.

CN
Anthropic нацелилась на оценку в два триллиона долларов, несмотря на огромные убытки и предупреждения о рисках искусственного интеллекта

Anthropic нацелилась на оценку в два триллиона долларов, несмотря на огромные убытки и предупреждения о рисках искусственного интеллекта

Anthropic готовится провести первичное публичное размещение акций с целевой оценкой до двух триллионов долларов и планирует потратить около 518 миллиардов долларов на вычислительные мощности, чипы и инфраструктуру. Проспект эмиссии раскрывает крупные убытки, концентрацию выручки и многочисленные предупреждения о рисках передовых моделей искусственного интеллекта.

CN
Jensen Huang: безопасность искусственного интеллекта — инженерная, а не юридическая проблема

Jensen Huang: безопасность искусственного интеллекта — инженерная, а не юридическая проблема

Jensen Huang считает, что компании, занимающиеся искусственным интеллектом, могут управлять рисками своих продуктов с помощью инженерных решений и рыночных сил, без необходимости в новых законах. Однако анализ TechCrunch ставит под сомнение достаточность такого подхода, ссылаясь на ущерб, причинённый программным обеспечением и технологическими продуктами, а также на дела, связанные с искусственным интеллектом.

CN
OpenAI, Anthropic и Google DeepMind ведут совместные переговоры о безопасности искусственного интеллекта

OpenAI, Anthropic и Google DeepMind ведут совместные переговоры о безопасности искусственного интеллекта

OpenAI подтвердила, что уже несколько недель ведёт переговоры с Anthropic и Google DeepMind о безопасности искусственного интеллекта, одновременно с призывами создать независимый орган по разработке стандартов и механизм проверки безопасности передовых моделей. Это происходит на фоне предупреждений о рисках, связанных с антимонопольным законодательством, и противодействия внутри американской администрации ужесточению регулирования под предлогом сохранения конкуренции с Китаем.

CN
Китай критикует предложение замедлить развитие искусственного интеллекта и называет его тактикой холодной войны

Китай критикует предложение замедлить развитие искусственного интеллекта и называет его тактикой холодной войны

Китайские СМИ и Министерство иностранных дел Китая отвергли призыв главы Anthropic замедлить развитие искусственного интеллекта, посчитав, что это предложение может превратиться в инструмент исключения Китая из глобальных инноваций. Спор выявляет противоречие между требованиями технической безопасности и геополитическими ограничениями на передовые чипы и модели.

CN
Эксперты предлагают баланс вместо замедления разработки искусственного интеллекта или оставления её без ограничений

Эксперты предлагают баланс вместо замедления разработки искусственного интеллекта или оставления её без ограничений

Эксперты по политике и этике искусственного интеллекта призвали сбалансировать скорость разработки моделей с требованиями безопасности и регулирования после предупреждений из крупных компаний о том, что прогресс может превзойти способность общества понимать его и контролировать. По мнению экспертов, сотрудничество между компаниями, правительствами и гражданским обществом должно сопровождать технологическую конкуренцию.

CN
Глава Anthropic предлагает план по замедлению гонки за передовым искусственным интеллектом

Глава Anthropic предлагает план по замедлению гонки за передовым искусственным интеллектом

Dario Amodei предложил три механизма для «замедления темпов прогресса» в моделях искусственного интеллекта: независимых наблюдателей внутри компаний, общие стандарты безопасности и международную координацию. Со своей стороны Anthropic обязуется предоставить расширенный доступ внешним оценщикам, однако реализуемость предложений и их возможное противоречие антимонопольному законодательству остаются открытыми вопросами.

CN
Повторяющиеся отставки и реструктуризация оказывают давление на OpenAI перед возможным публичным размещением

Повторяющиеся отставки и реструктуризация оказывают давление на OpenAI перед возможным публичным размещением

В OpenAI происходят последовательные организационные изменения и уходят несколько руководителей высшего звена на фоне потенциальной подготовки компании к публичному размещению, которое может повысить её оценку примерно до 1 триллиона долларов. Это происходит в то время, когда компания перераспределяет обязанности в сфере безопасности искусственного интеллекта и сталкивается с усиливающейся конкуренцией со стороны Anthropic на корпоративном рынке.