Следите за последними материалами, объяснениями и связанными технологическими историями.
Компания Anthropic в своих обновленных раскрытиях информации для предстоящего первичного размещения акций намекнула на приближение к этапу обратного самосовершенствования искусственного интеллекта, что вызывает вопросы о скорости развития и мерах безопасности.
Dario Amodei, генеральный директор Anthropic, предложил план из трёх этапов для снижения рисков развития искусственного интеллекта, предусматривающий привлечение независимых оценщиков и более широкую координацию между компаниями и правительствами. Предложение основано на опасениях по поводу ускорения способности моделей разрабатывать последующие системы, а также неправомерного использования интеллектуальных агентов в кибернетических или биологических атаках.
OpenAI заявила, что достигла заявленной цели — уровня «автоматизированного исследовательского стажёра», способного выполнять исследовательские задачи, на которые у человека-исследователя уходят дни, при сохранении человеческого контроля над ключевыми решениями. Данные компании показывают, что использование агентов программирования и исследований значительно возросло, однако более длительные и сложные задачи по-прежнему требуют вмешательства человека.