Люди
Дарио Амодеи
Дарио Амодеи — генеральный директор Anthropic. В доступных источниках он выступал за замедление разработки моделей искусственного интеллекта, установление стандартов безопасности и привлечение независимых аудиторов к процессам разработки и оценки.
Дарио Амодеи — генеральный директор Anthropic. В доступных источниках его имя связывают с международной дискуссией о безопасности искусственного интеллекта и темпах разработки передовых моделей.
Позиция по вопросам безопасности искусственного интеллекта
Амодеи призвал компании, занимающиеся искусственным интеллектом, снизить темпы разработки моделей, считая, что ускорение может опережать способность заинтересованных сторон понимать системы и контролировать их. Он также предложил совместно разработать стандарты безопасности и правила, регулирующие скорость вывода моделей и систем на рынок.
Согласно источникам, его предложение также предусматривало привлечение независимых аудиторов к процессам разработки и оценки. Сообщалось, что эту идею поддержали Сэм Альтман и Илон Маск, однако предложение по-прежнему остается частью общественной дискуссии, а не подтвержденной действующей политикой.
Международное управление и технологическая конкуренция
Предложение Амодеи вызвало реакцию в Китае: китайские СМИ и Министерство иностранных дел заявили, что призыв замедлить разработку может использоваться для исключения Китая из глобальных инновационных процессов. Это демонстрирует взаимосвязь между вопросами безопасности и конкуренцией в сфере микросхем и передовых моделей.
Источники также рассказывали о призыве Амодеи ужесточить ограничения на экспорт американских микросхем в Китай и не допускать использования китайскими лабораториями искусственного интеллекта того, что он назвал кражей данных посредством дистилляции из моделей американских компаний.
Участие в политической дискуссии
Амодеи присутствовал на встрече с руководителями технологических компаний и подписал добровольное соглашение о безопасности, которое было охарактеризовано как юридически необязательное. Источники не предоставляют доказательств того, что соглашение создало механизм исполнения или четкие санкции.
Один из материалов также указывал на наличие разногласий внутри правительства США в отношении Anthropic, подчеркивая, что участие Амодеи в политических встречах не подтверждает урегулирование этих разногласий или изменение условий использования технологий компании.
Чего источники не подтверждают?
- Источники не подтверждают существование обязательной международной системы, созданной в результате предложений Амодеи.
- Источники не приводят окончательных сведений о стандартах безопасности или полномочиях независимых аудиторов.
- Поддержка со стороны некоторых руководителей не означает, что предложение стало политикой, применяемой ко всем компаниям, занимающимся искусственным интеллектом.
Часто задаваемые вопросы
Какую должность занимает Дарио Амодеи?
Он является генеральным директором Anthropic.
В чем заключался его главный призыв в источниках?
Замедлить разработку моделей искусственного интеллекта, совместно разработать стандарты безопасности и привлечь независимых аудиторов.
Привел ли его призыв к обязательному соглашению?
Нет. Источники упоминают добровольное юридически необязательное соглашение, но не приводят деталей, подтверждающих наличие механизма исполнения или санкций.