Люди
Сэм Альтман
Сэм Альтман — генеральный директор OpenAI. Доступные материалы связывают его имя с обсуждением безопасности искусственного интеллекта, темпов разработки моделей, а также необходимости независимой оценки и международного надзора.
Сэм Альтман — генеральный директор OpenAI. В доступных материалах рассматриваются его взгляды на управление рисками искусственного интеллекта и связанную с ним систему регулирования.
Взгляды на риски искусственного интеллекта
Альтман заявил, что распространение искусственного интеллекта может сопровождаться некоторыми взломами, мошенничеством и злоупотреблениями, однако считает, что преимущества технологии значительно перевесят её вред. Он также отметил, что предотвращение всех инцидентов или вредоносных способов использования не является реалистичной целью.
Эти заявления противопоставляют его позицию более жёстким требованиям замедлить разработку моделей или прекратить создание наиболее передовых систем. Согласно материалам, Альтман заявил о поддержке идеи замедлить разработку, предложенной Дарио Амодеи, генеральным директором компании Anthropic.
Независимая оценка и безопасность
По данным одного из журналистских источников, Альтман заявил, что согласен с идеей предпринять шаг, связанный с независимой оценкой. Доступные материалы не содержат подробностей о форме этого шага, его масштабе или сроках реализации.
В другом материале также передавалось, что Альтман подтвердил: безопасность и соответствие целям человека должны развиваться параллельно с возможностями моделей. В то же время отставка одного из сотрудников команды систем безопасности OpenAI вызвала споры о темпах разработки и достаточности процедур компании.
Международный надзор и регулирование
Обсуждение, в котором фигурировал Альтман, связано с более широкими вопросами, включая роль независимых аудиторов, надзор за передовыми моделями и возможность установления общих стандартов между странами. Доступные свидетельства не содержат заявления о введении обязательной международной системы или полностью разработанной исполнительной политики, в утверждении которой участвовал Альтман.
Что можно подтвердить на основании доступных материалов?
- Альтман — генеральный директор OpenAI.
- Он заявил о поддержке идеи замедлить разработку искусственного интеллекта в рамках отраслевой дискуссии.
- Его имя связывают с идеей предпринять шаг в отношении независимой оценки.
- Он считает, что некоторые риски искусственного интеллекта могут быть приемлемыми по сравнению с его преимуществами, признавая при этом необходимость реагировать на инциденты.