Следите за последними материалами, объяснениями и связанными технологическими историями.
Дэвид Робинсон ушёл из команды систем безопасности OpenAI, раскритиковав культуру компании и скорость разработки её моделей и предупредив, что неограниченный оптимизм может повысить риски взаимодействия с чрезвычайно мощными системами. В OpenAI заявляют, что при необходимости приостанавливают обучение или откладывают запуск, а также расширяют внешнюю оценку и мониторинг в реальном времени.
Дэвид Робинсон, руководивший подготовкой сопроводительных отчётов по безопасности для крупных запусков OpenAI, ушёл в отставку, заявив, что культура компании не предоставляет безопасности необходимого времени и стимулов. В OpenAI ответили, что усиливают защиту исследовательской и тестовой сред, расширяют мониторинг и внешнюю оценку, а при необходимости могут остановить обучение или отложить выпуск моделей.