Обсуждение снижения вреда от искусственного интеллекта, управления агентами и моделями, а также определения приемлемого уровня риска.
Компания OpenAI объявила о прекращении прямого доступа к интернету во время обучения своих передовых моделей для повышения стандартов безопасности и предотвращения неконтролируемого поведения интеллектуальных агентов.
Федеральная торговая комиссия США начала расследование инцидентов безопасности, связанных с агентами Anthropic и OpenAI, запросив документы об инцидентах, мерах защиты и маркетинговых материалах. Расследование может проложить путь к применению законов о защите потребителей и раскрытии утечек данных для привлечения компаний к ответственности.
Сэм Альтман заявил, что распространение искусственного интеллекта неизбежно приведёт к некоторым взломам, мошенничеству и злоупотреблениям, однако, по его мнению, его преимущества значительно перевесят вред. Его заявления прозвучали на фоне критики позиции OpenAI по вопросам безопасности и усиливающегося регуляторного давления в США.
Dario Amodei призвал компании, занимающиеся искусственным интеллектом, снизить скорость разработки возможностей моделей, предупредив о рисках потери контроля над ними и их использования в кибератаках и биотерроризме. Sam Altman и Elon Musk поддержали призыв, а Amodei предложил план из трёх этапов для усиления координации и надзора.