Темы

Безопасность искусственного интеллекта

Обсуждение снижения вреда от искусственного интеллекта, управления агентами и моделями, а также определения приемлемого уровня риска.

Последние материалы

CN
OpenAI ограничивает доступ к интернету при обучении передовых моделей искусственного интеллекта

OpenAI ограничивает доступ к интернету при обучении передовых моделей искусственного интеллекта

Компания OpenAI объявила о прекращении прямого доступа к интернету во время обучения своих передовых моделей для повышения стандартов безопасности и предотвращения неконтролируемого поведения интеллектуальных агентов.

CN
Федеральная торговая комиссия США расследует деятельность OpenAI и Anthropic в связи с ущербом и инцидентами безопасности ИИ

Федеральная торговая комиссия США расследует деятельность OpenAI и Anthropic в связи с ущербом и инцидентами безопасности ИИ

Федеральная торговая комиссия США начала расследование инцидентов безопасности, связанных с агентами Anthropic и OpenAI, запросив документы об инцидентах, мерах защиты и маркетинговых материалах. Расследование может проложить путь к применению законов о защите потребителей и раскрытии утечек данных для привлечения компаний к ответственности.

CN
Сэм Альтман призывает принять некоторые риски искусственного интеллекта ради его преимуществ

Сэм Альтман призывает принять некоторые риски искусственного интеллекта ради его преимуществ

Сэм Альтман заявил, что распространение искусственного интеллекта неизбежно приведёт к некоторым взломам, мошенничеству и злоупотреблениям, однако, по его мнению, его преимущества значительно перевесят вред. Его заявления прозвучали на фоне критики позиции OpenAI по вопросам безопасности и усиливающегося регуляторного давления в США.

CN
Генеральный директор Anthropic призывает компании, занимающиеся искусственным интеллектом, замедлить темпы разработки

Генеральный директор Anthropic призывает компании, занимающиеся искусственным интеллектом, замедлить темпы разработки

Dario Amodei призвал компании, занимающиеся искусственным интеллектом, снизить скорость разработки возможностей моделей, предупредив о рисках потери контроля над ними и их использования в кибератаках и биотерроризме. Sam Altman и Elon Musk поддержали призыв, а Amodei предложил план из трёх этапов для усиления координации и надзора.