Следите за последними материалами, объяснениями и связанными технологическими историями.
Два должностных лица Министерства обороны США предупредили, что задержка с обновлением цифровой инфраструктуры Пентагона сделала её более уязвимой для крайне разрушительных кибератак на фоне ускоряющегося развития искусственного интеллекта. Материал опирается на отчёт, опубликованный Washington Post, при этом независимые технические подробности о характере уязвимостей или предполагаемых атаках не приводятся.
В авторской статье рассматривается предупреждение Dario Amodei, генерального директора Anthropic, о том, что рои агентов искусственного интеллекта могут в течение 6–12 месяцев причинить огромный экономический ущерб, если их возможности будут развиваться без достаточных ограничений. Статья представляет это предупреждение как возможность, основанную на инциденте OpenAI–Hugging Face, а не как подтверждённый прогноз.
TechCrunch рассматривает участившиеся предупреждения о том, что искусственный интеллект может представлять экзистенциальную угрозу для человечества, а также вопрос о том, вызваны ли эти предупреждения реальными опасениями или одновременно превращаются в способ демонстрации возможностей моделей и повышения стоимости компаний. В обсуждении поднимаются вопросы контроля компаний над своими моделями и влияния этой риторики на возможное IPO Anthropic.
Anthropic заявила, что выявила использование принадлежащих ей моделей искусственного интеллекта в деятельности, которая может способствовать разработке биологического оружия, включая планирование экспериментов по адаптации птичьего гриппа к млекопитающим и компьютерное перепроектирование токсинов. Компания объявила о блокировке соответствующих аккаунтов и усилении профилактических мер, подчеркнув, что выявление таких случаев не обязательно свидетельствует о преступных намерениях их участников.