Следите за последними материалами, объяснениями и связанными технологическими историями.
CISA, NSA и FBI заявили, что шесть китайских компаний в сфере искусственного интеллекта с конца 2024 года проводили масштабные операции по извлечению выходных данных передовых американских моделей с помощью миллиардов токенов и миллионов запросов. Ведомства рекомендуют улучшить мониторинг злоупотреблений API и обмениваться между компаниями индикаторами этих кампаний.
Abliteration.ai предоставляет доступ к модифицированным версиям моделей с открытыми весами после удаления механизмов отказа, обосновывая это необходимостью дать командам по кибербезопасности возможность имитировать поведение злоумышленников. Однако одновременно сервис открывает более широкие возможности для использования этих моделей во вредоносных целях — на фоне отсутствия механизма проверки личности клиентов и незавершённости мер ответственности.