Следите за последними материалами, объяснениями и связанными технологическими историями.
Anthropic заявила, что пять кампаний, связанных с китайскими компаниями в сфере искусственного интеллекта, попытались извлечь расширенные возможности из модели Claude через почти 200 миллионов взаимодействий. Среди них была кампания, приписываемая Alibaba, и другая — Moonshot AI. Компания считает, что эти методы могут использоваться для создания обучающих данных для конкурирующих моделей, хотя в отчёте изложены обвинения компании и в материале не представлены независимые доказательства в их подтверждение.
Ожидается, что модель Astra от OpenAI будет использовать технологию «рекуррентной глубины», которая обрабатывает запросы в повторяющихся циклах вместо обычной последовательности, что может сделать следы рассуждений менее понятными для наблюдателей. Компания заявляет, что использование технологии будет ограниченным и что она привержена сохранению читаемых цепочек рассуждений, однако исследователи безопасности ИИ предупреждают о её распространении.