Следите за последними материалами, объяснениями и связанными технологическими историями.
Исследовательская работа Anthropic показала, что автоматизированные системы смогли улучшить показатели модели по 10 тестам поведения, не соответствующего целям согласования, без снижения общей производительности. Предварительные результаты указывают на возможность автоматизировать часть исследований в области согласования, при этом качество критериев и исследовательских данных остается основным ограничением.