Подход, при котором модели используют другие системы для итеративного улучшения методов своего обучения или поведения.
В отчёте, подготовленном при участии более 20 исследователей и специалистов, предупреждается, что автоматизация исследований и разработок в области искусственного интеллекта может ускорить развитие систем до такой степени, что способность людей контролировать их ослабнет. Согласно прогнозу отчёта, к 2028 году некоторые исследовательские проекты, занимающие месяцы, могут быть полностью автоматизированы. Авторы призывают к независимому надзору и разработке чрезвычайных планов до того, как окно для действий сузится.
Исследовательская работа Anthropic показала, что автоматизированные системы смогли улучшить показатели модели по 10 тестам поведения, не соответствующего целям согласования, без снижения общей производительности. Предварительные результаты указывают на возможность автоматизировать часть исследований в области согласования, при этом качество критериев и исследовательских данных остается основным ограничением.