Следите за последними материалами, объяснениями и связанными технологическими историями.
Практический эксперимент показывает, что ограничение полномочий ИИ-агента в соответствии с задачей уменьшает масштаб потенциального ущерба, практически не влияя на выполнение задач, тогда как фиксированные роли полномочий могут оказаться слишком широкими в одних случаях и недостаточными в других. В материале делается вывод, что принцип наименьших привилегий остаётся наиболее стабильной линией защиты несмотря на изменения модели или инструкций.
GitHub запустила открытый бенчмарк ReviewBench для оценки агентов проверки кода на основе 219 запросов на слияние из 187 репозиториев и 19 языков программирования, с метриками, различающими обнаружение известных и новых проблем. Компания заявляет, что его офлайн-результаты отразили тенденции производственных экспериментов с Copilot Code Review, однако реальные пользовательские испытания остаются окончательным критерием оценки.