Термины

Immutable Audit Log

Следите за последними материалами, объяснениями и связанными технологическими историями.

Последние материалы

CN
Как построить безопасное управление системами LLM до их подключения к данным и решениям

Как построить безопасное управление системами LLM до их подключения к данным и решениям

В четвёртой части серии Stack Overflow Blog объясняется, что переход систем больших языковых моделей от экспериментов к значимым применениям требует многоуровневых защитных механизмов, безопасно отказывающих при сбоях, обработки персональных данных на границах системы, защищённого от подделки журнала аудита и памяти с ограниченной областью действия. Также проводится различие между данными, поставляемыми вместе с системой, и данными, приобретаемыми ею во время работы, чтобы предотвращать утечки и неотслеживаемые изменения.

CN
Как сделать агентов искусственного интеллекта предсказуемыми в критически важных системах?

Как сделать агентов искусственного интеллекта предсказуемыми в критически важных системах?

Stack Overflow Blog предлагает ограничить языковую модель одним недетерминированным узлом, а остальную систему оставить обычному тестируемому коду. Методология включает фиксированные блок-схемы, структурированные выходные данные, независимую проверку, одобрение человеком и неизменяемый журнал каждого решения.