Термины

Галлюцинация ИИ

Создание системой искусственного интеллекта неверного или вводящего в заблуждение ответа, иногда сформулированного уверенно.

Последние материалы

CN
Почему команды реагирования на инциденты также должны тестировать инструменты искусственного интеллекта?

Почему команды реагирования на инциденты также должны тестировать инструменты искусственного интеллекта?

Искусственный интеллект внедрил в основу реагирования на инциденты такие задачи, как сортировка оповещений, извлечение операционных инструкций и предложение ответных действий, однако симуляционные учения по-прежнему в основном сосредоточены на людях. Материал призывает проверять галлюцинации систем, их отказы, пределы защитных барьеров и способность команд работать без них.

CN
Опасения по поводу конфиденциальности и точности препятствуют внедрению медицинского ИИ пациентами

Опасения по поводу конфиденциальности и точности препятствуют внедрению медицинского ИИ пациентами

Исследование, проведённое Wolters Kluwer совместно с Ipsos, показывает, что опасения по поводу конфиденциальности данных, предвзятости моделей и галлюцинаций делают американских пациентов менее готовыми использовать искусственный интеллект для задач, требующих персональных медицинских данных. Около 89% из них требуют человеческого контроля над медицинскими ответами, которые генерирует ИИ.

CN
Белый дом запускает America.gov для использования искусственного интеллекта в доступе к государственным услугам

Белый дом запускает America.gov для использования искусственного интеллекта в доступе к государственным услугам

Президент США Дональд Трамп объявил о запуске America.gov — чат-интерфейса, призванного упростить доступ к информации и государственным услугам, при участии Google и модели Gemini; согласно представителю правительства, также используется Grok. Проект вызывает вопросы о рисках галлюцинаций, когда пользователи полагаются на ответы модели при оформлении виз, уплате налогов и получении пособий.

CN
FDA финансирует проверку использования языковых моделей для оценки созданных ИИ радиологических отчётов

FDA финансирует проверку использования языковых моделей для оценки созданных ИИ радиологических отчётов

Управление по санитарному надзору за качеством пищевых продуктов и медикаментов США (FDA) предоставило компании Cognita Imaging исследовательский контракт стоимостью 1,29 млн долларов для проверки способности группы больших языковых моделей оценивать радиологические отчёты, создаваемые системами искусственного интеллекта. Проект направлен на измерение галлюцинаций и пропусков, а также на выявление случаев, требующих проверки радиологом.

CN
Практическое руководство по пониманию языка искусственного интеллекта: от языковых моделей до «непрозрачного рассуждения»

Практическое руководство по пониманию языка искусственного интеллекта: от языковых моделей до «непрозрачного рассуждения»

Материал объединяет и объясняет широкий набор терминов, ставших основополагающими для понимания моделей искусственного интеллекта, их архитектуры, а также способов их обучения и эксплуатации. В нём также освещаются более новые понятия, такие как агенты, протокол MCP и непрозрачное рассуждение, с разъяснением связанных с ними ограничений и рисков.