Следите за последними материалами, объяснениями и связанными технологическими историями.
Circuit Breaker Labs тестирует модели искусственного интеллекта с помощью агентов, имитирующих пользователей разного возраста, культуры и языка, чтобы выявлять взаимодействия, способные привести к психологическому вреду. В настоящее время компания ориентируется на приложения для обучения, ведения дневников и психологической поддержки на основе ИИ.
Anthropic сотрудничает с Accenture для проведения независимых оценок и тестирования на проникновение передовых моделей искусственного интеллекта изнутри компании; при этом ожидается, что каждая из сторон инвестирует не менее одного миллиарда долларов в течение пяти лет. Инициатива демонстрирует новую модель надзора, однако в ней по-прежнему отсутствуют устоявшиеся стандарты доступа, финансирования и отчетности.