Untersuchung der Auswirkungen von KI-Systemen auf das Wohlbefinden der Nutzer, einschließlich emotionaler Unterstützung und psychischer Risiken.
Anthropic hat ein Förderprogramm im Umfang von 5 Millionen US-Dollar gestartet, um unabhängige und quelloffene Forschung zur Messung der Auswirkungen von KI-Systemen auf das Wohlbefinden der Nutzer zu finanzieren. Das Programm konzentriert sich auf mehrstufige Gespräche, Krisen der psychischen Gesundheit sowie die Risiken übermäßiger Zustimmung oder übermäßiger Ablehnung.