Bewertung des Modellverhaltens über ein vollständiges Gespräch mit mehreren Runden hinweg, in dem sich der Kontext ändert und das Risiko zunehmen kann.
Anthropic hat ein Förderprogramm im Umfang von 5 Millionen US-Dollar gestartet, um unabhängige und quelloffene Forschung zur Messung der Auswirkungen von KI-Systemen auf das Wohlbefinden der Nutzer zu finanzieren. Das Programm konzentriert sich auf mehrstufige Gespräche, Krisen der psychischen Gesundheit sowie die Risiken übermäßiger Zustimmung oder übermäßiger Ablehnung.