Die Verwendung eines anderen Sprachmodells zur Bewertung oder Einstufung von Systemausgaben, wobei für unklare Fälle oder Fälle mit großer Auswirkung eine menschliche Überprüfung erforderlich ist.
Susan Chang von Elastic erläutert, wie Teams von verstreuten Bewertungen für KI-Agenten zu einem einheitlichen Framework übergingen, das programmatische Bewertungen, LLM-as-a-judge und tiefgehendes Tracing kombiniert. Die Erfahrung zeigt, dass Automatisierung den Bedarf an Fachexperten nicht beseitigt, insbesondere beim Aufbau von Testdaten und bei der Kalibrierung von Metriken.
Aus der Erfahrung mit der Bewertung eines auf einem Sprachmodell basierenden Systems zur Verringerung von Fehlalarmen bei der Geheimnisprüfung leitet GitHub eine Reihe von Praktiken zur Bewertung von LLM-Systemen vor deren Produktionseinsatz ab. Die Erfahrung betont, Metriken mit einer Produktentscheidung zu verknüpfen, die tatsächliche Betriebsumgebung zu simulieren und Fehler zu analysieren. Dabei gilt die Offline-Bewertung als strukturierter Hinweis, nicht als Garantie für das Verhalten in allen Produktionsfällen.