каппа Коэна.

LLM-судье нельзя верить на слово: как построить надёжный гейт и проверить сами тесты

В одном из проектов я строил систему оценки ответов с двумя контурами. Первый был скучным и предсказуемым: нормализовать результат и сравнить его с эталоном. Второй использовал LLM как судью и оценивал смысл ответа целиком.Каппа Коэна

продолжить чтение