평가자 (Evaluators)

가드레일을 붙였다면 다음 질문은 하나입니다. “그래서 좋아졌는가?” 평가자(evaluator)는 이 질문에 숫자로 답하는 장치입니다. 평가 없이 가드레일을 운영하는 것은 로그 없이 방화벽을 운영하는 것과 같습니다 — 뭔가 막고 있다는 느낌만 있고, 무엇을 막았고 무엇을 놓쳤는지는 모릅니다.

평가자는 크게 두 갈래입니다.

핵심 지표 네 가지

    flowchart TB
    Q["질문"] --> RET["검색"]
    RET --> CTX["근거 문서"]
    CTX --> GEN["생성"]
    Q --> GEN
    GEN --> ANS["답변"]
    GT["정답(ground truth)"] -.비교.-> ANS

    CTX -.->|"Context Relevance\n검색이 질문에 맞았나"| M1["검색 품질"]
    ANS -.->|"Faithfulness\n답변이 근거에 충실한가"| M2["생성 충실도"]
    ANS -.->|"Answer Relevancy\n답변이 질문에 답했나"| M3["응답 적합성"]
    ANS -.->|"SAS\n정답과 의미가 같은가"| M4["정답 일치도"]

    classDef m fill:#e8f5e9,stroke:#2e7d32,color:#1b5e20;
    class M1,M2,M3,M4 m;
  

Faithfulness (충실도) — LLM-as-a-Judge

답변이 주어진 근거 문서에서 도출되는가를 판정합니다. 계산 방식은 대체로 다음과 같습니다.

1. 답변을 개별 주장(claim) 단위로 쪼갠다.
2. 각 주장이 근거 문서에서 추론 가능한지 LLM에게 판정시킨다.
3. 충실도 = 근거로 뒷받침되는 주장 수 / 전체 주장 수

정답(ground truth)이 필요 없다는 것이 실무적으로 결정적입니다. 정답 데이터셋 없이도 운영 트래픽에 그대로 적용해 환각을 잡아낼 수 있습니다.

Context Relevance (문맥 관련성)

검색된 문서가 질문과 관련이 있는가를 판정합니다. 생성 품질이 나쁠 때 원인이 “검색"인지 “생성"인지를 가르는 핵심 진단 지표입니다.

• Context Relevance 낮음 + Faithfulness 높음 → 검색 문제. 청킹·임베딩·리랭킹을 손봐야 합니다.
• Context Relevance 높음 + Faithfulness 낮음 → 생성 문제. 프롬프트·모델·환각 탐지를 손봐야 합니다.

SAS (Semantic Answer Similarity)

예측 답변과 정답의 의미적 유사도를 크로스 인코더로 계산하는 모델 기반 지표입니다. 단어가 하나도 겹치지 않아도 뜻이 같으면 높은 점수가 나오므로, 문자열 일치(Exact Match)나 F1보다 실제 품질과 상관이 높습니다.

정답 데이터셋이 필요하므로 운영 모니터링이 아니라 배포 전 회귀 테스트에 씁니다. LLM 호출이 없어 대규모 데이터셋에도 저렴하게 돌릴 수 있습니다.

RAGAS

Ragas는 RAG 파이프라인 평가에 특화된 오픈소스 프레임워크로, 위 지표들을 묶어 제공합니다.

from ragas import evaluate
from ragas.metrics import faithfulness, answer_relevancy, context_precision, context_recall
from datasets import Dataset

data = Dataset.from_dict({
    "question":   ["환불 기한은 며칠인가요?"],
    "answer":     ["구매일로부터 14일 이내에 환불이 가능합니다."],
    "contexts":   [["환불은 구매일로부터 14일 이내에 신청할 수 있습니다."]],
    "ground_truth": ["14일"],
})

result = evaluate(data, metrics=[faithfulness, answer_relevancy, context_precision, context_recall])
print(result)

Haystack의 내장 평가자

Haystack은 이 지표들을 파이프라인 컴포넌트로 제공하므로, 평가를 별도 스크립트가 아니라 파이프라인의 일부로 조립할 수 있습니다.

from haystack.components.evaluators import FaithfulnessEvaluator, SASEvaluator

faith = FaithfulnessEvaluator()
print(faith.run(
    questions=["환불 기한은?"],
    contexts=[["환불은 구매일로부터 14일 이내."]],
    predicted_answers=["14일 이내에 가능합니다."],
))

sas = SASEvaluator(model="sentence-transformers/paraphrase-multilingual-mpnet-base-v2")
sas.warm_up()
print(sas.run(ground_truth_answers=["14일"], predicted_answers=["이 주일"]))

평가를 운영에 붙이는 방법

평가 데이터셋은 한 번 만들고 끝나는 것이 아니라, 레드팀에서 뚫린 사례와 운영에서 발견된 실패를 계속 흡수하며 자라는 자산입니다. 이 데이터셋의 축적 여부가 조직의 AI 보안 성숙도를 가르는 실질적인 차이입니다.

더 살펴보기

• 환각과 탐지 — 런타임 탐지와 오프라인 평가의 역할 구분
• 가드레일 프레임워크 — Haystack 파이프라인에 평가자 조립하기
• Lab 11: 가드레일 파이프라인 실습