メインコンテンツまでスキップ

評価基準(Evaluators & LLM Judges)

ステータス

Owner: TBD · ステータス: draft · 正規ソース: flezi.app.frontend.main/src/pages/Evaluators.tsx

対象者​

自動採点の方法を設計する AI エンジニア(AI_BUILDER)。

できること​

  • LLM-as-a-judge 技術を使用する自動評価セットを作成する(より高性能な AI モデルを使用して Agent の回答を採点)。
  • 明確な rubric 基準とともに、評価尺度(1~5 星または Pass / Fail)を定義する。
  • 評価者の prompt をカスタマイズし、企業固有の観点(例:ブランドのトーンへの準拠、セキュリティポリシー違反の有無)を測定する。

Evaluator を作成する手順​

  1. Governance モジュールで Evaluators を選択します。
  2. Create Evaluator をクリックします。
  3. 評価基準の種類を選択します(Semantic Similarity、Hallucination Check、Tool Call Validity、Tone & Style)。
  4. 評価者モデル(例:GPT-4o)と採点指示 Prompt を設定します。
  5. Save Evaluator をクリックし、評価実行で使用できるようにします。

関連ページ​