メインコンテンツまでスキップ

Agent のガバナンス (Agent Governance)

ステータス

担当者: Tech lead · ステータス: draft · 正式な情報源: flezi.app.ai.agent/docs/governance/agt-policy-overview.md

このドキュメントでは、自律型 AI Agent の安全性を確保し、AGT Policy と ToolGuard を通じてデータ漏えいや破壊的な操作の実行を防止する技術的な仕組みを説明します。

ToolGuard 保護レイヤー​

Agent がツール (Tool Call) の呼び出しを決定しても、その呼び出しは直ちには実行されず、独立した検査レイヤーである ToolGuard の審査を通過する必要があります。

動的パラメーターガード (Dynamic Parameter Guard)​

ToolGuard は、各パラメーターに対する正規表現と JSON Schema の検証をサポートします。

  • データベースの query ツールにおける SQL Injection を防止します。
  • sandbox のファイル読み書きツールにおける Path Traversal (../) を防止します。
  • 危険な shell コマンド (rm -rf、mkfs、fork bomb) を防止します。

現在の対策​

  • AGT Policy YAML は agent-governance-toolkit==4.1.0 によって検証されます。
  • データまたは金銭的な損害につながる可能性があるすべての操作に、Human-in-the-loop (HITL) を必須とします。

証跡 (file / config)​

  • flezi.app.ai.agent/app/governance/
  • flezi.app.api.backend/app/features/policies/validator.py

制限事項とロードマップ​

  • モデルに渡す前に、ユーザー入力データから prompt injection を検出する AI Guardrails を追加で統合します。