ユーザーがAIエージェントに対して危険なシェルコマンド(rm等)やファイル編集を無制限に許可するポリシーを設定した場合、その危険性を自動検出して警告し、誤った設定による予期しない操作の実行を防ぐシステムが必要。
まだコメントはありません