【ハーネス実践】権限モードとサンドボックス|「全部許可は怖い、毎回確認は面倒」を解く

【ハーネス実践】権限モードとサンドボックス|「全部許可は怖い、毎回確認は面倒」を解く AIエージェント

コーディングエージェントを使い始めると、すぐにぶつかるのが「確認ダイアログ」です。ファイルを書き換えるたび、コマンドを実行するたびに「実行してよいですか?」と聞かれる。最初は一つずつ読んでいても、10 回、20 回と続くうちに、中身を見ないまま「はい」を押すようになってしまいます。

かといって、「全部許可」にするのは怖いですよね。頼んだのはテストの修正なのに、関係のないファイルを消されたり、設定を勝手に書き換えられたりしたらどうしよう。毎回確認するのは面倒、でも全部任せるのは不安。

この悩みは、エージェントの「やる気」や「賢さ」の問題ではなく、エージェントの外側の仕組み、つまりハーネス(モデルの周りで、使える道具・見せる情報・許す操作を決める部分)の設定で大きく変わります。本記事では、権限ルール・承認・サンドボックスの 3 つを組み合わせて、「怖くない、でも面倒でもない」状態を作る方法を、研究と各ツールの公式ドキュメントから整理します。シリーズ第 3 回。H1 で示した部品の地図でいう「安全と権限」の話です。

3 つの守り方とは

エージェントに何を許すかを決める仕組みは、大きく 3 つに分けられます。

一つ目は 権限ルール です。「このコマンドは確認なしで実行してよい」「このファイルは読ませない」のように、操作の種類ごとに許可・確認・禁止をあらかじめ決めておきます。

二つ目は 承認 です。ルールで決まっていない操作をするとき、人に確認するのか、自動で判定するのか、確認せずに進めるのかを決めます。多くのツールでは、これを「権限モード」や「承認ポリシー」と呼んでいます。

三つ目は サンドボックス です。サンドボックスとは、OS の機能を使って、コマンドが触れるファイルやネットワークの範囲を外から囲い込む仕組みです。エージェントの判断が間違っても、囲いの中のコマンドは外に届きません。ただし囲う範囲は製品ごとに違い、Codex はファイル操作もコマンドも囲う一方、Claude Code はシェルのコマンドを囲い、組み込みのファイル操作は権限ルールで制御します。

この 3 つは役割が違います。権限ルールと承認は「エージェントが何をしようとしたか」を見て止める仕組み、サンドボックスは「何をしようとしても、ここから先には届かない」ようにする仕組みです。OWASP の「LLM アプリケーションの 10 大リスク」も、AI に任せすぎることで起きる被害を「過剰なエージェンシー」と呼び、影響の大きい操作には人の承認を求めるよう勧めています(OWASP「LLM06:2025 Excessive Agency」)。AI×セキュリティの視点での権限設計は AIエージェントとMCPの権限設計の記事 でも扱いました。

📄 論文: 頼んでいないことまでやってしまう頻度を測る

Overeager Coding Agents: Measuring Out-of-Scope Actions on Benign Tasks(Yubin Qu ほか、2026年5月、arXiv:2605.18583)は、査読前の論文(プレプリント)です。

この研究が扱うのは、悪意のない普通の依頼で、エージェントが頼まれた範囲を超えてしまう行動です。関係のないファイルを消す、頼まれていない設定を書き直す、といったものです。研究チームはこれを、能力不足やプロンプトインジェクション(悪意ある指示を紛れ込ませる攻撃)とは別の「権限の問題」と位置づけ、検証済みの 500 のシナリオで、4 つのエージェント製品と 6 つのモデルを組み合わせて約 7,500 回実行しました。

結果で目を引くのは、差を一番大きく左右したのがモデルではなく、エージェントの枠組み(ハーネス)だったことです。このベンチマークの設定では、許可の緩い群に分類された 3 製品で 5.4〜27.7%、続ける前に人に確認する型の 1 製品で 0.2〜4.5% でした。同じ枠組みの中でもモデルによる差はありましたが、モデル側の安全対策だけでは、許可が緩い仕組みを通したときに十分に効かないことが示されています。

現場にとっての意味は、「頼んでいないことをしない」ことをモデルの良識に任せず、ハーネスの設定で担保すべきだということです。

📄 論文: 自動承認の仕組みに負荷をかけて試す

Measuring the Permission Gate: A Stress-Test Evaluation of Claude Code’s Auto Mode(Zimo Ji ほか、2026年4月、arXiv:2604.04978)は、査読前の論文(プレプリント)です。

確認の手間を減らす方法の一つが、人の代わりに AI の判定器が「この操作は危険か」を見て、問題なければ自動で通す「自動承認」です。この研究は、ある製品の自動承認モードを、意図ははっきりしているが対象の範囲や影響の大きさがあいまいな依頼で、外部から負荷試験しました。運用系の作業 128 件の依頼を使い、エージェントが行った状態を変える操作を 1 つずつ正解と照らし合わせています。

その結果、止めるべき操作を通してしまった割合は全体で 81.0% でした。著者は、これは開発元が公表している本番環境での値とは負荷の種類がまったく違うためで、矛盾ではないと明記しています。もう一つの発見は、状態を変える操作の 36.8% が、プロジェクト内のファイル編集として判定の対象外になっていたことです。判定器は「危険な操作はシェルのコマンドとして実行される」という前提に立っていますが、エージェントはコマンドが使えないとき、設定ファイルを直接書き換えて同じ結果を出すことがありました。

1 つの製品を対象にした評価ですが、読み取るべきは特定製品の欠点ではなく、「見える操作だけを判定する仕組み」一般の限界です。Claude Code のドキュメントは自動モードが安全を保証するものではないと注意し(Claude Code「Choose a permission mode」)、Codex のドキュメントは自動のレビューの対象は承認が必要な操作だけで、サンドボックスの内側の操作はそのまま進むと説明しています(Codex「Agent approvals & security」)。現場にとっての意味は、自動承認はサンドボックスと重ねて使い、ファイルの変更はバージョン管理の差分で確かめる前提にすることです。

📄 論文: 権限を「狭めるのは自動、広げるのは人」にする

Progent: Securing AI Agents with Privilege Control(Tianneng Shi ほか、2025年4月、arXiv:2504.11703)は、査読前の論文(プレプリント)です。

この研究は、エージェントの権限を「どのツールを、どんな引数でなら呼んでよいか」という記号的なルールの集まりとして表し、すべてのツール呼び出しを決まった手順で機械的に検査する枠組みを提案しています。最初のルールはタスクの内容から LLM が自動で作り、作業の途中で新しい情報が入ると更新します。ポイントは更新の扱いで、提案された変更が権限を「狭める」ものなら自動で適用し、「広げる」ものなら人の明示的な承認を必要とします。こうすると、人が承認しない限り、エージェントにできることは減る一方になります。研究チームは、既存のベンチマークで、攻撃の成功率を大きく下げつつ、タスクをこなす力を保てたと報告しています。

現場にとっての意味は、承認疲れへの一つの答えとして「すべてを聞く」のではなく「広げるときだけ聞く」設計がありうることです。今のツールでも、許可は具体的に、禁止は広めに書くことで、この考え方に近づけられます。

実践:権限は「狭く始めて、囲いの中で広げる」

研究と公式ドキュメントを合わせると、始め方は次の順番が基本の型になります。

  1. まずは読み取り専用で試す
    最初の数日は、エージェントに読むことと提案することだけをさせます。各ツールには、ファイルを書き換えない読み取り専用のモードや、計画だけを立てるモードがあります。
  2. よく使う安全な操作だけを許可ルールに入れる
    テストや lint の実行、差分の確認など、毎回許可している操作は、具体的なコマンドとして許可ルールに書きます。外部に影響する操作(リモートへの送信など)は「確認する」に、秘密情報のファイルの読み取りは「禁止」に入れます。ワイルドカード(任意の文字列に一致する記号)は広く一致しがちなので注意します。
  3. サンドボックスを有効にして、その内側で任せる範囲を広げる
    作業フォルダの中だけ書き込みを許し、ネットワークは止めるか、宛先を絞れるツールなら必要な宛先だけにします。囲いの内側の操作は確認なしで進めてよい、という設定にすれば、確認の回数は大きく減ります。
  4. 自動承認は「重ねる」ものとして使う
    自動承認を使う場合も、サンドボックスを外さず、ファイルの変更は作業後に差分で確認します。確認もサンドボックスも外すモードは、使い捨てのコンテナや仮想マシンの中だけにとどめます。
  5. ルールは月に一度見直す
    「一度だけ許可」を重ねていると、許可ルールは知らないうちに増えていきます。チームで共有している設定ファイルと、個人の設定を定期的に見直しましょう。

Claude Code の .claude/settings.json の例:

{
  "permissions": {
    "allow": [
      "Bash(pnpm lint)",
      "Bash(pnpm test *)",
      "Bash(git status)",
      "Bash(git diff *)"
    ],
    "ask": [
      "Bash(git push *)"
    ],
    "deny": [
      "Read(./.env)",
      "Read(./.env.*)",
      "Read(./secrets/**)"
    ]
  }
}

(設定の書き方は 2026-10-01 時点の公式ドキュメント Claude Code「Configure permissions」 で確認。仕様は変わるため、使う前に最新の公式ドキュメントを確認してください)

なお、この読み取り禁止は、自分でファイルを開くスクリプトなどには効きません。確実に守るには、サンドボックスの読み取り制限も併用します。

Codex CLI の ~/.codex/config.toml の例:

# ~/.codex/config.toml
approval_policy = "on-request"
sandbox_mode = "workspace-write"

[sandbox_workspace_write]
network_access = false

(設定の書き方は 2026-10-01 時点の公式ドキュメント Codex「Agent approvals & security」 で確認。仕様は変わるため、使う前に最新の公式ドキュメントを確認してください)

なお、締めすぎにも代償があります。企業でよくある制限を段階的にかけて 12 のエージェントを評価した研究では、最も厳しい設定で成功率が最大 18.3 ポイント下がり、失敗は早めに止まらず時間切れや誤った解答に至る形で、その内訳はモデルによって違いました(Dotan Davidovich ほか、2026年8月、査読前の論文、arXiv:2608.02670)。「必要な分だけ」を探るつもりで、少しずつ調整してください。

各ツールで設定する場所は次のとおりです。

項目Claude CodeCodex CLIGemini CLIGitHub Copilot
許可・確認・禁止のルールpermissions の allow / ask / deny(Configure permissions)rules の prefix_rule(サンドボックスの外で動かすコマンドが対象)(Rules)ポリシーエンジンの allow / deny / ask_user(Policy engine)Copilot CLI の --allow-tool / --deny-tool(About GitHub Copilot CLI)
承認のモード権限モード(default・acceptEdits・plan・auto・dontAsk・bypassPermissions)(Choose a permission mode)approval_policy(いつ確認するか)・approvals_reviewer(人か自動レビューか)(Agent approvals & security)--approval-mode(default・auto_edit・plan・yolo)(Configuration)Copilot CLI の権限確認と --allow-all-tools(About GitHub Copilot CLI)
サンドボックスサンドボックス化した Bash ツール(/sandbox)(Sandboxing)sandbox_mode(read-only・workspace-write・danger-full-access)(Sandboxing)--sandbox・tools.sandbox(Sandboxing in Gemini CLI)Copilot CLI のローカル・クラウドのサンドボックス(パブリックプレビュー)、Copilot cloud agent(旧 coding agent)のファイアウォール(About GitHub Copilot CLI、Customizing the firewall)
フォルダーの信頼ワークスペースの信頼(Configure permissions)trust_level(Agent approvals & security)Trusted Folders(Trusted Folders)Trusted directories(About GitHub Copilot CLI)

2026 年 10 月時点の各社公式ドキュメントに基づく。仕様は変わるため最新の公式ドキュメントを確認してください。

表では 4 ツールの「ルール・承認・囲い」にあたる機能を並べましたが、同じ行の機能が同じ範囲に効くわけではありません。たとえば Copilot のファイアウォールは cloud agent の実行環境向けです。サンドボックスが既定で有効か、シェルのコマンドだけを囲うかもツールごとに違います。

筆者の現場では:禁止ルールと、自動の許可判定に止められた操作

筆者のチームでは、エージェントに多くの作業を任せる一方、取り返しのつかない操作は設定の禁止ルールに入れています。チームで共有する .claude/settings.json の deny にあるのは、次の 2 つだけです。

"deny": [
  "Bash(gh issue delete:*)",
  "Bash(gh pr merge:*)"
]

マージをエージェントに禁じているのは、検査の中身やセキュリティに関わる変更のマージを人が判断する、と決めているためです。禁止を少数に絞り、その代わり例外なく効かせる、という使い方です。

一方で、自分たちで書いたルールとは別に、自動の許可判定に止められたこともあります。複数の Issue をまとめて処理させていたとき、レビューの結果を PR にコメントで投稿する操作が一斉に止められました。理由は「ユーザーが依頼した作業と関係の薄い外部システムへの書き込み」というものでした。同じ流れの中で別のエージェントが作った PR でも、投稿する側から見ると「自分が作っておらず、名指しもされていない PR」です。メインのエージェントが代わりに投稿しようとしても止まりました。判定の軸は「誰が投稿するか」ではなく、「その会話で頼まれた作業と、書き込み先がどれだけ近いか」だったのです。止められたままだと、レビューの記録が黙って失われます。そこで、手分けして動くエージェントには外部へ一切書き込ませず、投稿すべき内容を一覧にして返させ、メインのエージェントが順に実行する形にしました。それでも止まるときは、人が「この PR をレビューして」と明示して頼むか、内容を人が貼り付けます。

2026 年 10 月 19 日には、公開中のサイトへの書き込みが止められました。この場合は回避の方法を探さず、エージェントには原稿を作るところまでを任せ、人が中身を確かめてから手元で実行する形に切り替えました。

止められたときに大事なのは、すり抜け方を探すことではなく「その操作は誰が実行すべきか」を考え直すことです。自動の判定は理由を示さないこともあるので、止められた操作は記録に残しておくと、仕組みを見直すときの材料になります。

権限とサンドボックスの鍵は次の3点です

  1. 頼んでいない操作は、モデルではなくハーネスで止める
    研究では、範囲外の操作の頻度を一番左右したのはモデルではなく枠組みでした。許可ルールとサンドボックスで、そもそも届かない状態を作りましょう。
  2. 自動承認とサンドボックスは重ねて使う
    自動の判定には、見えない操作や判定の対象外になる操作があります。囲いとバージョン管理の差分確認を外さないようにしましょう。
  3. 狭く始めて、広げるときだけ人が判断する
    読み取り専用から始め、よく使う安全な操作だけを具体的に許可します。権限を広げる変更は人が確認し、定期的に見直しましょう。

まとめ:確認の回数ではなく、囲いの設計で安心しよう!

「全部許可は怖い、毎回確認は面倒」という悩みは、確認ダイアログの押し方を工夫するだけでは解けません。

大切なのは、確認の回数を減らすことと、安全を手放すことを切り離すことです。サンドボックスで囲いを作り、その内側では任せ、外に出るときだけ人が判断する。まずは、いま使っているツールで、サンドボックスが有効になっているか、許可ルールに広すぎるものがないかを確認してみましょう!

次回は、指示ファイルの「お願い」を確実な「強制」に変えるフックを扱います。シリーズの一覧は /?p=209 へ。

参考文献

タイトルとURLをコピーしました