AIに任せる前に決めておくこと。
AIエージェント導入で失敗しない「承認ポイント」の置き方

AIエージェントが「止まらずに動き続けた」問題から学ぶこと

AIエージェントとは、与えられた目標に向かって複数のタスクを自律的に実行するAIのことです。「問い合わせフォームへの返信を自動化する」「毎朝の売上レポートをまとめてSlackに投稿する」「競合サイトの情報を定期収集する」——こうした繰り返し業務を人間がひとつひとつ指示しなくても自動でこなしてくれます。

しかし「自律的に動く」という特徴は、裏返せば「人間が気づかない間にも処理を進め続ける」ということでもあります。たとえば、AIが誤ったメールアドレスのリストに向けてメルマガを自動送信してしまったり、テスト環境のつもりが本番環境のデータを上書きしてしまったりといった事故は、AIエージェントの普及に伴って実際に報告されるようになっています。

こうした問題への処方箋として注目されているのが「Human-in-the-Loop（ヒューマン・イン・ザ・ループ）」という考え方です。直訳すると「ループの中に人間を置く」——つまり、AIが処理を進めるフローの特定のポイントに人間の判断・確認を挟む設計のことです。

「承認ポイント」とは何か

承認ポイントとは、AIエージェントが次の処理に進む前に「人間が確認・承認する」ステップのことです。すべての処理に挟む必要はなく、「ここで間違いが起きたら影響が大きい」という箇所だけに絞るのが現実的な設計です。

承認ポイントを置くべきかどうかの判断基準

次の2つの軸で判断すると整理しやすくなります。

• 影響範囲（社外に出るか）：処理の結果が社外に届く場合（メール送信・発注・請求書発行など）は、誤りが取り返しにくいため承認ポイントを置くことを基本とします。社内での集計や下書き作成は、誤りがあっても後で修正できるため必須ではありません。
• 回復可能性（取り消せるか）：実行後に元に戻せない処理（送信済みメール・確定した発注・削除したデータなど）には承認ポイントを設けます。「ゴミ箱に入れる」程度であれば回復できるので、承認を省略しても許容できるケースが多くなります。

「影響が社外に出る」かつ「取り消せない」処理——この2条件が重なるところが、承認ポイントを置く最優先の場所です。

この基準で整理すると、代表的な承認ポイントは以下のようになります。

• メール・メッセージの送信確定前
• 発注書・請求書の送付前
• SNS・Webサイトへの投稿・公開前
• 顧客・取引先データの変更・削除前
• 一定金額以上の支払い処理前

ノーコードツールで承認ポイントを設定する3つの方法

承認ポイントは概念だけでなく、ノーコードのワークフローツールで比較的簡単に実装できます。ここでは3つの代表的なツールでの実装イメージを紹介します。

①n8nの「Wait」ノードで承認リンクを送る

n8n（オープンソースのワークフロー自動化ツール）には、フローを一時停止させる「Wait」ノードがあります。このノードをフローの途中に挟み、Slackやメールで担当者に「承認リンク」を送ることができます。担当者がリンクをクリックすると処理が再開し、別のリンク（または「差し戻し」ボタン）をクリックするとフローを中断してアラートを出す——という設計が可能です。たとえば「問い合わせへの返信文をAIが下書き→担当者がSlackで確認・承認→承認後に自動送信」というフローを、コードなしで構築できます。

②DifyとSlackを組み合わせた対話式確認フロー

Dify（AIアプリ構築プラットフォーム）はワークフローの途中に「承認リクエスト」ステップを組み込めます。AIが処理した内容をSlackに投稿し、担当者がSlack上で「✅承認」または「❌修正」のリアクションをすると、DifyがそのSlackのイベントを受け取ってフローを分岐させる設計です。「AIが生成した返信文を担当者がSlack上で確認し、OKなら自動送信、NGなら内容を修正して再生成」といった対話式のフローを構築するのに向いています。

③Makeの「承認メール」テンプレートを使う

Make（旧Integromat、ノーコード自動化ツール）には、承認フロー用のテンプレートが用意されています。処理内容をHTMLメールで担当者に送り、「承認」「却下」のリンクを本文に埋め込むことができます。担当者がリンクをクリックするとMakeがそれを検知し、フローの続きを実行または中断します。Makeはすでに多くのSaaS連携を持つため、既存のツール（Googleスプレッドシート・Slack・HubSpotなど）との接続が比較的シンプルに行えます。

段階的に承認ポイントを減らしていく進め方

最初から「承認なし・完全自動化」を目指すより、「最初は多めの承認ポイントから始め、ミスがないことを確認してから段階的に自動化を広げる」という進め方のほうが、現場の信頼を得ながら定着させられます。

• フェーズ1（導入直後）：AIが生成した内容をすべて人間が確認してから実行。ミスのパターンと頻度を把握する。信頼できる処理タイプが明確になるまでの期間。
• フェーズ2（1〜2か月後）：ミスがほぼ発生しない処理タイプ（定型文・定型データ集計など）については承認を省略し、自動実行に切り替える。影響が大きい処理だけ承認ポイントを残す。
• フェーズ3（3か月以降）：月1回程度でAIの出力をサンプルチェックする「事後確認」に移行。リアルタイムの承認ポイントは本当に重要な処理（外部送信・支払いなど）のみに絞る。

「どこまで任せてよいか」は試しながら決めるもの。最初に完璧な設計をしようとするより、「今の承認ポイントが多すぎないか・少なすぎないか」を定期的に見直すサイクルを作ることが大切です。

承認ポイントの設計でよくある3つの失敗パターン

• ①承認担当者が1人だけ：担当者が不在・多忙のときにフローが止まり、AIエージェントの恩恵が消える。2名以上の確認者を設定するか、「N時間以内に応答がなければエスカレーション」という自動ルールを組み込むことで解消できます。
• ②承認内容が分かりにくい：「承認しますか？」だけを送っても担当者は何を確認すべきか分からない。通知には「AIが生成した内容（要約）」「送信先」「判断が必要な理由」を合わせて含めるよう設計します。内容を確認した上で判断できる情報量が鍵です。
• ③承認の記録が残らない：誰がいつ何を承認したか記録がないと、問題が起きたときのトレーサビリティがなくなる。Slackのスレッド・スプレッドシートへの自動記録など、承認ログが残る設計を最初から組み込みましょう。

よくある質問