AIエージェントにメール送信、顧客情報の更新、見積作成などを任せたい一方で、「どこまで自動実行させてよいか分からない」と止まっていないでしょうか。すべて人が確認すれば効率が出ず、すべて自動にすれば誤送信やデータ更新の事故が心配です。
原因は、AIの精度だけで安全性を判断していることです。エージェントは文章を作るだけでなく、外部ツールを呼び出して現実の状態を変えます。そのため、判断の不確実さ、操作の影響、元に戻せるかを基準に、人の承認を置く場所と証跡を先に設計する必要があります。
この記事では、承認が必要な業務の分け方、承認画面に出す判断材料、監査ログの項目、2週間で安全性と効果を確かめる方法を解説します。高価な統制基盤を最初から導入せず、少人数の会社でも始められる形に落とし込みます。
株式会社ラクボは、AIを導入するだけでなく、業務の棚卸し、権限、承認、例外対応、定着までを一つの自動化として設計します。人が担うべき判断を残すことは、自動化を遅くする作業ではなく、安心して対象業務を広げるための土台です。
AIエージェントに人の承認が必要な業務を分ける
承認の要否は、出力内容ではなく「次の操作が外部へ与える影響」で分けます。情報検索、社内文書の要約、下書き作成は原則として自動化しやすい領域です。一方、メール送信、顧客データ更新、契約条件の提示、公開投稿、支払い、削除は、相手や資産の状態を変えるため承認対象にします。個人情報や機密情報を扱う操作も同様です。
実務では、影響度を「低・中・高」の三段階にします。低は自動実行して週次確認、中は担当者が内容を確認して実行、高は責任者と専門担当の二段階承認です。金額、送信先件数、公開範囲、元に戻せる時間を閾値にすると、同じ業務でも状況に応じて扱いを変えられます。例えば既存顧客一人への日程候補送信は中、全顧客への一斉配信は高です。
経済産業省のAI事業者ガイドライン第1.2版も、AIの出力だけに判断を委ねず、適切なタイミングで人間の判断を介在させる利用を検討する考え方を示しています。これは全操作を人が承認するという意味ではなく、権利や利益への影響、時間的猶予、説明の必要性に応じて設計することです。
承認ゲートは実行直前に置き、判断材料を見せる
承認ゲートは、AIが下書きを作る前ではなく、外部操作を実行する直前に置きます。承認画面には、実行する操作、対象、変更前後、根拠、影響範囲、元に戻す方法を表示します。「送信してよいですか」だけでは、承認者が本文、宛先、添付、参照データを別画面で探すことになり、確認が形骸化します。
メールなら宛先、件名、本文、添付、送信理由を一画面にまとめます。顧客情報の更新なら、対象レコード、変更前、変更後、根拠となる会話記録を並べます。承認、差し戻し、却下の三つを用意し、差し戻し理由を次の生成へ渡せるようにします。一定時間で承認されない場合は自動実行せず、期限切れとして止めます。
失敗しやすいのは、承認依頼が多すぎて人が内容を読まず押す状態です。低影響の操作まで承認対象にせず、同じ理由の差し戻しが続く場合はルールや入力データを修正します。AI業務自動化が失敗する原因で示したように、例外を人の頑張りで吸収せず、仕組みへ戻すことが定着につながります。
二重実行への対策も必要です。承認ボタンを連続して押した、通信が途切れて再試行した、複数の承認者が同時に判断した場合でも、同じ実行IDでは一度しか外部操作を行わない設計にします。承認後に宛先や本文が変わった場合は承認を無効にし、変更後の内容でもう一度確認します。これがないと、人が確認した内容と実際に送信された内容がずれます。期限切れ、却下、差し戻しも成功と同じ粒度で記録します。
監査ログに残すべき6つの情報
監査ログには、①誰の依頼か、②どのエージェントとモデルか、③何を参照したか、④どのツールで何を実行したか、⑤誰がいつ承認・却下したか、⑥結果とエラー、の六つを残します。一連の処理へ共通の実行IDを付けると、会話、生成、承認、外部操作を時系列で追えます。
ログは「全部保存」では不十分です。入力本文に個人情報が含まれる場合、目的に必要な範囲へ絞り、本文ではなく参照元IDやハッシュを残す方法も検討します。保管期間、閲覧できる役割、異常時の確認者を決め、通常ログと監査用ログを分けます。機密情報を長く保存しすぎると、監査のためのログ自体が新しいリスクになります。
確認する指標は、成功率だけではありません。承認率、差し戻し率、承認までの時間、同じエラーの再発、手動へ戻した件数を見ます。差し戻し理由を分類すれば、モデル変更が必要なのか、業務ルールが曖昧なのかを区別できます。権限と記録の全体像は、AI導入のセキュリティ・権限・承認ルールも併せて確認してください。
小さな業務で2週間テストする導入手順
最初の2週間は、外部影響が限定され、回数が確保できる一業務を選びます。おすすめは、問い合わせ内容の分類と返信下書き、商談後タスクの登録候補、社内申請の不足項目チェックです。いきなり送信や登録まで自動化せず、1週目はAIが提案し人が実行、2週目は低影響だけ自動実行という順で広げます。
開始前に、対象件数、正解の基準、承認者、停止条件、戻し方を一枚にまとめます。毎日15分、承認依頼と差し戻し理由を確認し、週末に削減時間と確認時間を比較します。作業時間が減っても承認待ちが増えた場合は、対象を狭めるか判断材料を改善します。事故ゼロだけでなく、担当者が安心して使えたかも記録します。
テストの合格条件は、正解率だけでなく運用まで含めます。例えば対象20件以上、重大な誤操作ゼロ、差し戻し理由を全件記録、承認待ちの中央値30分以内、手作業時間20％削減というように決めます。数値は業務量に合わせて変えて構いません。重要なのは、便利だったという感想だけで自動実行へ進めないことです。合格しなかった場合も、誤りがモデル、参照データ、ルール、権限、画面のどこで生じたかを分ければ、次の改善点が残ります。
2週間後に、自動実行へ進める操作、承認を残す操作、対象外にする操作を決めます。停止条件と再開責任者も同じ運用表へ残します。この線引きを残してから次の業務へ展開すれば、AIエージェントを増やしても統制が崩れません。承認フローと監査ログを含む業務自動化を構築したい場合は、ラクボの期間限定AI部署・AI顧問をご覧ください。現行業務を整理して相談したい方は、AIエージェントの安全な導入を相談できます。