依頼を受けたら、必要な確認や段取りを自分で進めて、報告まで持っていく担当者。AIエージェントは、指示を受けて、複数の手順を自分で順に進めていく AI の実行役です。
返事で終わるか、次の処理まで進むか
いつものチャット AI は、一つの質問に一つの返事を返すのが基本の使い方です。AIエージェントは、その返事を起点に、次の処理まで進めることを前提に作られています。便利さの中心は、答えることより、実行できることにあります。
- 問い合わせの内容を分類して、担当の部署へ振り分ける
- 情報を集め、そのまま要約まで仕上げる
- 外部のツールと連携して、決まった作業を自動で片づける
- 条件に応じて、次に取る行動を切り替える
動かす前に決めておく境界
人に仕事を任せるときも、どこまで自分の判断で進めてよいかを先に伝えます。エージェントも同じで、動ける範囲を広げるほど、間違えたときの影響も大きくなります。便利さより先に問題になるのは、権限の管理です。
| 決めること | 具体的には |
|---|---|
| 自動で進めてよい範囲 | 下書きまでは自動、送信や登録は人の承認を待つ、など |
| 外部ツールを動かすときの扱い | 承認を挟むか、実行したことを記録（ログ）に残すか |
| 止まる条件 | 何回失敗したら止めるか、どんな状態なら人に引き継ぐか |
| 誤作動したときの被害 | 最悪の場合に何が起きるかを想定し、その範囲に権限を絞る |
自律して動けることより、誤作動したときの被害を小さくすることを優先して設計します。外部のツールを呼び出す仕組みはツールコーリング、人の確認を組み込む考え方はヒューマン・イン・ザ・ループの記事で扱っています。