社用車を増やすときは、車を買う前に「誰が運転してよいか」「事故が起きたらどう報告するか」「定期点検をどう回すか」を決めておきます。AIガバナンスは、AI についてこれを行うことです。AI を業務で安全に、説明できる形で使うために、ルール、責任の分担、見直しの体制を組織として整えます。
顧客対応や社内検索、文書作成を AI で自動化する、個人情報や機密情報を扱うかもしれない、部署ごとにばらばらに AI の利用が広がっている、誤った回答への説明責任を問われる。こうした状況になったら、モデルの性能だけでは業務の利用は安定しません。
組織として決めておくこと
| 決めること | 関係する仕組み |
|---|---|
| 防ぎたい事故と、許容できるリスク | すべての出発点。まず言葉にしておく |
| 個人情報の扱い、保存期間、外部へ送ってよいか | PII |
| どの業務の、どこで人が確認するか | ヒューマン・イン・ザ・ループ |
| 入力と出力をどう検査するか | モデレーション、ガードレール |
| 導入してよいかを、何で判断するか | 評価 |
| 問題が起きたとき、誰が止めるか | 役割の分担と、記録（監査ログ） |
危ない入出力を止めるガードレールが現場の柵だとすると、AIガバナンスは、その柵をどこに、どんな基準で置くかを決める全体のルールです。評価をしないまま導入を急ぐと、便利さだけが先に進み、危うさは見えにくくなります。
書類を作って終わりにしない
AIガバナンスには、導入前の許可だけでなく、導入後の見直しまでが含まれます。モデルが変わる、業務が変わる、規制が変わる、社内のルールが変わる。そのたびに見直さなければ、統制は形だけのものになります。いつ、誰が、何をきっかけに見直すのかまで、運用の中に組み込んでおきます。