上司
社内規程にちゃんと沿って答えてほしいから、うちの規程集でAIをファインチューニングしよう。
あなた
規程って、毎年のように改定されますよね……
既製のスーツを、自分の体型や仕事に合わせてお直しする。ファインチューニングは、すでにあるモデルに追加の学習をして、特定の言い回しや判断の傾向へ寄せる調整です。業界特有の言い回しを安定させたい、出力の形式をかなり固定したい、独自の分類ルールを覚えさせたい、プロンプトの工夫だけでは癖がそろわない。そうしたときの選択肢になります。
お直しに出す前にほかの手を確かめる
毎回の指示で出力を寄せるプロンプトの調整と違い、ファインチューニングはモデルの側の振る舞いを長く変えるための方法です。その代わり、手間も費用も、あとの保守もかかります。冒頭のチャットのように、中身がよく更新される情報を覚えさせたいなら、改定のたびに学習をやり直すことになり、保守の負担が大きくなります。そういう課題は、答える前に最新の資料を探しに行く RAG で足りることも多いものです。
応答を速く、安くしたいだけなら、大きなモデルの振る舞いを小さなモデルへ移す蒸留のほうが筋がよい場合もあります。モデル全体ではなく一部だけを学習させて費用を抑える LoRA という方法もあります。
始めるなら先に物差しを作る
自社専用にすれば全部よくなる、というものではありません。学習データの質が悪ければ、癖はむしろ悪化します。
そして、何をもって「よくなった」とするのか。その評価の物差しを、学習を始める前に作っておくことが先決です。評価の基準が曖昧なまま進めると、費用だけが増えて、改善したのかどうかも見えなくなります。