会議でアイデアを出すとき、自由な発言をどこまで許すか。Temperature は、LLM の答え方のゆらぎを決める、この空気感のつまみのような設定です。低いほど候補の選び方が狭まり、答えがそろいやすくなります。高いほど出力の幅が広がります。ただし、具体的な効き方はモデルや提供元によって違います。
仕事ごとのおおまかな目安
同じ質問でも、仕事によって欲しい答え方は変わります。
- 手順書や FAQ の下書きなら、低めにして毎回ぶれにくい出力を狙う
- キャッチコピーや企画案のたたき台なら、やや高めにして候補の幅を広げる
- チャットボットなら、中間あたりで自然さと安定のバランスを取る
正確さが求められる業務なら、低めから始めて、確かめながら少しずつ調整するのが無難です。高めにすると、誤った情報や表現の揺れも増えやすくなります。
つまみを回す前にそろえておくこと
サポート担当
昨日と今日で、同じ質問なのに FAQ ボットの回答の言い方がだいぶ違うんですが……
開発担当
すみません、昨日の検証で Temperature を上げたまま戻していませんでした。
設定の値をチーム内でそろえておかないと、同じ質問で答えがずれ、良し悪しの比較もできなくなります。
そもそも、Temperature だけで答えの質は決まりません。先に整えるべきなのは、プロンプトの設計と、良し悪しを判断する基準です。Temperature は創造性のスイッチではなく、出力のばらつきを調整するつまみです。業務では、面白さより同じ答えが返ってくることを優先したい場面が多いはずです。候補の絞り方を変える Top-p と組み合わせるときの注意は、そちらの記事で扱っています。