約2分

システムプロンプトに書く前提と、外からの崩され方

システムプロンプトは、AI に最初から与える役割・方針・禁止事項をまとめた、前提となる指示です。

新人に仕事を頼む前に、まず役割と社内のルールを伝えておく。システムプロンプトは、AI に最初から渡しておく、この前提の指示です。「どんな立場で答えるか」「何を優先するか」「何をしてはいけないか」を、利用者のその場の依頼より前に決めておきます。

前提の指示と今回の依頼

AI への指示は、前提を決めるシステムプロンプトと、その都度のユーザープロンプトの二層で考えると整理しやすくなります。

システムプロンプトユーザープロンプト
何を決めるか役割、方針、禁止事項、出力の形式今回の依頼の中身と条件
誰が書くかAI を組み込む側(運用担当や開発者)その場で使う人
いつ効くかすべてのやり取りの前提としてその回の依頼に対して

社内向けチャットボットの丁寧さや答える範囲を決める、顧客対応の AI に断定しすぎない書き方を守らせる、要約の見出しの形式を固定する、法務や人事のように答えてよい範囲を狭くする。どれも前提の側で決めておくことです。利用者が毎回細かく指示しなくても、振る舞いが安定しやすくなります。この前提の指示をどう設計し、改善していくかは、プロンプトエンジニアリングの中心的な仕事の一つです。

外からの入力に前提を崩されないか

役割、目的、禁止事項は、混ぜずに分けて書きます。長いだけの指示は崩れやすくなります。「専門家として振る舞ってください」と書くだけでなく、答えてよい範囲と、人の確認が必要な場面をはっきりさせておきます。

注意したいのは、利用者の入力や外部の資料に、前提の指示が引っ張られることです。指示を上書きしようとする文章(プロンプトインジェクション)や、想定していない例外の入力で、実際に試しておきます。

システムプロンプトを書いただけで安全になるわけではありません。外部入力の扱い、権限の設計、人の確認の流れも合わせて決め、運用を始めたあともログを見ながら書き直していきます。最初の一稿で完成することは、まずありません。