特定の地域の料理しか食べたことのない人が、「世界の料理」について語る。経験の偏りが、そのまま判断に出てしまいます。AI のバイアスも同じで、出力が特定の属性や観点、結論に偏ってしまう性質のことです。
人事部
応募書類の一次選考を AI にやってもらえば、面接官の好みに左右されないから公平ですよね。
あなた
AI にも、学習したデータの偏りがあるって聞いたことがあるんですが……
偏りはどこから入り込むのか
LLM は、インターネット上の文章など大量のデータで学習します。ところが、そのデータ自体に、社会的、歴史的な偏りが含まれています。人の評価でモデルを調整する段階（RLHF）でも、評価する人の主観が入り込みます。その結果、出力が特定の性別、年齢、地域、文化に対して偏った傾向を持つことがあります。
つまり、「人ではなく AI が判断するから公平」とは言えません。人の偏りの代わりに、データと設計の偏りが入ってくるだけのこともあります。
人に影響する判断で使うなら
特に注意が要るのは、採用や審査のように人を評価する業務、特定の地域や文化を前提にした文章づくり、法律や規制への対応を含む文書、商品のおすすめや優先順位づけです。
一度読んで自然だったかどうかではなく、条件を変えても特定の人たちに不利な偏りが続かないかを見ます。
- 人に影響する判断では、AI の出力をそのまま使わず、人が確かめる
- 多様なサンプルで試し、特定の属性に不利な出力が出ないかを確かめる
- 出力のサンプルを定期的に抜き出して、偏りを評価する
- リスクの高い用途では、ガードレールやモデレーションと組み合わせる
偏りをゼロにはできない
バイアスは、完全には取り除けません。「偏りのない AI」は存在しないという前提で、用途ごとにどこまでの偏りなら許せるのかを判断し、運用の設計に組み込みます。