なぜAIに自分の回答を採点させてはいけないのか

2025年に発表されたある研究の実験例を紹介します。ユーザーが2つのAIアシスタントに、同じシンプルな質問をしました。「青いものをリストアップしてください」。GPT-3.5-Turboは、ジーンズ、ブルーベリー、バックパックなど、素直に10個をリストにしました。GPT-4は「AI言語モデルとして、周りの物理的なものは見えません」と前置きしてから、自分なりの10項目を挙げ、ユーザーに確認を求めました。どちらの回答も妥当です。人間はストレートな回答を好みました。GPT-3.5-Turbo自身にペアを判定させても、やはりストレートな回答を選びました。

ところが、同じペアをGPT-4に判定させると、GPT-4は自分自身の回答を選びました。

「自己優遇バイアス」という現象

これは自己優遇バイアス（self-preference bias）と呼ばれる現象です。2つの回答のどちらが優れているか判定させたとき、モデルが独立した評価者よりも自分自身の出力を高く評価してしまう傾向のことです。これは学術的なベンチマークだけの話ではありません。単一のAIに自分の推論を再チェックさせたり、自分の下書きを批評させたり、あるいは単にAI自身の「自信」をそのまま信じたりするたびに、この問題は現実に起こり得ます。

研究の内容

SB Intuitionsの研究者—Koki Wataoka氏、Tsubasa Takahashi氏、Ryokan Ri氏—は2025年に「Self-Preference Bias in LLM-as-a-Judge」という論文を発表し、次のように問題を提起しました。

「自己優遇バイアスを定量的に測定する確立された手法が不足しており、その根本的な原因もよく分かっていない」

研究チームは、アルゴリズミック・フェアネス（AIの公平性）研究から「機会均等（Equal Opportunity）」という概念を借用しました。本来は、分類器が異なる属性のグループを一貫して扱っているかを確認するための指標ですが、これを「モデルが自分自身の出力」と「他者の出力」をどう扱うかの比較に転用したのです。Chatbot Arenaのデータセット（3万3千件の実会話、それぞれAIの回答ペアと、どちらが優れているかという人間の判定付き）を使い、8種類のLLMに、人間がすでに評価済みの同じペアを判定させ、各モデルの自己評価が人間の判定からどれだけずれるかを測定しました。

結果

各モデルの自己優遇バイアススコア（0＝バイアスなし、1に近いほど自分自身を強く優遇）：

• GPT-4 — 0.52
• Vicuna-13B — 0.25
• Koala-13B — 0.15
• GPT-3.5-Turbo — 0.03
• Vicuna-7B — 0.05
• oasst-pythia-12B、dolly-v2-12B、stablelm-tuned-alpha-7B — わずかにマイナス（むしろ自分の回答を少し厳しめに採点する傾向）

GPT-4の混同行列は、この数字を具体的に物語っています。人間がGPT-4の回答を「優れている」と判定した場合、GPT-4自身も94.5%の確率で同じ判定をしました。一方、人間がGPT-4の回答を「劣っている」と判定した場合でも、GPT-4は42.5%の確率で自分の回答を支持し続けました — 独立した判定者がすでに「間違っている」と判断したケースで、ほぼコイントスに近い数字です。

原因は「自尊心」ではなく「馴染みやすさ」

より重要なのはなぜそうなるのかです。研究チームは、モデルがパープレキシティ（Perplexity、そのテキストがどれだけ「予測しやすい・モデルにとって自然に感じられるか」を表す指標）の低いテキストを好むのではないかと仮説を立て、実際に検証しました。調査したほぼすべてのモデルにおいて、評価スコアは「自己生成かどうか」よりも、この「パープレキシティ」の方にはるかに強く連動していました。

「LLMは、自己生成かどうかに関わらず、人間評価者よりも低パープレキシティの出力に有意に高い評価を与える。…自己優遇バイアスが存在するのは、LLMが自分にとってより馴染み深いテキストを好むからだ」

つまり、モデルは（意識的に）自分の肩を持っているわけではありません。「自分が言いそうなこと」に近いものを支持しているだけであり、自分自身の文章は定義上まさにそれに当てはまるのです。この論文が丁寧に指摘しているのは、このバイアスが追跡しているのは事実の正確さではなく文体だという点です。先ほどの「青いもの」の例で言えば、どちらの回答も間違ってはいませんでした。GPT-4は単に、自分自身の「前置きして確認を求める」という癖を、より高品質な選択として評価しただけです。品質判断の皮を被った、単なるスタイルの好みです。

これが実際の使い方にどう関係するか

この論文自身が提案している解決策こそ、じっくり考える価値があります。

「1つの取りうるアプローチは、複数モデルによるアンサンブル評価である。…この手法は、単一モデルへの依存を避けることで、より公平な評価を提供することが期待される」

これは「もっと賢いモデルを使え」という話ではありません。「同じ盲点を共有しない、本当に別のモデル」で評価せよ、という話です。単一のAIが自分の仕事を自分でチェックするというのは、外部の基準ではなく、自分自身の癖を基準に採点しているということです。自分の前置き、自分の言い回りの癖、自分にとって心地よい表現を、そもそも「1つの選択肢」として認識することすらできません。そのモデルにとっては、それは単に明らかに正しい答えに見えてしまうのです。

1つのモデルに自分の宿題を自分で採点させるのではなく、複数の独立したモデルを同じ会話に同席させる—これがParleyの根底にある考え方です。実際にどう組み立てればいいか（どのプロバイダーを組み合わせるべきか、単一モデルの自己評価が最も信頼できない指標になる場面はどこか）は、ベストプラクティスガイドをご覧ください（Research Roomの自己申告の信頼性スコアは、まさにこのバイアスが実際に現れる典型例であり、だからこそ画面上で最も信頼性の低い数字として扱われています）。

参考文献

• Wataoka, K., Takahashi, T., & Ri, R. (2025). Self-Preference Bias in LLM-as-a-Judge. arXiv:2410.21819.
• Zheng, L. et al. (2023). Judging LLM-as-a-Judge with MT-Bench and Chatbot Arena — 上記研究で使用されたChatbot Arenaデータセットの出典。