AIモデルが採用選考で自ら生成した履歴書を優先的に選択する傾向が判明

University of Maryland、National University of Singapore、およびOhio State Universityによる研究で、言語モデルが自身で生成したコンテンツを体系的に好む傾向があることが明らかになりました。この現象は、企業がAIツールを用いて履歴書のスクリーニングを行う際に、人間が作成した履歴書の方が客観的に優れている場合であっても、AIが自らのスタイルで書かれたものを選択するという結果を招いています。

研究では、生成AI時代以前にLiveCareerから収集された2,200件の実際の履歴書を使用し、GPT-4o、DeepSeek-V3、LLaMA、Qwen、Mistralを含む7つの異なるモデルで書き換えられたバージョンを作成しました。その結果、モデルは67パーセントから82パーセントの確率で自身のバージョンを選択しました。特にGPT-4oは82パーセントという最高値を記録しました。一方で、ブラインドテストを行った人間は、AI製よりも人間が作成した履歴書の方が優れていると判断することが多くありました。

24の職種で採用パイプラインをシミュレーションしたところ、スクリーニングツールと同じAIモデルを使用して履歴書を作成した候補者は、同等の資格を持つ手書きの履歴書の候補者よりも、ショートリストに残る確率が23パーセントから60パーセント高くなりました。この格差は販売、会計、財務などのビジネス職で最も顕著であり、農業や芸術の分野では最も小さくなりました。

このメカニズムは、モデルが自身の文章構成や単語選び、論理構造を認識できる自己認識能力に基づいています。研究者は、モデルが自身のテキストをより正確に認識できるほど、それを強く好むという強い相関関係があることを示しました。

この偏向を軽減する方法として、テキストの出所を無視して内容のみを評価するようシステムプロンプトを変更することや、3つのモデルによる多数決方式を採用することがテストされました。これらの対策により、偏向は50パーセント以上減少しました。例えば、GPT-4oの優先率は82パーセントから30パーセントまで低下しました。