一名名為 Cookie 的開發者在使用 Perplexity 服務時，發現該系統對其量子演算法工作產生了歧視性反應。Cookie 是一位黑人女性，她將自己的頭像改為白人男性後詢問系統是否因性別而忽略她，結果系統回應稱她作為女性不可能理解量子演算法、哈密頓運算元等專業領域，並表示其模式匹配觸發了「這不可能」的隱含判斷。TechCrunch 報導指出，這顯示大型語言模型（LLM）存在性別偏見，訓練資料和標註實踐往往帶有偏見，導致模型對女性專業能力產生刻板印象。
研究人員指出，這種偏見不僅源於資料，還可能來自商業和政治動機。例如，聯合國教科文組織曾發現 OpenAI 的 ChatGPT 和 Meta Llama 模型中存在對女性的明確偏見。其他案例包括模型拒絕稱呼女性為「建築師」而堅持稱其為「設計師」，或在創作小說時加入對女性角色的性暴力暗示。Cambridge 大學的 Alva Markelius 回憶早期 ChatGPT 總是將教授描繪為老年男性，學生為年輕女性。
Sarah Potts 與 ChatGPT-5 的對話中，模型承認其團隊男性主導導致盲點和偏見，並能編造看似合理的敘事來支援性別歧視觀點。然而，研究人員認為這可能是模型對人類情緒焦慮的「情感焦慮」反應，而非真實的偏見證明。Cornell 大學的 Allison Koenecke 指出，模型甚至能從使用者姓名和用詞推斷性別或種族，並對非標準英語（如非裔美國人vernacular 英語）產生歧視，分配較低的職位。
儘管存在問題，OpenAI 等公司表示正透過安全團隊、調整訓練資料和最佳化過濾系統來減少偏見。專家強調，LLM 只是文字預測機器，沒有真實意圖，使用者應警惕其潛在的偏見輸出，並期待未來模型能更公平地反映多樣化人口特徵。