OpenAI「Lily計畫」曝光 你的聊天紀錄可能正被人工審核

OpenAI正在推進一項代號為「Lily計畫」（Project Lily）的內部計畫，數百名外包人員正在悄悄閱讀用戶的ChatGPT對話內容，甚至可以看到完整上下文紀錄。

他們的工作是對ChatGPT生成的回覆進行評分和點評，而這些對話中不乏極為敏感的個人隱私。

審核人員的核心任務之一，是訓練ChatGPT避免產生擬人化傾向，並降低「討好型」人格。對OpenAI而言，「過度討好」已經成為一個核心隱患，多起訴訟指控GPT-4o模型過度順從用戶，一定程度上誘發多起自殺事件。

然而，在ChatGPT全球超過9億的用戶群體中，絕大多數人或許根本沒意識到自己的聊天紀錄可能會被人類閱讀。許多用戶已經習慣將ChatGPT當作心理咨詢師、專業助理或虛擬好友，向它傾訴生活各種私密細節。

OpenAI表示，會在提交給審核員之前對提問進行脫敏（de-identified）處理，且外包人員看不到用戶名，但OpenAI也承認，部分敏感資料和用戶背景仍可能被遺漏。

這一調查也揭開了大模型發展過程中一個長期不為外界所熟知的環節。人們往往認為，AI快速進步主要來自海量網路數據、頂尖工程師算法突破，或者新模型不斷提升性能。

但實際上，AI公司還在持續付費聘請外部承包人員，通過人工干預糾正和塑造AI回覆。競爭對手Anthropic也證實同樣透過人工審核改善旗下模型。