推荐系统比我更懂我吗？

《一个人怎样形成自己的世界》· 第三季“注意、欲望与自我理解”· 第十篇

一首从未听过的歌响起，恰好符合当下心情；一篇文章出现在列表中，主题正是最近模糊想过却没有搜索的问题。我们会惊讶地说：“它比我更懂我。”这句话一半在赞叹预测准确，另一半却把两种不同的“懂”混在了一起。

推荐系统可以在大量行为记录中识别人无法自行察觉的模式。它可能准确预测下一次点击、观看、购买或停留。可是，预测某个动作与理解一个人为何在意、希望成为什么、哪些短期冲动不愿继续，并不是同一种知识。更重要的是，系统呈现的内容会成为未来行为的输入。它并非只在观察一个已经完成的偏好，而是在一个反馈回路中参与偏好的形成。

系统看见的是行为痕迹，不是完整欲望

推荐通常需要把可观察活动转成信号：点击、播放时长、跳过、搜索、评分、购买、与哪些内容相似的用户还喜欢什么。不同平台、模型和目标函数差异很大，不能把“算法”当成单一主体。但共同限制是，系统只能从被记录且被定义为有用的痕迹学习。

停留可能意味着喜欢，也可能意味着困惑、愤怒或页面难以退出；完整播放可能源于背景运行；没有点击可能因为内容没被展示，而不是没有兴趣。推荐模型不必解决这些意义问题，只要某种信号能提高目标预测，它就可以有效运作。

因此，模型中的“用户偏好”首先是为特定任务建立的操作性表示。它可能很有用，却不等于个人对自身价值的完整陈述。一个人晚上反复观看轻松短片，系统有理由预测下一条类似内容；这仍不能回答他是否希望把更多夜晚用于同样活动。

被推荐过的选择，不再是纯粹的原始偏好

推荐系统的训练数据来自过去行为，而过去行为已经受过去推荐影响。研究者把这称为反馈回路或算法混杂。用户接受推荐，行为被记录，记录再训练系统，系统据此更有信心地继续推荐相似内容。

Brandon Chaney、Brandon Stewart 和 Barbara Engelhardt 在 2018 年的模拟研究中分析了这种算法混杂，显示推荐与反馈的反复作用可能增加同质性，并在他们的模型条件下降低部分用户获得的效用。其他研究也尝试从观察到的评分中分离推荐影响与所谓内在偏好。这些结果来自特定模型和数据，不能直接证明现实平台必然把每个人困在“过滤气泡”里。它们揭示的是识别难题：系统后来用来证明“你喜欢这个”的行为，部分可能由系统早先让你看到这个造成。

这种回路不必全是坏事。朋友推荐一本书也会改变口味，教师安排材料会培养能力，反复接触可以让陌生艺术变得可理解。偏好本来就会在环境中发展。真正的问题是，系统优化的方向是否与用户希望形成的自己相符，以及用户能否看见和改变这个方向。

“准确”要看预测了哪个时刻的我

一个推荐在五秒内获得点击，可以称为准确；一个播放列表让人一小时不离开，也可以称为成功。但个人的目标可能是发现陌生作品、完成一项任务、改善睡眠或不再被愤怒内容持续牵引。短期反应准确与长期价值一致不是同一指标。

推荐系统还会遇到多重自我。工作中的搜索、孩子使用同一设备的观看、一次性旅行准备和长期兴趣混在记录里；好奇点击与认可立场也可能相同。模型可以通过时间、设备和上下文提高区分，却无法仅凭行为决定哪一种倾向更代表“真正的我”。这个问题本身包含规范选择。

当人说系统“比我更懂我”，系统也许确实比本人更好地预测一个微观行为。人对自己并不完全透明，也常低估习惯。但系统的优势来自窄化任务：它不必解释整个生命，只需在有限候选中排列下一项。把局部预测优势升级为人格理解，是把技术性能翻译成了过度哲学结论。

推荐界面应允许人表达不想延续的偏好

许多反馈按钮只允许“喜欢／不喜欢”或“不感兴趣”。然而，自我理解需要更丰富的时间语言：我今天需要这个，但不希望它长期定义推荐；我研究这个，不是认可它；我想减少某类内容，即使我过去经常点击；我希望增加陌生性，而不是提高相似度。

好的推荐控制不只是让人删除历史，还应帮助理解系统依据了什么、区分临时与长期目标、设定多样性和停止条件，并允许偏好衰减。解释不必公开完整模型代码；对个人真正有用的是可操作说明，例如“因为你最近连续观看了某主题”“减少此来源”“在这段时间不要用此活动训练推荐”。

系统也应有探索责任。如果只把最高预测值反复放到最前，用户未被尝试的兴趣永远缺少数据，模型会把缺少曝光误作缺少偏好。保留一定多样性和偶然性，不只是提高娱乐体验，也是在避免一个人的过去获得对未来的垄断。

个人则可以把推荐当作镜子，而不是自画像。它揭示我的行为留下了什么模式，哪些模式强到足以预测下一步。面对令人意外的推荐，可以问：它发现了我未命名的兴趣，还是捕捉了我不想延续的脆弱时刻？连续出现的内容是我的稳定选择，还是平台与我共同制造的路径依赖？

系统知道的是“怎样继续”，人要判断“是否继续”

推荐系统最擅长的知识是连续性：根据已经发生的互动，什么最可能维持下一次互动。自我理解则必须能够打断连续性。一个人可以承认“我确实会点开它”，同时说“我不希望这种可预测性组织未来生活”。这种否定不是数据错误，而是一项承诺。

所以，推荐系统有时在窄任务上确实比我更了解我的行为模式，但它并不因此比我更懂“我”。完整的懂得还包括理由、冲突、时间、后果、他人和可修正的价值，而这些不能从下一次点击中自动推出。

更准确的关系不是人拥有真实偏好、系统负责发现，也不是系统制造一切、人毫无自主。偏好在人与推荐环境的循环中被表达、强化、修正和新建。正因为系统参与形成，它就不应把自己的输出伪装成对一个固定自我的中性读取。

一个值得信任的推荐系统，不只要预测我会继续什么，也要允许我说明哪些过去不应继续。一个能够使用推荐而不被它封闭的人，也不只问“它猜得准不准”，还要问：“这个猜测正在帮助我形成怎样的世界？”

主要资料

• Allison J. B. Chaney、Brandon M. Stewart 与 Barbara E. Engelhardt，“How Algorithmic Confounding in Recommendation Systems Increases Homogeneity and Decreases Utility”，RecSys，2018。
• Ayan Sinha、David F. Gleich 与 Karthik Ramani，“Deconvolving Feedback Loops in Recommender Systems”，NeurIPS，2016。
• Marko Tkalčič、Markus Kunaver 等，“Towards Psychology-Aware Preference Construction in Recommender Systems”，Journal of Intelligent Information Systems，2022。
• Paul Slovic，“The Construction of Preference”，1995。

继续阅读：浏览《一个人怎样形成自己的世界》系列文章