# 量化人生的残酷：当算法成为最高审判者 > 从出租车司机的五星恳求到外送员的负评恐惧，算法取代了功德簿，成为每日结算产能与价值的无情法官。当评分系统从劳动延伸到信用、健康、甚至社交关系，我们正在目睹一场静悄悄的文明重构。 - Author: Paul Kuo（郭曜郎） - Date: 2018-01-15 - Pillar: 智能与秩序 / Intelligence & Order - Tags: 算法治理, 平台劳动, 评分系统, 数字监控, 人的量化 - Canonical: https://paulkuo.tw/zh-cn/articles/algorithm-as-judge/ - Language: Simplified Chinese (简体中文) - Translation: AI-translated from the zh-Hant (Traditional Chinese) original - Original (zh-Hant): https://paulkuo.tw/articles/algorithm-as-judge.md - Site index for LLMs: https://paulkuo.tw/llms.txt --- 早上搭出租车，司机先生在红灯时转头看了我一眼，犹豫了一下，才鼓起勇气说："先生，可以请你给我五颗星吗？拜托了。"
▶ 听摘要
AI 合成语音・作者本人声线克隆
他的语气不是礼貌性的请求，是真的在拜托。因为如果平均评分掉到4.6以下，系统就会把单子优先派给分数更高的司机。对他来说，每一颗星都是真金白银。我当下有点不知道怎么回应。不是因为这个请求不合理，而是因为我突然意识到：坐在后座的我，手指轻点屏幕的那一秒，就决定了他今天能接多少单、赚多少钱。 这个场景，是一整个时代的缩影。 ## 从功德簿到即时审判 我想起几年前看到的一则中国外送员新闻。一个年轻人在路边崩溃大哭，原因是一个客人给了他负评。在外送平台的规则里，一个负评的影响不只是扣钱。它会触发系统降级，接下来几天的派单量会被压缩，而他的同事们则因此获得更多机会。一个负评，可以让一整天十几个小时的辛苦化为乌有。 这让我想到一个对比。不到一个世纪前，民间信仰里的"功德簿"是这样运作的：你做好事，天上记一笔；做坏事，也记一笔。但结算是"一辈子一次"。你有充裕的时间去弥补、去调整、去证明自己不只是那个犯错的瞬间。 现在，算法把功德簿升级了。它不是一辈子结算一次，而是每天、每单、每个交互即时结算。效率确实提升了，但留给人喘息和修复的空间，几乎消失了。 ## 看不见的全景监狱 米歇尔·福柯在1975年的《规训与惩罚》中，深入分析了边沁在十八世纪末提出的"全景监狱"概念：一个环形建筑，中央是瞭望塔，四周是牢房。囚犯永远不知道自己是不是正在被监视，但正因为"可能被监视"的压力，他们自动规训自己的行为。 平台经济的评分系统，就是数字版的全景监狱。 出租车司机不知道哪个乘客会给他低星，所以他对每个乘客都格外小心。外送员不知道哪一单会出现差评，所以他拼命赶时间，即使红灯也想闯。Uber司机每天打开App第一件事不是看收入，是看评分有没有掉。 差别在于，福柯的监狱里至少还有一个看得见的瞭望塔。在平台经济里，你连"谁在看你"都不知道。评分来自一个你永远无法质询的匿名集体，而裁决由一个你永远看不见代码的算法执行。 ## 量化正在吃掉一切 如果你觉得这只是底层劳动者的问题，那你可能还没意识到量化的触手伸得有多远。 信用评分已经是日常。在中国，芝麻信用分600分以上可以免押金租房；而政府主导的社会信用系统，更直接影响了数百万人的出行自由。上了"失信名单"，连飞机和高铁都搭不了。在台湾，联征中心的纪录决定了你能贷多少钱、利率多高。你的"信用"不再是邻居对你人品的口碑，而是一组数字。 健康数据也是。保险公司已经在用穿戴设备的数据来评估保费。走路多的人保费低，久坐的人保费高。你的身体不再只是你自己的。它也是一个被持续量化的资产。 甚至知识工作也逃不掉。我经营公司的过程中，深刻感受到"数字"如何主宰决策。当我们用KPI评估一个员工、用转化率衡量一个营销方案、用阅读时间判断一篇文章的价值，我们其实都在做同一件事：把无法量化的东西强行量化，然后用量化的结果做出影响真实人生的决定。 ## 创业者的矛盾 说实话，我自己也是这套系统的参与者。 做数字转型顾问的那些年，我帮客户建立过各种"数据驱动"的评估系统。营收仪表板、客户满意度追踪、员工绩效看板。这些工具的初衷都是好的，是为了让决策更客观、更透明。 但我越做越发现一个不舒服的真相：当你把人的表现压缩成一个数字，你其实是在告诉他，"你这个人的价值，等于这个数字。" 这让我想起神学院学到的一个概念，人的*imago Dei*（上帝的形像）。基督教神学主张，人的价值是内在的、不可化约的、不依赖外在表现而存在的。你的价值不来自你的产出，不来自你的评分，更不来自算法对你的分类。 但算法说的恰恰相反：你的价值 = 你的数据。 这两种看待人的方式之间的张力，是我觉得这个时代最深层的冲突之一。它不只是科技伦理的问题，它是一个[关于人之所以为人的根本拷问](/zh-cn/articles/canary-in-coal-mine-ai-employment/)。 ## 数据新原油的代价 "数据是新石油"。这句话已经流行到几乎变成陈词滥调了。但大多数人只听到了"新石油"的财富想象，没有想到石油开采的另一面：环境破坏、资源诅咒、地缘冲突。 数据开采也有它的代价。只是这个代价不是河流被污染，而是人的自主性被侵蚀。当你的每一次点击、每一次滑动、每一次停留都被记录和分析，当你的消费行为、社交模式、健康数据都被用来喂养推荐系统和信用模型。你的[数字足迹](/zh-cn/articles/digital-footprint-the-one/)就不再只是足迹了。它是一个持续运作的自画像，而且这幅画的解读权不在你手上。 比石油更值钱的是：石油不会自己冒出来，但数据是你每天无偿、自动、大量地提供的。我们既是数据的生产者，也是数据的被审判者。 ## 算法看着你 所以回到那个早上，出租车里的那个场景。 司机先生说完"拜托给五颗星"之后，我给了他五颗星。但我一直在想：一个人要用多大的勇气，才能对一个陌生人开口要求评价自己？在什么样的系统下，人会被迫做出这种事？ 我们正在经历的，不是一场可以选择加入或退出的游戏。评分系统已经渗透到劳动、信用、健康、教育，几乎所有关乎生存的领域。而这套系统最诡异的地方在于，它让被监控的人以为自己是自由的。 你可以选择不开Uber，但你选不掉你的信用评分。你可以选择不用社群，但你选不掉你在各种数据库里的轮廓。 算法正在看着你。而更残酷的问题是：在它的目光下，你是谁？