《AI不会替你裁人,只会放大你的偏见》
——算法没有立场,它只是把你的历史复印了一遍
1715家企业,真正让AI管过人的,不到四成。
这个数字有点反常。会议室里人人都在谈大模型,可一到"把简历交给机器"这一步,六成企业集体往后退了半步。
两轮调研,一次一千多家,一次近七百家,平均下来,只有约40%说"试过"。试的地方还很窄:筛简历、答员工问题、跑行政审批。真正碰到评价人、晋升人、决定一个人去留的环节,AI基本还在门口排队。
热闹是技术的,落地是管理的。
这不是企业保守,是企业诚实。
一、五道关口,排第一的不是技术
调研把企业的顾虑按轻重排了序,答案出人意料:排第一的是数据隐私与安全,技术成熟度只排第二。
人力资源数据是企业里最敏感的一类家当:身份信息、绩效记录、职业轨迹。把这些东西喂进一个模型,先得回答两个问题——合规吗?泄露了算谁的?
数据不是石油,数据是账本。石油烧完就没了,账本错了要追责。
第二关是能力。筛关键词,机器已经比人快;可一旦问题变成"这个人有没有潜力"”他跟团队合不合"”价值观对不对",算法立刻开始飘。因为这类问题的答案,历史数据里根本没有。
机器擅长识别规律,人擅长理解例外。
第三关是成本。系统搭建、数据清洗、持续维护,每一项都是真金白银。大企业可以试错,中小企业只能算账,看一眼报价就退回去了。
第四关是黑箱。模型推荐了一个人,没人说得清为什么。管理者只能回答"系统就是这么算的",员工听完,信任少一分。
第五关是偏见。
二、偏见这件事,得单独讲一层
常见说法是:算法有偏见。这句话说反了。
算法没有偏见,算法只有历史。
一家企业过去十年提拔的都是某一类人,训练数据就长这样。模型学会的不是"谁更优秀",而是"你们过去喜欢谁"。它把这条规律提炼出来,再以百分之一秒的速度,在每一次招聘和晋升里复刻一遍。
过去是一个主管凭感觉偏心,一年影响几十个人;现在是一套系统凭数据偏心,一年影响几万次决策。
人的偏见是零售,算法的偏见是批发。
更麻烦的是,它还披着"客观"的外衣。主管偏心,员工敢投诉;系统偏心,员工只会怀疑自己。
还有一个隐蔽的循环:系统的输出,会变成下一次决策的数据。未经核查的评价一轮轮回流,旧判断就不断"自我证明"。偏见进了模型,不是被消除,是被盖了章。
三、最容易被忽略的,是拿别人的底座量自己的鞋码
调研发现,不少企业人力资源数据基础薄弱,却直接拿通用大模型来支撑管理决策。
这好比请一位从没进过你公司的顾问,照着公开资料决定你该提拔谁。
通用模型见过全世界的简历,唯独没见过你的组织。它不知道你们销售团队的真实淘汰率,不知道哪个岗位的人半年必走,也不知道你们口头上的"能力强"到底指什么。
没有数据资产的企业,买来的不是智能,是幻觉。
数据底座不扎实,自动化只是让错误跑得更快。
四、出路:先把人管好,再让AI管人
讲到这里,很多文章会收尾于"AI是双刃剑"。那是废话,刀本来就有两面,问题是怎么握。
调研给出的建议,归成五个动作,没有一个是技术动作。
第一,补数据。明确岗位标准,核查数据来源与质量,划清采集和使用边界。先知道自己凭什么判断,再谈让模型怎么辅助。
第二,让员工知情、可选择。哪些数据被用、用在哪个环节,说清楚;关键决策能否申请人工复核,给权利。知情权不是成本,是信任的入口。
第三,先验证,再应用,持续评估。不同性别、年龄、学历的人群,通过率差多少?差异来自能力,还是来自历史?一次演示不能当证明。
第四,人签最后一个字。招聘、晋升、绩效,最终责任必须落在一个具体的人身上。
人工审核的价值,在于能够推翻系统,而不只是确认系统。
第五,留痕、可解释。用了哪些信息,模型建议什么,管理者为何采纳或否决,都要记下来。答不上"为什么是他"的决策,不能用。
应用顺序也有讲究:从边界清楚、便于核验的任务起步——员工服务、材料整理、行政辅助——再随治理能力扩展到潜力评价、晋升取舍这类复杂判断。范围跟着能力走,不是跟着热度走。
五、再往前看一步
40%这个数字,三年后大概率翻倍。真正拉开差距的,不是谁先买了系统,而是谁先把自家的数据和规则理清了。
技术会越来越便宜;干净的数据、清楚的规则、愿意签字的管理者,只会越来越贵。
真正值得追求的,不是让人退出决策,而是让随意退出决策。
这一轮智能化竞争里,最稀缺的不是会用AI的人,而是知道何时不该完全相信AI的人。
(唐加文,笔名金观平;本文成稿后,经AI审阅校对)