AI 进了团队:人机混编团队的治理与问责
AI 不再只是工具,而是进了团队、参与工作流、在晨会里被当成一个角色来分配任务。第一性原理上,组织是信息网络加利益分配网络。AI 作为团队成员,顺顺当当地接入了信息网,却让问责网出现了一个空洞节点:这个节点无法被激励、无法被认可、也无法被追责。于是真正的难题不是 AI 能不能把活干完,而是当它和人共同产出一个失败结果时,谁为此负责。2026 年的研究和一线实践给出的答案都不轻松:责任既没有被人机共享稀释,也没有被机器接走,而是以两种相反的方式同时悬空,而能接住它的,只有被重新设计过的问责架构。
核心结论
AI 进了团队之后,人机混编团队怎么治理和问责,核心判点是:组织是信息网络加利益分配网络,AI 作为团队成员接入了信息网,却让问责网出现一个无法被激励、认可、追责的空洞节点;结果责任既不能简单地分摊给团队,也不能指望 AI 自己承担。2026 研究给出两个相反又同时成立的发现:一是责任集中,四项实验 1801 名被试显示,人配 AI 时比配人时多担约 10 个百分点的责任,因为 AI 被看作受限执行者、人成为默认的责任落点;二是责任稀释,多步智能体流程里责任在发起、检查点、委派、结果四段之间被逐段扩散,形成道德褶皱区。破局不是把 AI 叫成数字队友,而是把问责架构写进流程:具名负责人、明确决策权、升级协议、复杂度跨度核算、人在环阈值,以及把任务按咨询、辅助、假定、自主分级。
关键数据
- 责任反而集中到人身上:Nyilasy 等人的 2026 研究(4 项实验、1,801 名被试、AI 辅助信贷决策情境)发现,当人类与 AI 配对时,旁观者比人与另一人配对时,平均多将约 10 个百分点(0 至 100 量尺)的责任归于人类决策者;机制是 AI 被视为受限执行者,人成为自由裁量责任的默认落点。
- 智能体已是劳动力规模:Microsoft WTI 2026 显示智能体使用量同比增长 15 倍、大型企业 18 倍;BNY 运行近 150 个有名字、员工编号和人类主管的数字员工,将未决调查削减近 80%,靠的是把每个智能体硬连到一个具名负责人而非拟人化。
- 想引领的人极少:Deloitte 2026(89 国、9,000 多名领导者)显示,64% 认为 AI 与决策议题对当前成功非常重要,但仅 5% 认为自己走在引领前列;仅 16% 员工信任高层能为员工做正确决策(一年内两位数下滑)。
- 管理者被智能体压垮:Gartner 面向 CHRO 的指引显示,75% 的 CHRO 报告管理者比以往更不堪重负;智能体 AI 往往增加而非降低认知负荷,25% 的管理者表示若有退路会退出管理角色。
- 治理严重滞后:Gartner 2026-04-28 预测,到 2028 年平均一家财富 500 强将拥有超过 150,000 个智能体(2025 年不足 15 个),但目前仅 13% 的组织认为自己具备正确的智能体治理。
当人类与 AI 配对时,旁观者比人与另一人配对时,平均多把约 10 个百分点的责任归于人类决策者。AI 没有接走责任,它把责任压到了人身上。
出自 Nyilasy、Bastian、Overbeck、Hito 2026 年 arXiv 研究《AI 诱发的人类责任》,四项实验、1,801 名被试,经 AIHR 数智引擎综合
一、第一性原理:组织是两张网,AI 只接入了一张
先看清楚 AI 进团队到底改了什么。回到组织研究的第一性原理:组织是信息网络加利益分配网络。信息网络负责把坏消息、分歧、判断往下和往上流动;利益分配网络负责谁因为结果被奖励、被追责、被认可。两张网一起,才构成一个能自我纠偏、能分配责任的实体。
AI 作为团队成员加入时,它几乎只改了第一张网。它贡献分析、起草初稿、跑数据、给出选项,让信息流更密。但它对第二张网是一个洞:它不是人,不能被激励,不能被认可,也不能被追责。你无法因为一次漂亮的判断给一个智能体发奖金,也无法因为一次错误让它承担后果。于是当团队共同产出一个结果,责任不能像人和人之间那样自然分摊,因为有一个节点在结构上不承接责任。
这就是为什么人机混编团队的治理问题,本质不是技术接入问题,而是问责网的重构问题。谁接住那个洞,谁才真正拥有这个团队的结果。组织设计在这里比模型选型重要得多。
二、矛盾一:责任没被稀释,反而压到了人身上
最反直觉的发现是,人机会话里人承担的责不降反升。Nyilasy 等人的 2026 研究(arXiv 2604.08866)用四项实验、1,801 名被试,放在 AI 辅助信贷决策情境里问同一个问题:出了事,责任怎么分。结论是,当人类与 AI 配对时,旁观者比人与另一人配对时,平均多把约 10 个百分点(0 至 100 量尺)的责任归于人类决策者。高伤害情境(歧视性拒贷)和低伤害情境(归档错误)都成立,甚至让被试评自己的责任时也成立。
机制是感知:AI 被看作一个受限的执行者,没有独立的自由裁量,于是人成了责任默认的落点。替代解释(心智感知、自我威胁)都被排除了。这对组织设计意味着一件事,坊间流行的甩锅幻想是错的,有了 AI,出了事并不能推给机器。恰恰相反,AI 的在场抬高了人的责任刻度。一个组织如果把责任当成可以外包给系统的东西,它就在忽视这条被实证的集中效应。
更麻烦的是,这种集中往往是无意识的。管理者以为用了智能体等于分散了风险,实际是把自己的责任刻度往上推了一档。等事故复盘时,承担者的角色已经悄悄变了。
三、矛盾二:责任在流程里被稀释
第二层发现是,责任同时在多步流程里被逐段稀释。Kalluri 2026(Digital Society,9 月 15 日发表)提出责任级联与顺序责任归因框架(SRAF),把一条智能体工作流里的责任拆成四段:发起责任、检查点责任、委派责任、结果责任。当一个人类发起一条目标,系统自己拆任务、做中间决策、调工具、按反馈改策略,责任就顺着这些步骤被扩散、稀释、再分配,传统归因框架接不住。
典型场景:项目经理让智能体优化资源分配,系统分析负载、重排任务、调时间线、直接对接管理系统,人类只在里程碑检查点点头。项目最终因资源错配失败,谁负责?人类定了目标却没控制中间决策,AI 做了关键选择却没有道德主体性,检查点审批者看不全系统的推理,组织批准了部署却没人完整掌控结果。这就是道德褶皱区,系统出错时,人类操作员吸收了本属于复杂系统的责备,成了唯一的替罪羊。
于是出现一个悖论:对旁观者,人担更多责任(集中);对流程内部,责任又被逐段稀释(扩散)。两种效应叠加,正是人机混编团队最危险的问责真空。一个组织若不同时处理这两头,它既会让具体的人被过度追责,也会让系统的失败找不到归口。
四、为什么把 AI 叫成数字队友是治理陷阱
很多组织用错了动词。Deloitte 2026 把这种拟人化明确点名为治理风险:当你把 AI 叫成数字队友、数字同事,你开始用对待人的那套问责模型去套一个非人系统,你会去管理关系,而不是去治理输出;你会把人际层面的信任投射过去,而不是用结构去赢得信任。话术看似温和,代价是问责架构被软化。
BNY 的做法值得对照:它运行近 150 个数字员工,但每一个都有名字、员工编号,和一名人类主管。它没有把 AI 当成人,而是把每一个智能体硬连到一个具名的人类负责人,结果是未决调查削减近 80%。区别就在动词,BNY 治理的是输出、设计的是边界,而不是给机器发工牌。
Microsoft 2026 给出的问责矩阵也落实在同一逻辑:助理角色里,AI 支持单步,人类拥有整项任务与结果;队友角色里,AI 共拥工作,人类保有方向与最终判断;操作员角色里,AI 在限定内跑流程,人类负责复核、例外与问责。三种角色的共同点,是人类的拥有权从未让渡。把话术从队友改回系统,问责架构才立得起来。
五、三个被数据验证的管理误判
误判一,以为部署更好的模型就能补上治理缺口。Deloitte 2026 的数据打脸:64% 受访者认为 AI 与决策议题对当前成功非常重要,但仅 5% 认为自己走在引领前列;同时仅 16% 员工信任高层能为员工做正确决策,且一年内两位数下滑。模型越强,领导力的缺口越显眼,因为问题从来不在算法,在谁为结果负责。
误判二,以为 AI 会减轻管理负荷。Gartner 面向 CHRO 的指引显示,75% 的 CHRO 报告管理者比以往更不堪重负。智能体 AI 往往增加而非降低认知负荷,因为管理者要校验输入、评估输出、处理例外;四分之一的管理者表示若有退路会退出管理角色。把智能体当减压阀,结果往往是给管理者又加了一层监督的活。
误判三,以为治理可以等。Gartner 2026-04-28 的预测是,到 2028 年平均一家财富 500 强将拥有超过 150,000 个智能体,而 2025 年不足 15 个,但当前仅 13% 的组织认为自己具备正确的智能体治理。治理不是上线后的补丁,等规模上来再补,成本和事故都已经发生。
六、问责架构:把谁担责写进流程
破局的动作是具体的,不是口号。第一,每个智能体上架前先写一份一页简报式的岗位说明书:名字、负责人、输入、好是什么样、升级条件。这是 Microsoft 2026 给的清单,缺一项,责任就悬空。第二,叠加 Gartner 的三类前置对齐:身份(智能体作为自己登录而非冒用某人)、访问(只触达这一个岗位需要的数据和工具)、归属(具名的人为它的所作所为负责)。
第三,建立人在环阈值,按任务风险分级。Gartner 把任务分为咨询、辅助、假定、自主四类,并建议当智能体置信度跌破阈值时交还给人;HR 要正式界定哪些判断、共情、裁量在法律、文化或伦理上不可委托。第四,用复杂度跨度替代人数幅度来核算管理负荷,清点每个团队的智能体密度、自主级别与风险耦合,再决定要不要补中层、补监督。
第五,把四段式归因(发起、检查点、委派、结果)钉进流程,让每一步的责任归属被记录而非靠复盘时现编。第六,把 AgentOps 当成一门 discipline 来训练管理者:评升级输出、修边界情形、留痕推理。治理的动词重新回到人,靠的是这些被写死的结构,而不是信任机器会自律。
七、HR 的站位:从发政策到设计问责
HR 在这个议题里该管的是问责架构,不是 AI 本身。六项具体动作:明确划出哪些判断不可委托给智能体;和 IT 一起建立人在环协议与阈值;把管理者角色正式改写进 AI 监督与例外处理;按 AgentOps 给管理者做升级与纠错训练;用复杂度跨度而非人数衡量管理负荷;确保每个智能体的产出背后都有一个具名的人类负责人。
反过来,HR 不该去选模型、调提示词、评算法指标,那是 IT 与数据科学的活。HR 拥有的,是责任的分配结构。当组织把问责架构设计清楚,它保住的是两样东西:一是对外的可信度,监管、客户和员工知道出事找得到人;二是对内的学习回路,失败能被归因、被修正,而不是被甩给一个不背锅的机器。AI 不移除人类拥有结果的需要,它把这种拥有变成了不可回避的前提。
八、留白:问责从来是组织最难的那道题
谁为结果负责,从来就是组织理论里最难回答的问题,AI 没有让它变容易,只是让它变急性。一个组织若在人机混编里把责任写进流程,它守住的是信任;若让责任在集中与扩散之间同时悬空,它迟早撞上道德褶皱区,由某个具体的人替整个系统背锅。技术会持续往前跑,150,000 个智能体的预测不是危言,但责任不能跟着规模一起稀释。能接住它的,始终是一个被设计过、被具名过、被写进流程的问责架构,而不是一句数字队友的漂亮话。
参考信源
- 【Microsoft Work Trend Index 2026(2026-05 发布,10 个市场、20,000 名 AI 使用者、数万亿笔 M365 生产力信号);智能体使用量同比增长 15 倍、大型企业 18 倍;BNY 近 150 个数字员工各配名字、员工编号与人类主管,未决调查削减近 80%;助理/队友/操作员问责矩阵,人类分别拥有整项任务与结果、方向与最终判断、复核与例外】:Microsoft Work Trend Index,microsoft.com/worklab,2026。
- 【Deloitte 2026 Global Human Capital Trends(与 Oxford Economics 合作,89 国、9,000+ 商业与 HR 领导者、50+ 高管访谈);64% 认为 AI 与决策非常重要但仅 5% 自认引领;仅 16% 员工信任高层(年内两位数下滑);停止管理 AI、开始领导 AI,警告拟人化数字队友是治理风险,当团队含无法被激励/认可/追责的智能体时仍由人维持结果责任】:Deloitte Human Capital Trends,deloitte.com,2026。
- 【Gartner 2026(智能体治理与管理者监督);面向 CHRO 的指引显示 75% CHRO 报告管理者更不堪重负,智能体增加认知负荷,提出以复杂度跨度替代人数幅度、任务按咨询/辅助/假定/自主分级、人在环阈值、四分之一管理者欲退出角色、AgentOps;2026-04-28 新闻稿《识别管理 AI 智能体蔓延的六步》预测 2028 年平均财富 500 强超 150,000 个智能体(2025 不足 15),仅 13% 有正确治理,六步含治理政策、集中清单、身份权限生命周期、信息治理、行为监控补救、责任使用文化】:Gartner,gartner.com,2026。
- 【Nyilasy、Bastian、Overbeck、Hito(arXiv 2604.08866,2026-04-10)《AI 诱发的人类责任(AIHR)》;4 实验、1,801 被试、AI 辅助信贷决策,人配 AI 比配人时多担约 10 个百分点责任,机制为 AI 被视为受限执行者、人成默认责任落点】:arXiv,arxiv.org,2026。
- 【Kalluri(Digital Society,2026-09-15 发表,卷 5 第 47 篇)《责任级联:智能体 AI 系统中的道德归因与治理挑战》;提出顺序责任归因框架 SRAF,分发起/检查点/委派/结果四段责任,指出责任在多步流程被扩散稀释、形成道德褶皱区】:Springer Nature,link.springer.com,2026-09-15。