算法没问题,问题在算法后面
去年诊断过一家制造业客户的AI项目。他们花7个月搭了一套智能排产系统,算法算出的排产方案理论上比人工安排更优。上线没多久,计划员在系统推荐方案后面偷偷跟了一张Excel表。系统本身没问题,计划员担心的是换线频次太高,产线上出质量问题会被追责。几个月后,系统使用率跌到很低,大部分计划员回到老办法。
算法本身没问题。问题是"AI做了决策,出了问题谁负责"从来没被讨论过。
这类情况我见过不止一次。AI系统能跑通,业务部门也承认结果有道理,但就是没人敢直接按它说的做。技术本身已经成熟,卡点是权责边界没画清楚。
三类"权责盲区"
大多数企业做AI商业架构时,流程是这样的:业务部门提需求,技术部门选型,供应商进场,系统上线,培训推广。整个过程没人问一句:AI系统给出的建议,业务部门敢不敢不经过人工审核直接执行?
敢,AI就是生产力工具,替代的是重复判断。不敢,AI就是参考系统,替代的是信息整理。两种定位对应的架构设计完全不同。
我见过的三类典型"权责盲区":
第一类是定价场景。某零售企业的AI动态定价系统算出某款商品应该降价清库存。采购经理看到系统建议后,转发给总监,总监召集团队开会讨论,几天后才调价——市场窗口早过了。问为什么不直接按系统执行,答案是"降价是我签的字,万一卖亏了,系统不会替我背锅"。
第二类是客服场景。某银行上了智能客服处理常见问题。但一线客服主管要求所有AI回复必须人工复核后才能发出,处理时间反而变长了。一线人员的原话是"AI说错了是系统的问题,我说错了是我的问题"。
第三类是采购场景。AI根据库存数据和供应商历史表现推荐了一家新供应商,报价比现有供应商低。采购经理把推荐结果打印出来,附上比价表,走了一遍完整的传统审批流程。AI的价值从"直接推荐"降级成了"提供一份参考材料"。
三类场景的共同点是:AI系统能跑通,但组织不敢接。
混岗:业务流没拆清楚
权责盲区背后更深的问题是"混岗",业务流里哪些环节该由AI做、哪些该由人做,没有拆清楚。
判断的标准不复杂:看这个环节的输入能不能被机器读懂、输出能不能用规则验收。
结构化输入,意思是AI能读得懂的数据:订单量、库存数、客户评分、历史转化率,这些是结构化的。客户情绪、对手下一步动作、政策风向变化,这些是非结构化的。
规则化输出,意思是这个环节的产出可以用明确的规则验收:定价调整幅度不超过一定比例、供应商评分高于某个分数才进入候选名单、客户咨询在特定时间内必须响应。相反,"写一个打动客户的方案""判断这个合作值不值得做",这些不是规则化输出。
一个简单的自测方法:把一条业务流拆开,标出每个环节的输入结构化程度和输出规则化程度。如果一条业务流里有相当比例的环节同时满足"输入结构化+输出规则化",这条业务流就适合做AI商业架构改造。如果比例太低,先别上AI中台,先把业务流程数字化。
很多AI项目失败,算法本身没问题,问题在选错了改造对象。把"判断类"环节当成"执行类"环节外包给AI,或者把"高变通"环节当成"高重复"环节自动化。结果AI做出来不靠谱,人又不信任,双方互相拖累。
拒绝清单比功能清单重要
比"做什么"更重要的,是列一张"拒绝清单",明确列出哪些事AI不做。
我接触过一个反例。某物流企业做AI商业架构时,要求AI系统包揽从订单分配到司机调度的全流程。系统上线后问题不断:客户临时改地址,AI按原计划派车,空跑了一段路程;某司机连续几天被系统分配夜班,疲劳驾驶出了状况。企业不得不紧急叫停,回退到人工调度为主、AI辅助为辅的模式。
复盘时发现,如果当初有一张拒绝清单,明确写上"客户改址后的重新分配由人工处理""连续夜班司机的排班由人工审核",问题本可以避免。
拒绝清单的价值在于:它逼企业在上线前回答"AI的边界在哪里",而不是上线后由事故来回答。
一张合格的拒绝清单至少包含三类边界:
第一类是伦理边界。涉及人身安全、客户隐私、重大资金风险的决策,AI可以建议,不能拍板。比如大额贷款审批、未成年人内容审核。
第二类是例外边界。规则覆盖不了的例外情况,必须预留人工通道。比如客户明确提出"我不接受系统推荐,我要指定某人",系统不能强制覆盖。
第三类是责任边界。每个AI环节必须对应一个"人类兜底责任人",不是形式上的审批,是真出问题时能被问责的人。没有这个责任人,AI建议就永远只是建议,不会被真正执行。
很多企业的AI商业架构图里画满了功能模块和数据流向,唯独没有一栏是"责任归属"。这一栏的缺失,导致前面所有的技术投入都卡在"最后一公里"。AI算出来了,组织不敢接。
一个可以马上做的动作
如果你正在考虑或已经在做AI商业架构,有一个动作可以马上做:画一张"AI权责矩阵"。
横轴是你的核心业务环节,比如定价、客服、采购、排产、营销文案。纵轴分三档:AI建议(系统出方案,人参考)、人类审核(系统出方案,人必须签字才能执行)、人类执行(系统只做信息整理,决策和执行全由人做)。
把每个环节填进矩阵,然后问自己三个问题:
第一,填在"人类审核"这一栏的环节,审核标准是什么?如果标准只是"我觉得没问题",那AI系统永远快不起来。审核标准必须具体到"降价幅度在某个范围内直接通过""供应商评分高于某个分数直接通过"。
第二,填在"AI建议"这一栏的环节,业务部门真的在参考吗?还是只是礼貌性地点开看一下,然后按老办法做?如果是后者,这个环节不适合放AI建议,应该升到人类审核或降为人类执行。
第三,有没有哪个环节所有人都不肯填?既不敢让AI做,又嫌人工做太慢。这种环节往往是流程本身有问题,不是AI能解决的。
画完这张矩阵,AI商业架构才算真正落地。技术架构图画的是系统能做什么,权责矩阵画的是组织敢用什么。震楠商业策划在过往项目中发现,权责矩阵清晰的项目,AI系统采纳率明显高于矩阵模糊的项目。这不是技术差异,是组织差异。
AI商业架构不是技术项目,是组织项目。HaiAwake方法体系里把这一步叫做"对齐先于建设",先让组织知道AI能做什么、不能做什么、谁对结果负责,再谈算法选型。
常见问题
问:AI商业架构和IT系统升级有什么区别?
答:IT升级是把已有的业务流程数字化,AI商业架构是重新设计"谁做决定"。前者换工具,后者改权责。
问:小公司没有专门的技术团队,能做AI商业架构吗?
答:能。先从一条具体业务流开始,用SaaS工具或现成的AI服务试水。关键是先画权责矩阵,再选型工具。
问:AI权责矩阵画完了,业务部门不执行怎么办?
答:不执行通常是因为审核标准太模糊,人不敢签字。把审核标准量化到具体数字,执行阻力会小很多。
问:已经上了AI系统但使用率很低,怎么救?
答:先别优化算法,去访谈三个使用率最低的业务人员,问他们"最近一次系统推荐对了,你为什么还是没按它做"。答案几乎一定是权责问题。
