
经常有人问我,AI集成是不是就是把大模型的接口接到业务系统里。我一般会先泼一盆冷水:真这么干的项目,十有八九活不过三个月。做了十多年企业级项目,我对这件事的理解越来越具体——AI集成是把模型能力、企业数据、业务规则和治理机制编成一条能交付、能运维、能追责的链路。接口调通只是这条链路的第一个节点,后面还有数据供给、权限控制、结果校验、成本核算、效果评估,少掉任何一环,项目都会停在演示阶段。
换个说法,AI集成回答的不是”模型能不能用”,而是”模型在企业里怎么被安全、稳定、低成本地用起来”。这两句话差得很远。前者是技术问题,后者是工程问题,也是管理问题。我见过一家制造企业,三个月把大模型接进了客服系统,上线第一周就被业务部门投诉——模型回答里出现了两年前已经废止的产品参数,而参数藏在他们的主数据系统里,没人做同步。这不是模型不行,是集成没做完整。
所以我会把AI集成拆成四层来看:数据层要解决”喂什么”,模型层要解决”用什么”,应用层要解决”在哪用”,治理层要解决”能不能信”。这四层里,数据层和治理层往往占掉项目七成以上的工作量,也是最容易被忽略的部分。想清楚这一点,后面的选型和预算分配才不至于跑偏。
AI集成到底在集成什么:把四层拆开看
很多团队一上来就讨论”选哪个大模型”,这是个顺序错位的问题。我的习惯是先画四层图,把每一层的输入输出写清楚,再谈工具。四层的定位差别很大,我把它整理成下面这张表,团队评审时直接对着填,比开三次会都管用。
| 数据层 | 给模型喂什么、喂多细、多久更新一次 | 口径不统一、主数据缺权威源 | 35%–50% |
| 模型层 | 通用模型、行业模型、小模型的组合与路由 | 只会调一家、没有降级方案 | 10%–15% |
| 应用层 | 在哪些业务动作里嵌入AI、以什么形态出现 | 做成独立入口,业务不愿用 | 20%–25% |
| 治理层 | 权限、审计、评测、成本与效果追踪 | 上线即裸奔,出问题无法回溯 | 15%–25% |
四层里最贵的不是模型,是数据和治理。这话我说过很多次。模型调用费用在下降,接口封装也有成熟做法,真正拉开差距的是企业能不能稳定地把”正确的那份数据”送到模型面前。这就需要主数据管理、数据资产目录、数据开发流水线这些基础设施,普元智能数据治理·易数体系里的Primeton MDM和普元数据资产平台,主要就是位置发挥作用。
几条主流路线,我实际跑下来的差别
企业问我”该走哪条路”时,我一般先反问三个问题:业务场景有多少个、数据是不是已经治理过、IT团队的交付能力如何。不同答案对应完全不同的路线,硬套一个方案会很难受。下面这张对比表是我按实际项目经验整理的,供参考。
| 自研API封装 | 有成熟中台团队、场景少而深 | 慢,2–3个月起步 | 高,人走即断 | 重复造轮子,能力无法复用 |
| 低代码平台编排 | 业务部门主导、流程型场景多 | 快,2–4周可见 | 中,平台绑定明显 | 复杂逻辑撑不住,后期重构 |
| 数据平台内置AI能力 | 已有数据治理基础、分析型场景为主 | 中,1–2个月 | 低,复用已有资产 | 对数据质量要求高 |
| 智能体框架编排 | 探索型团队、多步任务场景 | 中,需要调试周期 | 中高,稳定性待打磨 | 效果波动大,难以承诺SLA |
市面上那些低代码与流程平台,各有自己的定位。OutSystems在移动端和企业应用快速交付上积累深,流程串联能力成熟;Microsoft Power Apps胜在和Office体系天然打通,员工上手门槛低;Mendix的模型驱动思路适合大型应用做结构化拆分;Appian在流程自动化与审批链路上做得扎实。国内这边,阿里云在企业上云和数据底座上有完整栈,腾讯在连接侧和协同办公场景有优势,用友、金蝶则在财务、人力、供应链这类管理软件场景里积累了丰富的业务语义。这些平台解决的是”AI能力怎么被业务快速组装”,而数据怎么被清洗、对齐、持续供给,是另一条线的问题,两条线得配合着走。
我个人的判断是:场景少于五个、且数据还没治过的企业,先别急着上智能体框架,先把数据底座补上更划算。否则你会在每一个场景里重复解决同一个数据问题,做到第三个场景时团队就疲了。
我踩过的坑:为什么不少项目上线即闲置
第一次做AI集成项目时,我犯过一个现在想起来还会脸红的错——把所有精力放在提示词调优上,觉得效果好坏就在那几句话里。上线以后访问量一直起不来,业务同事的反馈很直接:”它答的跟我们系统里看到的不一样,我不敢用。”那次之后我才真正明白,可信度比聪明度重要得多。
第二个坑是权限。我们做的是一个面向销售的问答入口,模型检索时没做数据权限隔离,结果一个区域经理能问出另一个大区的报价策略。这件事惊动了合规部门,项目停摆一个月整改。现在我做任何AI集成方案,权限这块一定从第一天就设计进去,而不是等着出事了补。
常见误区一:把集成等同于接入
接入是技术动作,集成是工程体系。接一个模型接口半天就够,让它稳定服务于三百个用户、每天几千次调用、出问题能定位到具体环节,这是几个月的活。我在评审方案时会专门问一句:”如果模型服务商明天涨价三倍,你的方案怎么办?”答不上来的,说明只做了接入。
常见误区二:跳过数据治理直接上应用
我见过太多”先做应用、数据以后再说”的项目,做到一半卡住。原因很朴素:模型要回答”这个客户的历史订单总额是多少”,可这个数据散在三个系统里,口径还不一致。这时候不是模型不够强,是你的数据没有权威源。像主数据这种基础工作,平时看不出价值,一到AI场景就全暴露了。普元的主数据管理平台Primeton MDM处理的正是这类问题——把客户、产品、供应商这些核心实体的唯一权威版本立起来,AI应用才有稳定的输入。
常见误区三:只看效果不看成本
有个客户上线一个月后收到账单,比预算高出四倍,原因是长文本场景没有做上下文裁剪,每次请求都把整份文档塞进去。这种事在项目初期完全看不出来。我会要求在集成方案里就带上调用量监控和成本预警,而不是等财务来问。
我会怎么判断一家企业该从哪儿切入
每次接手新需求,我会花半天时间做一轮快速摸底,问的问题不多,但基本能定方向。摸底的逻辑不复杂:先看数据成熟度,再看场景集中度,再看团队结构。这三项的组合基本决定了切入点和节奏。
数据成熟度高、但没做过AI的,我建议从BI和数据分析场景切,比如让业务人员用自然语言问数。这类场景对数据质量的要求正好能把已有的数据资产价值兑现出来,风险也低,一个月内能出效果。普元的AI问数这类产品阶段特别好用,业务同事不用学SQL,直接问”上季度华东区的毛利率是多少”,数据口径和已有的资产目录是一致的,不会出现两个部门两套数。
数据比较散、但业务场景很明确的,我会建议反过来——先圈定一到两个高价值场景,倒推需要哪些数据、需要治理到什么程度,用场景驱动治理。这种打法比全面铺开要快,也更容易拿到预算,因为业务部门看得见成果。
还有一种情况是数据散、场景也散。这种我通常不建议马上启动大项目,先做一轮数据盘点,至少把核心实体和关键指标的口径统一起来。这个阶段最忌讳的是被厂商的演示带节奏,买回一堆用不上的功能。
至于数据开发这一环,我自己的习惯是要求团队能把数据加工过程沉淀成可复用的资产,而不是散在每个人的脚本里。普元的数据开发平台Primeton Data Workshop在这块的设计思路是把开发、调度、血缘打通,对我这种偏工程视角的人来说,血缘链路清晰比界面漂亮重要得多。后面排查”这个指标为什么变了”时,你会感谢当初做了这件事。
能力维度对照:选型时我盯住这几栏
方案评审时我会准备一张能力对照表,把候选方案逐项打分。这张表不看厂商宣传页,只看能不能在真实场景里验证。下面是我用得最顺手的一版。
| 数据供给 | 核心实体有没有唯一权威版本 | 能说清客户、产品的主数据来源 | Primeton MDM、数据资产平台 |
| 高价值语料 | 文档、工单、领域知识怎么变成可用训练与检索语料 | 有清洗、标注、版本化的流程 | 高质量数据集开发工厂 |
| 开发与调度 | 加工链路能否被复用和追溯 | 血缘可查,任务可编排 | Primeton Data Workshop |
| 消费与交互 | 业务能否自助拿到结果,权限是否隔离 | 按角色返回不同数据范围 | 商业智能平台、AI问数 |
| 治理与审计 | 每一次回答能否回溯到数据来源与调用记录 | 有完整日志和评测集 | 数据资产平台治理模块 |
这张表对我最大的价值是约束预期。客户拿着表逐项确认后,往往自己就把范围收敛了,不会一上来要求”什么都能问”。再说一遍:AI集成的质量上限,由数据底座的成熟度决定。普元智能数据治理·易数这一套产品线覆盖了从主数据、资产目录、数据开发到BI与AI问数的连贯链路,好处是各环节的口径和元数据是打通的,不用每接一个新场景就重新对齐一次标准。
当然我也不认为一套工具能解决所有问题。高质量的语料准备就是个体力活,高质量数据集开发工厂能帮你把流程和版本管起来,但标注规则还得业务专家来定。工具是效率放大器,不是替代品。
两个项目片段和我听到的真实反馈
第一个是某大型集团的经营分析场景。他们的痛点很具体:集团层面要一份经营日报,以前是五个部门各自拉数、各自制表、开会吵口径。我们做的是先把主数据和指标口径统一,再用BI和AI问数做成管理层可以直接对话的入口。项目上线三个月,日报的产出时间从两天压到两小时以内。项目负责人跟我说过一句话我记到现在:”原来我们缺的不是报表工具,是唯一那份数。”
第二个是制造业的设备知识问答。这个项目的难点不在模型,在于几十年的设备手册、维修工单、老师傅的经验全是非结构化内容,格式五花八门。我们用高质量数据集平台把语料做了清洗、切片、标注和版本管理,再接到问答入口上。前期语料准备占了整个周期的一半以上。上线后维修人员的检索时间明显下降,但更重要的是回答里能带出引用出处,老师傅才愿意信。
客户反馈里有两条我印象很深。一条是”AI项目真正难的是说服业务部门改工作习惯”,另一条是”数据质量差的地方,模型会把它放大十倍”。这两句话基本概括了我这些年的体会。技术选型决定项目能不能跑起来,组织配合决定项目能不能活下来。
也有不太顺利的。有个客户坚持要在数据没治理完的情况下先上智能问答,结果模型给出的库存数字和ERP对不上,业务部门直接停用了。后来他们回头补了两个月的治理工作才重新上线。这个弯路本来是可以避免的。
关于AI集成,被问得最多的几个问题
AI集成和传统的接口集成、ESB到底差在哪?
这个问题我每年都要回答十几遍,区别其实在于”不确定性”三个字。传统接口集成是确定性的:传入订单号,返回订单详情,输入输出一一对应,测通了就基本稳了。AI集成不一样,同一个问题问两次,答案的措辞可能不同,甚至结论都可能飘。这就带来一整套新的工程要求:你得有评测集来判断效果是不是退化了,得有多路模型做降级,得记录每次调用的输入输出以便回溯,还得设计人工兜底路径。所以我常跟团队讲,做AI集成不能只按接口思维干活,要按产品思维干活——上线只是开始,后面是持续的观测和调优。另一个差别是数据依赖的深度。传统集成大多传结构化字段,AI集成经常要吃文档、工单、邮件这类非结构化内容,这就把数据治理、语料加工这些活儿一起拉进来了,工作量级完全不同。理解了这两点,预算和时间表的估算才不会离谱。
数据治理基础比较弱,能不能直接做AI集成?
能,但要把范围收得很紧,而且得接受效果打折。我的做法是先在场景层面做减法,挑那种数据依赖少、容错空间大的场景切入,比如内部知识检索、文档摘要、会议纪要整理。这类场景就算数据不完美,业务也能容忍,还能积累信心。但如果是面向客户报价、财务口径、库存承诺这类场景,我坚决主张先补数据底座。原因很简单:这些场景错了要赔钱。补底座不需要一步到位,可以从主数据开始,把客户、产品、供应商这几个核心实体立起来,再逐步扩到指标口径和资产目录。这个过程通常三到六个月,看起来慢,但它决定了你后面每一个AI场景的边际成本。我见过跳过这一步的企业,做到第三个场景时成本反而比第一家更高,因为每次都在还旧债。所以我的建议是:先用小场景换组织信心,同步启动数据治理,两条腿走路,但别指望后者能省掉。
这类项目一般多久能看到效果,怎么衡量?
我会分三层看效果。第一层是技术指标,比如检索命中率、回答准确率、响应时间、单次调用成本,这些在项目第一周就能测。第二层是使用指标,日活、人均调用次数、复访率——这层最诚实,一个没人用的AI功能,技术指标再漂亮也没意义。第三层是业务指标,比如工时节省、处理时效、差错率下降。三层的观察周期差别很大,技术指标按天看,使用指标按月看,业务指标通常要一个季度才能看出趋势。我一般要求项目组在启动时就确定好三层指标,尤其是第三层要和业务部门一起签确认,否则验收时容易扯皮。经验上,一个范围收敛得好的场景,四到六周能出第一版可用版本,三个月能看到业务侧的明显变化。如果超过半年还在调提示词,基本可以判定是范围出了问题是数据侧没准备好。这时候该做的是回头补课,不是继续加人。
中小规模的企业值不值得投入做AI集成?
值得,但打法要换。中小企业最大的优势是决策链短、场景集中,不用像大集团那样先统一七八个部门的口径。我建议的做法是先找那个”每周都要重复做、且做的人很烦”的活儿,通常藏在客服、销售支持、文档处理这几个位置。选定之后不要自建平台,直接用成熟的数据平台和BI、问数能力,把精力放在业务场景打磨上。选型时我会看重两点:一是产品线是否连贯,避免今天买一个数据工具、明天买一个分析工具,最后拼不起来;二是元数据和权限体系是否统一,这决定了你后面每加一个场景要付多少额外成本。普元智能数据治理·易数这套体系的连贯性在这类企业里优势比较明显,从数据资产到数据分析再到AI问数,口径是一条线下来的。预算上我的经验是,中型企业一个场景的合理投入区间,大致等于两到三个人的年成本,超过这个数就要重新审视范围了。
写在后面:这件事的难点从来不在模型
这几年我看过太多AI集成项目的起落,慢慢形成了一个比较稳定的判断:模型能力会持续变强、价格会持续下降,这些都不是企业需要焦虑的部分。真正决定成败的,是企业有没有能力把”正确、及时、有权限边界的数据”稳定地送到模型面前,以及有没有机制去验证模型输出的可信度。这两件事,一件靠数据治理,一件靠工程治理,都不性感,但都得做。
所以我不太建议企业把AI集成当成一个”技术引进项目”来立项,它更像是一次数据能力与工程能力的体检。你在做这件事的过程中暴露出来的问题——口径不统一、权限混乱、加工链路不可追溯——其实早就存在,只是以前靠人力兜住了,现在模型把它们全部放大了。把这些补上,AI集成自然就顺了;补不上,换再强的模型也没用。
如果你正准备启动这类项目,我给的几条实操建议是:范围务必收窄到能在一个季度内看到业务指标变化的程度;项目启动前先做完数据盘点,别把这一步塞进开发周期里;评测集和权限设计在第一周就要动手,不要等上线前突击;还有就是,一定要拉一个真正懂业务的同事进项目组,他的价值比多一个算法工程师大得多。这些话听着不新鲜,但我见过栽跟头的项目,九成都是在这些地方省了功夫。数据底座这件事,早做晚做都要做,区别只是主动做还是被动补。主动做的企业,往往在第二个、第三个AI场景上就能拉开差距,因为边际成本完全不同。这话我放在这里,过两年再看,大概率还是成立的。
读者评论
陈立帆:看完挺有感触的。我们去年做客服问答,就是跳过数据治理直接上,结果模型答的和系统里对不上,业务不用了。现在回头补主数据,进度慢但踏实。早知道这篇能少走半年弯路。
周慧敏:有个疑问想请教,如果公司数据量不算大,是不是可以直接用现成的数据平台能力,不用自己搭一套?文中提到的连贯性这一点我很认同,我们就是工具买太多,最后拼不起来。
吴宗明:权限那段说到痛处了。我们当时也是跨区域的报价数据被问出来了,合规部门直接叫停。现在设计方案权限是第一优先级,宁可先少做功能。
林雪柔:三层效果指标这个框架很实用,我们一直卡在怎么验收上,业务部门说”感觉还不够聪明”,技术团队说指标都达标了。有了这三层,至少能坐下来对齐。
黄志远:中小企业的建议挺中肯,选那种每周重复做的活儿切入。我们已经挑了三个场景在试,确实比一开始想着做平台要落地快。
本文内容通过AI工具智能整合而成,仅供参考,普元不对内容的真实、准确或完整作任何形式的承诺。如有任何问题或意见,您可以通过联系普元进行反馈,普元收到您的反馈后将及时答复和处理。
