企业AI转型基础|智能体式AI平台的架构

最近这段时间业界热议“个人AI” 和“企业AI” 的区别,大家意识到,每个人都养“小龙虾”尽管可能带来新奇的个人数字化体验,然而个人的高效可能带来组织的混乱;很多公司AI试点项目搞得轰轰烈烈,然而很少有公司发现这些AI试点项目带来了实质性的收入增长或者成本节降。参见

 给非技术管理者解释|为什么企业AI平台主要是奥锐方,而不是小龙虾 

AI流程实现和六边形顾问价值 | Skill, Harness, Orchestration

AI要能改造公司的组织、流程,基础是要具备企业级的AI 架构。

500

这个情况有些像三十年前信息化时代为何会出现ERP。

当时各个部门都搞自己的信息系统,销售部门有销售订单系统,制造部门有物料需求管理系统,采购部门有采购管理系统,然而这些系统之间数据不统一,就无法形成跨部门的业务流程管理。因而,ERP 产生提供了一种新兴的技术架构,通过统一的数据库、多用户实时处理数据,实现了人类操作的企业信息记录共享和同步协同。

过去几年,企业应用AI的方式也是像“前 ERP 时代”信息化一样各自为战,每个部门搞自己的聊天机器人、图像识别模型、文档分析工具;各家软件厂商也拼命往自家应用产品里塞AI能力。

结果是虽然每个场景或者每个应用都变聪明了一点,但智能体和智能体之间仍然没法交流,订单智能体不知道库存发生了什么变化,客服机器人看不到物流轨迹……

ERP时代的“信息孤岛”,到了智能体时代就是“智能孤岛”。

今天,智能体式AI(Agentic AI) 正成为大语言模型驱动的业务流程自动化的主要形态,按照无人化程度从低到高,又可分为:自动化、智动化和自治化(多个自主智能体形成智能体系统,完全无人化地达成目标)等不同形态。

500

智能体以及多智能体系统不只是一个会回答问题的聊天框,而是一支能跨系统协作的虚拟员工团队。

可以想象这个场景:一个负责接客的AI收到客户请求,说订单要改地址,立刻唤醒物流AI查位置,同时呼叫仓储AI看库存,再叫上结算AI算差价。几个替代人类的AI 智能体开了个无声会议,几秒钟后回给客户:“您的包裹刚离开中转站,我们可以协调快递在下一站改址,运费增加8元,是否确认?”

整个过程不需要人类插手,这就是从“回答问题”到“采取行动”的质变,亦即智能体工作的机制。

然而问题来了:我们现有的企业IT系统,很大情况下不是为这种“多智能体协同工作”或者“人和智能体在端到端流程上协作”而设计的。

传统企业数字化架构上缺什么呢?一般来说缺这些:

-共享记忆:智能体A做完的事,智能体B得知道上下文。

-动态编排:任务中途可能换人——智能体或者真人,流程随时分叉合并。

-运行时监管:不能等出了事再查监控,得在每一秒都确保代理没越权、没说错话

这就产生了一个新概念——智能体平台,也称为智能体运营(AgentOps),叫它“智能体中台”也未尝不可,听起来亲切,也符合多年来社会上形成的“中台”的认识。

大约是 2015-2023 年期间,以机器学习为核心的那波AI浪潮(到大模型出来,这个浪潮就退潮了)产生了“机器学习运维(MLOps)”,国内俗称“AI中台”。它的作用是管理机器学习模型的生命周期:从训练到部署,再到上线后的服务监控,把机器学习的模型能力嵌入到业务场景中。

不过需要注意“智能体中台”和“AI中台”是两个不同的概念, 一个是管模型的流水线,一个是管智能体协作的指挥部。智能体中台集中管理智能体们能调哪些工具、看哪些数据、记忆怎么存、对话怎么流转,甚至在它们说出不该说的话之前就按下暂停键。

智能体平台应该包括什么内容呢?目前企业软件行业基本就智能体平台架构达成了共识,包括这样的三层:

第一层:指挥层:应用与编排

这是智能体系统的大脑和神经中枢,它决定哪个代理接手任务、什么时候转交、中途出错了怎么办。API 服务以及前文提到的“AI 中台”都属于被编排的对象。

有一个智能体登记处,记录每个智能体擅长什么、权限多大。

有一套工具目录,把公司所有的API、数据库、软件功能都标准化成智能体能读懂的“说明书”。

所有智能体之间能用统一语言沟通,例如MCP、A2A协议。

第二层:监控层:分析与洞察

建立合规性和可观测性机制,实时追踪每个智能体的一举一动,从收到指令到调用工具再到吐出结果,全程留痕可追溯。

万一智能体突然开始胡言乱语,或者行为偏离轨道,立刻报警。

用户想看智能体处理的业务流程中某个决策的思维路径?点击就能展开,像看导航的行车记录。

第三层:基础层:数据与知识

这是智能体处理业务的原料,没有这一层,上面两层是空中楼阁。我们在《再论AI不会消灭ERP》讨论的以ERP 为代表的业务记录系统(System of records),也可以看成这一层的数据源;最近讨论得很多的“本体”,则是在这个层面上聚合数据和知识的一种方法和框架。

不再是孤立的信息来源,而是把结构化数据(表格型数据)、非结构化数据(例如邮件、PDF、电子地图)和关系网络(知识图谱)进行统一治理。

数据必须确保实时,具有可信、单一的事实来源,例如智能体给客户做订单交期承诺,需要从ERP 系统或者物流系统中获取实时库存数据并进行可交付能力计算。

每一份数据的来龙去脉都清清楚楚,谁用、怎么改都有记录。

建设企业级的智能体平台的作用是:

1. 避免重复造轮子:一个智能体学会查库存,所有需要查库存的场景都能用上。

2. 洞察更准:跨部门、跨时空数据在智能体眼里是一张完整的实时地图,提高决策质量,这是为何最近“本体”成为业界热词的原因。

3. 合规性治理:合规检查从人盯系统,变成系统自动监控,例如权限管控细到每个API调用。

4. 规模化能力:管智能体跟管人一个道理,如果没有规范化的流程和制度体系,那么随着人员或智能体的数量增加,管理复杂度不是线性增长而是指数级爆炸。

今天,管理学上讨论“AI 原生组织”,可以说,如果企业没有智能体平台来增强智能体能力、规范智能体运行、促进智能体协作,那么AI 原生组织就无从谈起。

换句话说,智能体平台就是“数字员工”的组织,智能体平台架构本身就是 “AI 原生组织”的组织架构 (参见 管理术语|架构和结构的区别)。

提供企业级智能体 AI 平台是目前企业软件行业的转型方向,例如 SAP 提出的企业 AI架构是:

500

而国内金蝶的企业AI 架构是这样的:

500

这些都包含了本文说的这三层架构,尽管各家使用自己的名词术语来描述技术组件,但是都符合我提出来的架构框架。

站务

最近更新的专栏

全部专栏