AI中台——智能聊天机器人平台的架构与应用(分享实录) (2)

在过去,很多算法团队更像是算法外包团队,根据不同业务线的需求,各自构建阵地,逐个攻克目标。这样的形式虽然也取得了很多成绩,但存在重复建设、效率有限的问题。

我们将这些问题总结如下:

“烟囱式”开发,项目成本高、不易集成,过程重复,缺乏能力沉淀。

模型访问方式各异,调用关系错综复杂,缺乏编排优化、协同。

手工进行数据操作,缺少统一数据访问渠道,数据获取难、标准不统一。

模型研发缺乏标准指导、参与角色众多,缺少协同、自动化辅助,难以有效管理沟通协作。

模型交付难,缺少统一的模型运行、监控平台、服务管理接口及更新、维护机制。

基础资源分散隔离,无法动态进行资源的分配和管理,造成浪费。

这些都是AI中台需要解决的痛点,针对以上痛点,我们希望:

对于算法、模型的标准化平台化,对研发过程标准化指导,以提高可复用性。

统一的服务接口规范,支持服务的动态编排组合。

与数据中台对接,利用数据中台的能力对数据进行标准化处理和预处理。

流程优化,清晰角色定义,构建AI产品流水线,具备环节内部、环节之间的自动迭代、流转功能。

提供统一的模型交付部署、运行环境和监控能力,以及模型更新机制。

统一资源管理,包括计算资源、存储资源等,支持资源弹性调度。

总结起来就是:可复用化、服务统一化、对接数据中台、流程角色优化、运行监控化和资源管控化,最终让AI中台成为一个强大的AI能力支持中心,根据业务需求快速提供火力支援,迅速完成商业价值。

1.5 AI中台平台架构

AI中台——智能聊天机器人平台的架构与应用(分享实录)

下面介绍AI中台的平台架构。

最下面是数据中台,提供数据处理、数据分析、数据管理、数据安全、数据服务等能力。最上面是业务前台,包括各条业务线。AI中台处于数据中台和业务前台的中间位置。

如图所示,整个AI中台由几个模块组成:

AIHub智能服务:以服务的方式将模型封装起来,提供模型服务运行平台能力。包括模型发布测试、自动部署、模型更新、模型交付、产品封装等。

AIMon平台监控:对运行的模型进行监控和预警,提供平台的监控服务。包括性能测试、状态反馈、预警通知等。

AIKit智能工具箱:提供轻量级、低侵入的AI工具服务,AI应用团队可以自由选用。例如:通过无缝嵌入python语言开发环境,Moonbox可以提供虚拟查询数据、混算数据等能力。也提供数据标注能力,包括结构化数据,以及文字、图像等非结构化数据的在线标注。

AIMgt中台管理:AI中台的一些通用管理能力。包括:角色权限、租户管理、流程控制、资源管理等。

AILab智能试验室:提供标准的模型训练与优化过程支持。包括模型设计、模型训练、特征工程、特征处理、模型追踪、模型评估、算法库、模型库等。

AIAsset智能资产:用于模型资产管理,实现AI能力沉淀、复用、盘点。

CUI会话式UI:这是我们AI中台的一个产品,就是接下来我们要介绍的可用于问答、闲聊、任务、推荐等场景的聊天机器人平台,从机器人平台的角度也包含语音外呼机器人。

1.6 AI中台的能力架构

AI中台——智能聊天机器人平台的架构与应用(分享实录)

上图展示AI中台的能力架构。我们以能力的角度来描述AI中台对外输出。除了前文介绍的服务运行能力、监控预警能力、资源管理能力(就是图中左边的几个模块)以外,我们把AI中台的能力分为4层:

1)平台层

比如数据获取能力、在线训练能力、在线标注能力、特征工程能力、自助训练能力等。这些能力是通过AI工具集和AIlab来实现的。

这层的用户主要包括:

算法工程师(AI中台、AI团队),他们可以使用AI中台提供的平台层能力来进行在线训练、复用算法库、复用平台计算资源、进行各种实验等。

高级研发人员、数据分析人员,他们可以使用AI中台的自助训练能力,进行自助训练,例如:根据自己已经标注好的数据,自助训练分类模型。

2)AI技术层

AI技术层主要提供:AI基础能力,包括词法分析、语音合成、文章分类、图像识别等,这些本质上是AI技术NLP、语音、图像、视频等大分类里的能力。

3)AI业务层

AI业务层主要提供AI技术与业务相结合后能提供的能力,比如:评论观点提取、文章标签、卡证类识别、人脸识别、视频审查等。

内容版权声明:除非注明,否则皆为本站原创文章。

转载注明出处:https://www.heiqu.com/zyyzys.html