场景描述
在生成式 AI 时代,金蝶提出了 “ALL IN AI” 的战略口号,认为生成式 AI 将在 ERP 领域重塑用户体验、重塑企业的业务流程和重塑企业管理者的决策。金蝶对其海外业务 ERP 典型使用场景经过诊断、评估后,决定先聚焦智能提单和智能指标分析两大场景。
要在金蝶的业务场景中应用生成式 AI 精准匹配客户需求,依靠基础模型本身远远不够,还需要集成公司内部系统、API 以及外部系统的数据。Agents (代理) 技术出现后,可以从专有数据源检索所需信息并提供准确且相关的响应,精准捕捉用户意图,十分适合上述两大场景。然而在实践过程中,金蝶遇到了两个主要挑战:1)Agents 在企业管理软件中的成功用例鲜少,需要创新和探索;2)AI 在企业生产场景中的准确率难以预测,需要实际尝试。
解决方案
解决方案 | 基于 Agents for Amazon Bedrock 高效落地智能提单、智能指标分析两大场景
Agents for Amazon Bedrock 助力实现智能提单、智能指标分析两大场景从 0 到 1 快速构建
亚马逊云科技 Amazon Bedrock,拥有丰富的模型选择、差异化模型定制、应用集成等特性,让金蝶在其海外业务中能够轻松访问各种主流模型 ,同时满足了企业级安全性需求。金蝶还在其海外业务中应用亚马逊云科技 Agents for Amazon Bedrock,基于金蝶的 API 和知识库,快速构建专用的智能体应用。Agents for Amazon Bedrock 能够与无服务器服务 Amazon Lambda 和多种向量数据库自动集成,帮助金蝶快速实现生成式 AI 在 ERP 软件应用中的落地。
场景一:智能提单场景,让用户从复杂系统操作转变为便捷的自然语言对话交互
金蝶利用亚马逊云科技 Agents for Amazon Bedrock 对其面向海外客户的提单系统进行优化,构建智能提单系统,将原有 ERP 中基于 GUI (Graphical User Interface,图形用户界面)的表单界面提升为 LUI (Language User Interface,自然语言用户界面)。用户通过自然语言描述后,生成式 AI 能够帮助分析和推导其意图,并给出操作提示,用户按照提示即可简便发起报销、借款、出差等各类单据提交。方首宇说到:“在基于亚马逊云科技面向海外客户构建智能提单系统后,用户只需告诉系统自己的职位以及想要完成的任务,系统就能根据相应规则作出推理,给出相应引导,并反馈给用户。”
场景二:智能指标分析场景,企业管理者无需在繁杂的 BI 报表中寻找数据,而是通过即时对话查询指标和获取精准结果
除智能提单外,Agents 允许用户进行实时的补充和澄清,还可应用于智能指标分析场景。金蝶应用亚马逊云科技 Agents for Amazon Bedrock面向海外客户构建智能指标分析系统,企业管理者可与线上专属 AI 助理进行自然语言对话,获得即时、精准的指标数据查询,避免了在繁杂的 BI 报表中寻找数据的烦恼。在海外业务场景中,与用户确认意图后,金蝶 AI 助理自主拆解任务,并学习企业的知识库,匹配推荐相关度最高的指标。企业管理者就像拥有了 7x24 小时的 1v1 专属财务助手,轻松查询各类财务指标对比分析,重塑了企业的分析和决策流程。
丰富且强大的生成式 AI 工具提升 ERP 系统智能化水平
除了 Agents for Amazon Bedrock,金蝶在其海外业务中还采用了一系列亚马逊云科技的其它服务。智能指标分析场景涉及超过 200 个指标大类、超过4000 个指标子类,数据组成异常复杂,为此,金蝶通过 Amazon Bedrock 调用 Cohere Embed-Multilingual 向量模型,以及采用 Amazon OpenSearch Service 向量库完成指标的向量化、存储和语义查询,通过语义匹配准确获取客户需要查询的指标,快速、精确地返回查询结果。
面向海外客户,金蝶利用 Amazon Bedrock 上的 Claude 3 模型完成自然语言理解、任务拆解和参数提取。通过在 Agent 工具中自建基于 Claude 3 的分类器和命名实体识别 (NER) 提取器,准确获取用户意图,以及历史会话中的参数信息。测试数据表明,Claude 3 Sonnet 中提供的中文理解和信息提取能力准确率达 97%。同时,由于历史信息可通过返回值传递,直接自动填充相关参数,避免信息重复收集,使得用户交互方式更加简便。
在面向海外客户的智能指标分析场景中,为了实现更精准的运营情况查询,金蝶在 Agents for Amazon Bedrock 之上又引入了 Text2SQL,该技术能够通过自然语言处理,将用户的文字查询转化为数据库中的结构化 SQL 查询语句,从而更灵活地获得所需数据。通过这种方式,金蝶进一步提升了查询的灵活性,确保用户能够迅速且准确地获得所需的指标和数据。
成效
2 个月完成生成式 AI 应用高效部署
2024 年 1 月,经过系统评估,金蝶在一周内就完成了面向海外客户的智能提单系统的 POC 验证,并开始面向企业客户推广,获得客户认可。方首宇表示:“截至 2023 年 12 月底,业内开放的 Agents 技术较为稀缺,亚马逊云科技的 Agents for Amazon Bedrock 成熟且易于上手。试用亚马逊云科技的开发工具和平台后,我们迅速实现了Agents 的早期应用场景。
到了 2024 年 5 月,市场上虽然出现了众多厂商的 Agents 框架,但评估发现,亚马逊云科技的 Agents for Amazon Bedrock 在成熟度和易用性方面依然表现优异。亚马逊云科技提供的生成式 AI 开发工具调用方便,产品迭代速度快,前端框架和页面都很清晰;在开发过程中,提供及时的检测跟踪、快速的调试功能,让开发更高效、智能,使得金蝶面向海外业务的生成式 AI 应用迅速落地。” 利用亚马逊云科技的生成式 AI 产品和服务,金蝶 2 个月成功完成了生成式 AI 功能的落地。
简化交互,提升用户 ERP 系统提单体验
面向海外客户的智能提单系统落地后,想要发起 ERP 提单流程的用户,再也不用在 ERP 系统上百个应用、每个应用数百个页签的复杂界面前无所适从,仅仅通过自然语言对话描述,就能自动发起报销、借款、出差等各类单据提交,显著简化了用户与系统的交互方式,极大提升了用户提单体验。
优化流程,借助 Agents 技术智能指标查询准确率可达 100%
采用生成式 AI 技术后,通过面向海外客户的智能指标分析系统,企业管理者能够随时随地查询企业业财状态和数据,且查询的准确率显著提升。在金蝶的实践中,针对简单场景的查询,第一轮答复准确率超过 90%;针对复杂场景的查询,例如带有指标趋势计算的聚合逻辑,第一轮答复准确率为 70% ~ 80% ;借助 Agents 模式与用户进行对话后,如补充具体数据、来源细节后,第二轮答复准确率可达 100%。通过将生成式 AI 技术融入了企业的业务流程,优化了企业使用 ERP 系统的方式和过程,进一步提升企业运营效率。
根据《网络安全法》实名制要求,请绑定手机号后发表评论