解决方案

设计 “6+3” 框架，集成和应用多种模型，根据业务场景要求，智能分流选择合适模型

中集集团及下属板块业务场景覆盖广泛，面临着多样化需求和专业化挑战，需要找到自身生成式 AI 创新应用的道路。基于亚马逊云科技和中集集团成立的联合实验室，双方通过多次技术交流协助中集完成了生成式 AI 的产业发展评估，并结合中集集团的战略和业务现状，通过原型方案快速验证，共同研究设计了 “6+3” LLM 创新应用框架，平衡 LLM 的创新应用与中集集团的数据安全需求。框架中的 “3”，代表在业务应用中需要三类定制化模型的支持和辅助：

• 适用于敏感信息处理的模型：专门识别和处理敏感及保密信息，确保数据安全；采用 Amazon SageMaker 与企业专有、私有化模型相结合，用于法务、招标等场景；
• 适用于企业知识库构建的模型：负责检索和整合企业内部数据，形成独特的企业知识库；面向中集集团海外客户，通过 Amazon Bedrock 调用 Claude 3 Opus 模型，定位为超级智能助手，适用于知识库相关场景；
• 适用于内容改写与数据还原的模型：对 LLM 生成的内容进行改写，并在必要时还原敏感数据；采用 Amazon SageMaker 与国产商用模型结合，适用于需要保障内容合法合规，同时在 LLM 返回内容时，可将交给 LLM 处理的脱敏脱密的企业数据和隐私信息进行还原的场景。通过这三类定制化模型和 LLM 的结合，中集集团保障了核心数据和敏感信息始终在企业内部循环，同时又能与商业化 LLM 无缝集成。中集集团借助亚马逊云科技 Amazon SageMaker JumpStart、先进的 GPU 算力以及联合实验室多年深耕的技术能力和行业经验，灵活选择 LLM，并确保数据安全，利用 Amazon EC2 应用结合 Amazon API Gateway、AWS Lambda 实现标准接口，将企业生成式 AI 创新应用请求智能分流到匹配的模型中去处理，在用户体验、性能、成本三方面取得良好平衡。

  框架中的 “6”，则代表在生成式 AI 服务中的六个关键环节——数据标注、生成、处理、传输、存储和集成中，该框架均为 LLM 在中集集团中的顺畅运行提供了全方位数据支持。该 “6+3” 创新框架为中集集团提供了一个安全、可控的 AI 应用环境，确保中集集团在保护企业数据安全和隐私的同时，充分利用了 LLM 的创新能力。
  构建中集集团企业级生成式 AI 能力底座，规划三类场景化创新应用，在财司客服和维修助手等试点项目成功验证
  基于中集集团的 “6+3” 应用框架和亚马逊云科技的生成式 AI 能力，在双方联合创新实验室的支持下，构建企业级生成式 AI 能力底座，围绕能力、安全和价值构建员工赋能、团队智能应用和数字员工三类可推广的生成式 AI 场景化应用：

• 推出员工赋能应用：围绕员工个人的办公需求，利用 Claude3 强大能力，中集集团为其海外员工个人办公开发了 20 多个智能辅助应用，涵盖了工作报告编写、演讲稿准备、新闻稿撰写和多语种翻译等场景，有效提升员工的工作效率和生产力；
• 构建团队智能应用：中集集团基于企业数据构建了专有知识库，并结合检索增强生成 (RAG) 和智能体 (Agent) 技术，打造智能高效的部门数智服务，该类应用充分利用了企业行业能力和数据资源，为海外一线业务团队提供了强有力的技术支持；
• 打造并部署数字员工：针对海外特定专业场景，中集集团开发了由 LLM 驱动的、具备生成式 AI 能力的数字员工，应用在客户服务等领域；第一位数字员工财司客服 “点点” 已经在财司部署。前两类面向海外业务的应用是通过 Amazon Bedrock 调用 Claude 3 模型，使用 LLM 本身的通用能力；对于第三类数字员工，则需要基于员工的具体属性，如所属部门、角色、岗位级别等，进行模型调优，让其具备相应部门、岗位所需要的技能。目前，中集集团基于亚马逊云科技在通用能力、财务场景、制造场景、法务助手、招投标以及企业内部办公等领域实现突破，已经部署了财司客服、维修助手、虚拟员工等，并推动一系列细分场景下的生成式 AI 应用落地。其中，财司客服 “点点” 是专为客户服务而设计的数字员工，点点能够回答中集集团财司客户的存款、结算、贷款、票据、外汇业务等常见问题，提供业务咨询、流程指引、业务申请资料清单及模板查询等服务。
  “通过试用期测试发现，AI 数字员工能够快速识别客户意图，提供准确的回答和解决方案，而且 ‘服务态度’ 好，没有情绪，7×24 小时在线，服务的广度、强度、频度前所未有，海外客户满意度得到了显著提升。” 中集财司副总经理方继勋说，数字员工不仅让员工从大量重复事务性工作中解放出来，提高了业务价值交付效率，还为业务创新注入了动力，把更多精力投入到创新工作中。

业务收益