场景描述
作为国内运动健康领域研发能力卓越的智能科技企业之一,维塑科技一直专注于“AI+ 运动健康”交叉学科领域的研发与应用。在 AI 大模型的浪潮下,维塑科技也希望通过生成式 AI 的技术让传统健身行业实现蜕变升级,利用维塑科技先进的 3D 智能身体评估设备(以下简称“体测设备”)结合大模型算法,输出更易懂、更科学的检测结果,提升用户的健身体验。因此,维塑科技决定研发一款运动健身领域的生成式 AI 大模型,为大健康行业打造一颗“智能大脑”。
开始研发一款大模型并非易事,维塑科技也面临了诸多挑战:1) 专注应用研发,对基础设施部署与模型选型缺乏足够准备;2) 健身行业具备波峰波谷特点,因此需要基础设施具备弹性伸缩功能。
解决方案
在通过了解与学习后,维塑科技决定选择市面上已有的大语言模型进行微调与训练。但如何选择一个合适的模型来更好的匹配相应的业务是维塑科技面临的首要问题。最初,维塑科技选择了市面上流行的大模型作为基础模型进行训练,但在使用过程中发现,模型使用成本高,且会有延迟问题。另外,由于是闭源模型,因此无法更深入的进行调参,有针对性地满足业务需求。
在 Amazon SageMaker 中轻松构建由 20 多万数据集训练的大语言模型
亚马逊云科技服务团队针对维塑科技的业务需求,以及对市面上大模型的深入了解,认为开源的中文大模型更能符合维塑科技的需求,在亚马逊云科技建议下,维塑科技最终选择了清华大学研发的、支持中英双语的开源对话语言模型 ChatGLM 为基础模型,并在 Amazon SageMaker 中进行构建。 Amazon SageMaker 拥有完全托管的机器学习服务能力,可以帮助维塑科技进行模型的部署和管理。
技术选型完成后,亚马逊云科技配合维塑科技进行 20 多万语料数据集的准备,并以 ChatGLM 为基础模型在高性能的计算资源 Amazon Elastic Compute Cloud P4d(Amazon EC2 P4) 实例上运用已 POC 验证的 Amazon SageMaker Notebook 脚本做全量微调,Amazon EC2 P4 实例是一种强大的 GPU 实例,适用于深度学习和机器学习等计算密集型任务。维塑科技可以利用这些实例进行大规模模型训练和推理,以满足其应用的需求。
波峰波谷不用怕,无需手动管理,轻松扩展实例
亚马逊云科技也为维塑科技波峰波谷较为明显的业务特点提供了解决方案,利用 Amazon SageMaker AutoScaling 的能力,系统可以自动按照负载调整需要的资源,在业务高峰期,该工具能自动增加资源供给,确保系统稳定、响应迅速;而在业务低谷期,它则能减少资源使用,避免浪费,降低成本。通过使用 Amazon SageMaker AutoScaling,维塑科技可以确保在任何时候都能满足用户的需求,同时也能大大降低运营成本。这种自动调整资源的方式,不仅提供了业务连续性的保障,也为企业带来了实质的经济效益。
成效
一个半月快速部署,从容应对生成式 AI 带来的技术变革
最终,专属于运动健身领域的大模型——夸父大模型成功推出。该模型累计学习了 950 类运动数据,60 多万种中美营养知识库,结合维塑 800 万+人体健康数据库,可以围绕各类身体数据进行深度分析与评估。
夸父大模型推出后,100 个内测名额被瞬间抢光,并使维塑科技的海外业务得到了明显的提升。维塑科技与亚马逊云科技的合作是一个从 0 到 1 的过程,作为一 家较早涉足生成式 AI 的大健康公司,亚马逊云科技帮助维塑科技抢先占领了市场,提高了产品的竞争力。
同时,亚马逊云科技提供的完善的端到端的生成式 AI 技术堆栈,让维塑科技省去了大量的人力和时间去重新构建基础设施,大大提高了研发效率,使团队能够更专注于算法研究和产品优化。
维塑科技 CTO 褚智威表示“在亚马逊云科技支持下,维塑科技成功构建了夸父大模型,领跑大健康领域的智能化革命的到来,完成了从选型、微调到部署的全生命周期解决方案,并在 40 多天内全面线上应用。实现了运动健身行业的数字化蜕变,让人工智能真正为现实训练场景赋能!”
最终,首款基于夸父大模型的人工智能落地产品“AI 教练助手”顺利上线。该应用是一款面向企业客户(如健身房、瑜伽馆等)的专属应用。用户在使用维塑科技提供的 3D 体测仪进行测量后,通过该应用生成详细的体测报告,并提供个性化的健身及饮食建议。这些报告和建议不仅通俗易懂,而且能够帮助健身教练和用户更全面地了解自己的身体状况和训练需求,从而更有效地进行健身训练。
根据《网络安全法》实名制要求,请绑定手机号后发表评论