“2024年,将是大模型应用年。不要高估新技术的短期影响,也不要低估新技术的长期影响,尤其是大模型。”浪潮通软副总经理兼CTO郑伟波对钛媒体App表示。
浪潮通软的判断与行业一致,但目前大模型落地还存在可见的难题与掣肘,人人都在谈论大模型,无论是使用者还是布道者,反观之,“千模大战”重点还在基础大模型,在行业领域场景的应用落地不够,缺乏与业务场景深度融合的垂域大模型。
大模型落地B端,还要闯几道关?
B端企业客户比C端消费者更加务实,仅仅靠对话无法让企业客户为之买单,过去一年,行业集体都处于试错和探索阶段,评估大模型是否值得投入,该怎么投入才能产生更高价值,大模型厂商都在渲染革命性,而企业客户都在看重可行性。
首先是成本,大模型训练和部署成本相对较高,千亿级大模型在企业中的应用仅推理设备就是一笔较大的投入,且大模型带来的收益评价难点也较高,因此如何降低使用成本,如何把控大模型的投入产出平衡,是未来大模型在企业软件中应用所要持续考虑的。
其次,适用性是关键,知识是核心,通用大模型在企业中的适用场景有限,基于大模型设想的场景往往比较多,但是真正能够落地,真正能够解决真问题,利用大模型的能力做出符合企业需求的应用,核心要看企业的“知识”。对特定行业的深入理解,找到真场景,形成有价值的行业、领域知识,是大模型在企业应用软件落地所面临的一大挑战。
再次是数据准确性、可信性,保证数据、知识来源的正确性是前提,大模型输出信息内容的可信、准确是根本目标。此外,企业的知识、数据往往是分散的,隐性的,如何梳理,如何管理也是难题。
此外,生态也是亟待补充,对话问答只是大语言模型应用的一个方面,与系统服务融合,完成各种任务才是关键。企业应用环境复杂,涉及多厂商软件,大模型和软件的融合需要协同厂商建立生态,丰富大模型应用插件库。与模型伙伴、行业ISV及应用企业多层次全方面的合作共赢,是未来大模型发展趋势。
最后也是最重要的,数据与隐私安全,大模型的研发和应用过程中,存在数据泄露和价值观等多方面的安全风险,特别是调用一些大模型公网API服务时,企业用户更有顾虑。即便是私有部署的模型,仍然面临着难以确定大模型返回的数据是否根据使用者的角色进行了数据内容限制的挑战。
“五个挑战谁先突破,谁就能占得先机。这里面又有两点有为关键,第一是自身大模型能力,第二则是生态。”郑伟波说,
能力方面,大模型生成的质量、理解推理的准确性、思维链的可控性等等,都要达到一定临界值才能得到广泛持续应用。
在生态方面,要想打造真正好用的大模型,就需要去和各种场景结合,实现各种场景下大模型的应用落地,并持续深度优化,要有更为广泛的开发者在大模型之上构建丰富的应用生态,丰富大模型应用插件库,以开放的姿态推动大模型生态建设。
浪潮海岳大模型:找准定位、场景拉动
浪潮通软于2023年9月份发布了浪潮海岳大模型inGPT,定位于企业服务垂域大模型,并和海岳PaaS平台、智能ERP、工业软件相结合。
郑伟波表示,自海岳大模型发布之后,我们发现,融合领域知识非常重要。大模型的知识分三层:通用知识、垂域知识和企业知识。
浪潮通软在垂域知识的梳理和沉淀上做了很多工作,这得益于其在大型集团企业经营管理领域30多年的行业深耕,尤其在财务、人力、司库等业务领域,以及智能制造、粮食仓储、智慧水务、智慧矿山等垂域行业也有深厚的积累,基于这些领域实践,沉淀下来了大量领域专有知识,作为大模型训练数据来源,进而打造深度结合业务的垂域大模型。
在企业应用方面,私有化是重要场景,企业知识出于安全考虑,一定要放在企业本地,需要在企业端对知识进行管理,对此,浪潮通软也为企业打造了配套的知识化工具,提供模型“精调”能力。
大模型和应用深度结合也是大模型发展的重要路径之一,海岳大模型和海岳PaaS平台、智能ERP相结合形成了对话式智能商业分析、智能搜索、智能问答、智能化软件开发、智能流程自动化等智能化应用,赋能企业智能场景落地。
大模型在企业端落地也需要工程化的支撑,海岳大模型提供企业大模型应用开发平台,封装了一系列知识管理工具集、大模型微调框架、大模型应用插件库、服务编排组件等工具,为企业提供覆盖基础大模型纳管、知识治理、模型管理、服务编排、部署交付、运营维护的全生命周期服务,以自动化的流程和智能化的交互,提高企业的服务质量和效率。
郑伟波认为,浪潮通软在大模型领域的差异化优势,主要还是体现在采取和应用相结合的策略上,实现垂域大模型+智能应用一体化。
“大模型与应用的融合需要两边都做出改变,大模型要为应用做出改变,应用也要为大模型能更好的理解、推理、生成,进行架构上的调整,一体化的研发设计是关键优势。例如,我们的API为了更好地被大模型识别、编排,在描述和调用方式上都进行了优化。”他说。
通用大模型赢家是少数,垂域大模型更有机会
通用大模型的早期热度有多喧嚣,结束得就有多潦草,甚至不起一丝涟漪,一些基础大模型没有调用量,自然消失在市面上。
郑伟波表示,未来大模型的发展还是要以应用为中心,在基础大模型之上,要衍生出更多面向不同领域、行业和场景的垂域大模型,实现垂域大模型的百花齐放,进而支撑上层成千上万甚至数以百万计的 AI原生应用。
“最后能够‘跑’出来的大模型要分情况,通用大模型最后能‘跑’出来的,应该是少数头部大模型,而垂域大模型由于面向多样的领域、场景和应用,能‘跑’出来大模型会更多。”他补充道
与此同时,大模型应用正在朝AI原生化重构方向发展,OpenAI推出了可以自定义的GPTs, 让大家看到了AI原生应用雏形, 2024年1月11日上线的GPTStore应用市场,更确认大模型正成为AI操作系统。
基于思维链编排的自主智能体将改变未来软件形态,成为未来软件架构的重要发展趋势。未来每个人将拥有更多大模型主动权。随着AI Agent与大模型的逐渐演化,自主智能代理越来越强大,AI原生应用也将助力打造人机融合演进的数字世界和生活。
大模型推动了软件在开发、交互、运行、运维模式上的变革,软件产品的智能化程度也随之越来越高。
开发方面,基于大模型,能实现代码自动补全、解释代码并优化、生成单元测试用例、回答编码问题等一系列能力。
交互方面,大模型驱动软件交互模式从菜单驱动的GUI发展到对话驱动的CUI,开启了软件智能对话时代。
运行方面,随着大模型与企业应用的融合梯次深化,软件产品从嵌入智能发展到原生智能,基于思维链编排的自主智能体成为未来软件架构的重要发展趋势。
运维方面,大模型也为企业IT管理打造了智能化的自动驾驶系统。
“大模型发展才刚刚开始,基础大模型会逐渐向头部聚集,垂域大模型和应用创新百花齐放,在垂域大模型之上打造与各行业、领域深度融合的AI 原生应用,才能将大模型的价值有效释放。”郑伟波总结表示。
(本文首发钛媒体APP 作者|张帅,欢迎添加作者mr3right爆料、交流)
根据《网络安全法》实名制要求,请绑定手机号后发表评论