2024T-EDGE文章详情顶部

算力网络建设露出“冰山一角”

虽然算力是大模型发展中最重要的一环,但是在混合AI的未来,面向个体、面向隐私、面向可靠的分发的AI创新平台,必将催生对于网络架构、协议、存储等形态的变革。

算力网络是一种以计算能力为主要资源,以网络为载体,实现资源共享和协同工作的新型基础设施,也是打开算力真正价值的“钥匙”。随着云计算、大数据、人工智能等技术的不断发展,算力网络在各行各业的应用越来越广泛,如智慧城市、工业互联网、金融科技等。

目前,全球算力网络建设进入了一个高速发展阶段。据国际数据公司(IDC)发布的报告显示,全球算力投资额将在未来五年内以每年16.5%的复合增长率增长。中国作为全球最大的算力市场之一,算力投资额占比已超过全球总投资额的1/3。

智算需要新的网络方能释放更大价值

大模型走进我们的视野已经过去近一年的时间。在这期间,行业内似乎对于作为底层支撑的智算中心更加关注,更加关注如何能够提升算力、算效,以更快的时间,更低的成本,打造更好的大模型产品。

高通于2023年9月发布了AI白皮书,提出 “混合AI是AI的未来”。在其最新的Snapdragon8 Gen3芯片中更是集成了73Tops算力的NPU,使得在终端侧运行100亿参数级别的模型成为可能。

这预示着大模型也将进入一个全新的发展阶段,模型算法、部署、推理、分发等方面都将面临全新的挑战。虽然算力是其中最重要的一环,但是在混合AI的未来,面向个体、面向隐私、面向可靠的分发的AI创新平台,必将催生对于网络架构、协议、存储等形态的变革。

在互联科技AINet负责人张先国看来,在以模型为中心的AIG时代,对强有力的网络生态系统的需求将更加迫切。“在大模型时代,传统的互联网的‘公网’已经不足以满足当下的业务和应用需求。”张先国强调,“时代需要一张新的网络去承载AGI业务需求。”

中关村超互联新基建产业创新联盟秘书长马炬也有着相似的观点,他表示:“现有的网络是否能承载大模型时代的模型训练、网络传输,以及算力供给等方面的需求?这是现阶段行业需要考虑的一大问题。”

互联网需要跟上算力需求

算力服务本质就是能够把算力像水和电一样随用随取,在此过程中,网络时延是衡量使用算力是否便捷、普惠和泛在关键指标之一。张先国对钛媒体表示,在AGI快速发展的当下,企业、用户需要一个更加智能、更加便捷的互联网架构,这个网络架构也将是解锁大模型价值的关键钥匙。

与此同时,《算力基础设施高质量发展行动计划》中要求到2025年国家枢纽节点数据中心集群间基本实现不高于理论时延1.5倍的直连网络传输主要目标。《计划》提出强化算力接入网络能力,城区重要算力基础设施间时延不高于1ms,推动算力网络国家枢纽节点直连网络骨干节点,国家枢纽节点内重要算力基础设施间时延不高于5ms等重点任务。

网络的建设可以从两个方面看,一方面,如今训练模型的数据集已经达到TB级别,而因成本等原因的影响,训练一般放在“东数西算”中的“西算”节点,可应用场景一般来说是“东部地区”较多,如何“用一杯咖啡”的时间,完成快速的数据的传输对当下的模型训练而言,是个挑战;

另一方面,训练好的模型,在应用过程中的调优、推理等过程,上百GB的数据如何以秒级的速度快速推送到每个边缘节点,对网络建设而言,也是个挑战。

在张先国看来,现阶段,对时延要求较高的应用大多数应用SD-WAN和VPN等技术,“对于企业而言,SD-WAN和VPN技术虽然可以确保安全、快速的传输,但是使用过高,不具备普惠性。”张先国如是说。

算力网络重构进行时

在此背景下,AGI实现真正普惠需要一个更低成本、更便捷、更快速、更安全的智能网络架构的支持。钛媒体注意到,近日,互联科技联合多家机构、单位,共同发布了超级互联(Ultra Cross Connects,简称UCC)技术理念。

据钛媒体了解。超级互联(UCC)包含智能互联(Intelligent Cross Connects,ICC)和分布式互联(Decentralized Cross Connects,DCC)。ICC是指一个具备AI推理能力,承载各种生成式AI创新应用的智能推理应用入口;DCC是指构成数字新世界的“脑神经网络”,具有无所不在、无时不有的分布式属性。UCC不是简单的宽带升级,而一种全新的万物智能互联方式,一个让人、机器、模型和数据更紧密连接的未来世界的愿景。

互联科技CEO吴健对钛媒体表示,UCC的愿景目标是推出一种互联网宽带接入以外的第二个物理连接AINet。

值得注意的是,算力网络已经成为当下行业关注的焦点,除了此次互联科技联合业内众多服务商发布的UCC以外,据钛媒体了解,中国信通院也希望凭借自身政府主管部门的属性,提出了“算力服务时延圈领航者计划”,力图规范化、标准化算力网络建设。据了解,该计划在1.0标准互联网访问基础上,面向算力节点覆盖、网络时延、传输质量、统一管控等方面,联合产业界持续构建算力服务时延圈2.0标准体系,重点围绕算力服务接入、算间互联、时延地图、管控调度等方面进行标准化,统一算力时延圈定义,规范网络时延测试方法。

济南超算中心则建设了对外的互联网出口网络带宽超过15Gbps,并于与青云科技合作打造了基于SD-WAN网络接入的方式。同时还与青云科技合作,针对已有的集群,进行算力融合和算力调度。在边缘计算上,济南超算中心与青云科技联合打造了基于目前数据中心的物联网平台做了边缘推理。

上述提到的主管部门及服务商在算力网络建设方面开展的工作,仅是“冰山一角”,相信随着企业对算力需求的不断增加,以及AGI相关产品逐步在用户侧落地应用,将有更多的企业布局算力网络建设方面的产品及解决方案。

转载请注明出处、作者和本文链接
声明:文章内容仅供参考、交流、学习、不构成投资建议。
想和千万钛媒体用户分享你的新奇观点和发现,点击这里投稿 。创业或融资寻求报道,点击这里

敬原创,有钛度,得赞赏

赞赏支持
发表评论
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容
  • 算力在智能社会中的重要性是否被过高估计?

    回复 2023.11.01 · via netease
  • 你认为算力在这个时代重要吗

    回复 2023.11.01 · via netease

AWARDS-文章详情右上

2

扫描下载App