在人工智能(AI)大模型军备竞赛如火如荼之际,AI PC 加上端侧的小参数模型正在开创新的竞争领域。
北京时间12月14日晚23点,美国纽约举行的“AI 无处不在”活动上,芯片巨头英特尔(Intel)正式发布首款基于Intel 4(对应TSMC 7nm)制程、Meteor Lake架构、搭载全新AI PC技术的英特尔酷睿Ultra移动处理器系列产品。
“AI 代表着一代人的改变,它开启了全球扩张的新纪元,在这个时代,计算将成为了为所有人创造更美好未来的基础。”英特尔CEO基辛格(Pat Gelsinger)于今年9月表示,酷睿Ultra代表英特尔40年来最重大的架构变革,并将成为英特尔最具能效比的客户端处理器。性能方面,与AMD Ryzen 7 7840U相比,酷睿Ultra 7 165H芯片的多线程性能增长11%,与前代酷睿i7-1370P相比,新的酷睿Ultra功耗降低了25%。更为重要的是,它可以在Windows中运行70亿、130亿等参数规模的模型,AI 算力比上一代有所提升。
即日起,联想、华硕等230多款机型将会发布内置酷睿Ultra系列芯片的AI PC产品。而且,英特尔还正与100多家软件厂商紧密合作,预计明年为PC市场带来数百款 AI 增强应用。同时,英特尔还公布了明年一季度推出的第五代至强处理器,以及首次展示于明年发布的Gaudi 3 AI加速芯片——性能超过英伟达H100。
无独有偶。微软于本周发布了27亿参数的小语言模型Phi-2,部分领域超过谷歌的Gemini Nano 2,可以在笔记本电脑、手机等移动设备上运行。微软CEO纳德拉(Satya Nadella)发推文热捧该模型具有先进技术、以及创新力。有分析认为,微软在大模型领域被ChatGPT抢先一步,而小模型赛道希望“必坐头把交椅”。
当年轰动一时的“Wintel”(Windows+英特尔)组合改变了全球互联网的架构格局。但过去10年的移动互联网时代中,这一组合被Arm、谷歌安卓、苹果等所取代。然而如今,在新的 AI 时代下,微软、英特尔不约而同地拥抱 AI PC和端侧模型,这对于发展数十年的PC(个人电脑)行业来说不同寻常,尤其是当前消费电子市场持续低迷、PC出货量下降等背景下。
据研究机构 IDC 联合联想发布的《AI PC产业(中国)白皮书》数据显示,虽然消费电子放缓,但报告认为AI PC市场有望迎来新增长。未来5年,AI PC在中国PC市场中新机的装配比例将从2023年的8.1%,预计到2027年增长至85%,成为PC市场主流。这意味着,5年内AI PC装机量增长超过10倍。
然而,虽然参数规模较小的模型可降低 AI 算力和应用成本,同时极大地拓宽生成式AI技术的应用范围,但问题在于,AI PC所应用的端侧模型在幻觉(反馈信息错误)、对齐、通用性等方面仍存在一定缺陷和挑战。OpenAI曾发文直指,小模型可以监督大模型,但无法取代和颠覆GPT-4这类大模型。
受新消息影响,美股12月14日,英特尔股价连夜大涨,盘中一度涨逾5.6%。截至发稿前,英特尔股价收涨至1.37%,报收45.18美元/股,市值1904.79亿美元。年初至今,在 AI 影响下,英特尔股价累计涨幅达68%,而其竞争对手、GPU(图形处理器)龙头英伟达股价同期上涨近230%。
什么是AI PC?为何端侧小模型会兴起?
今年以来,随着宏观经济因素影响,消费电子需求放缓,PC销量持续低迷。
据集邦咨询数据显示,2023年上半年,全球笔记本电脑出货量合计7750万台,年减23.5%。预计整个2023年,全球笔记本电脑出货量将达到1.67亿台,较去年减少10.2%。
然而,PC产业人士认为,明年整个行业会出现复位回温。而生成式 AI 有望成为PC行业的分水岭,未来将会给PC产品带来革命性的提升和巨大增长机遇。
戴尔科技集团全球资深副总裁王利军今年8月对钛媒体App表示,今年PC行业处于复位修正阶段,消费电子这一周期性复位修正可能还没完全结束,需几个季度完成,并且产业上下游需要成本、产品切换的复位,很多公司和行业都处于调整阶段,主要为明年整个PC行业复苏增长做准备。
早在今年9月,基辛格提出AI PC这一全新概念。他当时表示,AI将通过云与PC紧密协作,进而从根本上改变、重塑和重构PC体验,释放人们的生产力和创造力,“我们正迈向AI PC的新时代。”他预计,未来两年内AI PC的出货规模将达到1亿台。
今晨主题演讲中,基辛格也指出,AI 创新对于全球GDP(国内生产总值)经济影响重大。原本超过15%的GDP增长是由数字经济推动的,且预计到2030年增长率将达25%,但在 AI 创新助力下,整个GDP增长有望达到33%,即AI 创新将把数字经济的影响力提升至全球GDP的三分之一。“到2028年,AI PC 将占据 PC 市场的 80%。”
那么,为什么英特尔要提出AI PC?端侧 AI 小模型的意义是什么?
英特尔中国区技术总经理高宇在本月的一场活动中指出,PC有4大工具属性:一是强大的生产力工具,二是最好玩的娱乐工具,三是非常有效的沟通和协作工具,四是最好用的学习工具。而过去一段时间 AI 与 PC之间的结合已经在发生,很多 PC 应用都采用视频增强、消除语音噪声、视频会议背景虚化的 AI 技术。
高宇表示,如今,新的 AI PC可以为用户带来定制/个性化、低时延、高安全、低成本四个用户价值,从而让 PC 设备未来在生成式 AI 加持下形成一个能感知、分析、创作、辅助的人们真正的好帮手。
联想集团董事长兼CEO杨元庆也曾表示,相较于今天的个人电脑,未来AI PC将具备五大核心要素:1、AI PC能够运行经过压缩和性能优化的个人大模型;2、具备更强的算力,能够支持包括CPU、GPU、NPU在内的异构计算;3、具备更大的存储;4、具备更顺畅的自然语言交互,甚至可以用语音、手势跟它完成互动;5、具备更可靠的安全和隐私保护。
“AI PC 能够为用户提供通用场景下的个性化服务,提供即时、可靠的服务响应,更低的大模型使用成本以及可信、安全的个人数据和隐私保障。”IDC在白皮书报告中指出,AI与PC的结合,将形成算力平台+个人大模型+AI 应用的新型混合体,即AI PC将 AI 的能力真正惠及每一个人。
而12月14日推出的基于Meteor Lake架构的酷睿Ultra处理器,就是英特尔开启AI PC新时代的第一把钥匙。
具体来说,新一代酷睿Ultra处理器在算力、架构、软件和生态等方面均有所布局与增强。
首先是算力。英特尔表示,新一代酷睿Ultra系列旗舰产品Intel Core Ultra 9 185H,拥有16个核心和22个线程。在这16个内核中,它有6个性能 (P) 内核和8个高效 (E) 内核,最高主频达5.1GHz。与AMD Ryzen 7 7840U等产品相比,酷睿Ultra 7 165H芯片的多线程性能提高了11%。与上一代英特尔酷睿i7-1370P 相比,165H功耗降低了 25%,并且“在超薄本的相同28W功耗范围内”,酷睿Ultra 7 165H功耗比AMD Ryzen 7 7840U降低了79%。
架构层面,新一代酷睿Ultra是英特尔首款同时集成CPU(中央处理器)、Arc GPU(锐炫图形处理器)、NPU(神经网络处理单元)的移动处理器产品。其中,酷睿Ultra采用的英特尔首个用于客户端的片上AI 加速器NPU,能带来2.5倍于上一代产品的能效表现,AI 算力比上一代增长8倍,可用于在PC上带来高能效的AI加速和本地推理体验。
软件层面,英特尔表示,相比上一代,搭载酷睿Ultra系列的PC设备已经能够将Adobe Premiere视频编辑时间减少56%以上。同时,英特尔还有OpenVINO、Geti AI软件等支持。据高宇透露,英特尔酷睿Ultra 处理器已成功适配了超过10款国内大型模型,而且还将致力于全面适配各种尺寸适合的模型,以满足激烈竞争的大模型市场需求。
英特尔早前披露,新的英特尔Geti软件平台可在几天内就能生产出定制的 AI 模型。华擎工业工厂利用英特尔Geti软件平台研发出 AI 自动光学检测技术,从而将其印刷电路板组装检测效率提高258%,准确度达到97%。
生态层面,目前基于酷睿Ultra处理器的 AI PC设备已经开始发售,明年英特尔酷睿Ultra将在联想、华硕、微星、微软等230多款电脑机型当中应用。截至发稿前,华硕宣布推出搭载酷睿Ultra的轻薄本Zenbook 14 OLED笔记本电脑,起售价1299.99美元;联想则将推出三款配备新芯片的笔记本电脑,包括第12代ThinkPad X1 Carbon、第9代ThinkPad X1 2合1和IdeaPad Pro 5i等,起售价1150美元以上,将于明年3月开始上市。
作为头部PC企业,联想已率先在今年10月24日展示了其AI PC样机。“PC行业的竞争从20年前到今天,一直很激烈。对于我们来讲,我们和其他竞争者区隔的制胜王牌就是创新、研发和设计。我们在这些方面一直以来的投资使得我们能够在竞争中优于友商,那么针对AI PC,我们也会秉持这样的理念持续在这些方面加码投资。”联想集团方面表示。
不过,这种通过端侧设备(PC、手机等)形成的 AI 模型仍存挑战,包括具有幻觉(反馈信息错误)、通用性以及内存和硬件升级成本等问题。
比如,利用搭载 AI 芯片的手机设备小米14的大模型软件,提问“王小川现在在做什么”,AI 模型回答的还是三、四年前的职位,数据量陈旧,信息也并不准确。
而且,除了对处理器算力的要求,端侧模型对内存和存储空间的大量占用,势必要求终端设备硬件配置升级,恐大幅推高购机成本。对于依赖电池供电的移动终端,大模型还面临能耗的挑战,行业普遍认为,电池密度是短期最难突破的硬件短板。
所以,无论从哪个角度来看,依靠PC终端的算力支持实现 AI 模型发展都存在一定的瓶颈问题,也无法利用这一形式让国内 AI 大模型“弯道超车”于基于云端的GPT-4,技术差距太大、使用能力稍弱,最多是让 PC 设备有更多的宣传“卖点”。
一名端侧大模型开发者坦言,当前端侧大模型能力不足以支持增量市场,各厂商只是急于营销保销量。要想让消费者感受到 AI 带来的质变,可能还需要半年到一年时间。
群智咨询则指出,预计2024年,全球AI PC整机出货量将达到约1300万台,2025年至2026年,AI PC整机出货量将继续保持两位数以上的年增长率,并在2027年成为主流化的PC产品类型。
这意味着,未来,全球PC产业将进入AI PC时代。
比尔·盖茨:AI 即将改变你使用计算机的方式
今年11月,微软创始人、盖茨基金会联席主席比尔·盖茨(Bill Gates)在其博客中发文称,AI 即将改变你使用计算机的方式。
他认为,此前尽管软件进步很快,但仍相当“愚蠢”。而未来五年,这种情况将彻底改变,AI 能够使软件更加个性化反馈,不久的将来所有上网的人都能拥有远超当今技术的 AI 驱动的个人助理。“AI Agents(智能体)不仅会改变每个人与计算机交互的方式。它们还将颠覆软件行业,带来自我们从输入命令到点击图标以来最大的计算革命。”盖茨表示。
实际上,无论是英特尔,还是微软,都希望借助AI热潮重振该公司的业务。
其中,英特尔曾因制程策略上的失误和更广泛的个人电脑市场低迷而遭受重创,微软则错失了移动互联网终端和系统的热潮,将市场份额拱手让给了苹果、高通、Arm、谷歌等厂商。同时,英特尔、微软的一些最大客户现在也开始自主设计芯片和软件,会促使两家公司尽快发生转变。
“2023年,AI 创新的步伐令人震惊,但更令人印象深刻的是,人们如何应用这项技术为他们的职业、社区和国家带来真正的改变。”纳德拉在12月15日凌晨发视频表示,微软推出的Copilot由OpenAI的GPT技术提供支持,并用它为企业构建自己的AI产品。他透露,在短短几个月的时间里,微软已经与全球多个企业建立合作伙伴关系,这些企业正在使用微软 AI 系统来构建产品。
基辛格则在会议上重申:“少数人创造AI模型,但多数人使用它们。”他补充说,基于数据中心的高成本,AI应用更可能在个人电脑和其他设备上运行,通过互联网发送数据也限制了系统的响应能力。而数十家个人PC厂商正在使用其酷睿Ultra,试图吸引消费者升级他们的设备,以迎接AI PC新时代。
此外,今晨会议上,英特尔还发布了第五代至强处理器,在性能和能效方面都有重大提升。与上一代产品相比,在相同的热设计功率范围内,平均性能提升21%,并在一系列工作负载中将每瓦性能提升高达36%。对于遵循典型的五年更新周期并从更前一代处理器进行升级的客户,总体拥有成本最多可降低77%。
AI 模型方面,英特尔表示,全新第五代英特尔至强可扩展处理器可以微调参数量多达200亿的大模型,并将其推理性能提高42%。现阶段,英特尔至强可扩展处理器也是唯一一款拥有MLPerf训练和推理基准测试结果并持续提升性能的CPU。作为第五代至强处理器的客户,IBM表示,与上一代至强产品测试数据相比,新的至强处理器在其watsonx.data平台上的网络查询吞吐量提高2.7倍。
今晨,英特尔还展示了明年发布的AI芯片Gaudi 3,采用台积电5nm制程,将用于深度学习和大型生成式AI模型。据英特尔声称,Gaudi 3性能已超过英伟达 AI 芯片H100,将在市场上直接对标AMD MI300X、英伟达H200和B100等产品。
AMD上周表示,未来四年内,AI加速器的市场规模可能会攀升至4000亿美元以上。
基辛格的目标是扭转公司的颓势,使英特尔在芯片行业重新占据重要地位,也就是通过五年四个节点实现“超越”。他相信,到2023年末,半导体行业的销售额将增长到1万亿美元。基辛格强调,他的重振计划正在奏效。
然而,多位行业人士坦言,AI PC尚处初级阶段,行业还在探索未来应用。据集邦咨询11月8日发布的研报指出,AI PC目前软硬件成本高昂,初期将集中于高端商务用户与内容创作者。理由是,该群体对运用AI处理功能换取生产力效率有较高需求,还能即刻受益。
该机构还称,AI PC的出现,不一定能刺激额外的采购需求,多数PC将伴随2024年商务换机过程自然移转、升级;此外,由于目前云端AI应用已能满足日常生活和娱乐需求,若短期未能诞生“杀手级应用”,消费型AI PC恐难快速普及。
(本文首发钛媒体App,作者|林志佳)
根据《网络安全法》实名制要求,请绑定手机号后发表评论