Akamai发布AI推理解决方案,允许边缘端轻量化LLM推理

钛媒体App 4月18日消息,全球云服务提供商Akamai发布AI推理解决方案Akamai Cloud Inference,主要瞄准边缘计算市场。据介绍,方案整合NVIDIA AI Enterprise生态及Aiven/Milvus等数据服务,并整合CPU、GPU、ASIC VPU的异构算力集群,支持动态资源调配。同时,该方案集成WebAssembly技术,允许边缘端轻量化LLM推理。据披露,该方案较传统超大规模云架构吞吐量提升3倍、延迟降低60%,成本缩减达86%。当前重点布局车载语音、农田管理、零售图像优化等实时决策场景。

本文内容仅供参考,不构成投资建议,请谨慎对待。

评论
  • 给小编加鸡腿🍗
  • 爱了爱了😁
  • 挺有深度的,不错
  • 紧跟时事,赞一个👍🏻👍🏻
  • 真不错,收藏了
  • 写的很不错,关注了
  • 都没有那么简单
  • 这么厉害的吗
  • 学到了学到了
  • 商场如战场,竞争激烈啊
  • 行业发展都是有周期的
  • 企业的发展都不是一番风顺的
  • 说的好有道理😄
  • 内容值得人们反思
  • 数据还是很详细的
  • 内容很精彩,夸一夸
  • 又学到了很多知识
  • 内容很详细👍🏻
  • 小编辛苦了
0 / 300

根据《网络安全法》实名制要求,请绑定手机号后发表评论

登录后输入评论内容
投资日历
更多
5月29日 星期四
新股影石创新 sh688775
6月2日 星期一
新股海阳科技 sh603382