联发科发布5G生成式AI旗舰芯片天玑9300 最高支持330亿参数大模型运行

最新信息

联发科发布5G生成式AI旗舰芯片天玑9300 最高支持330亿参数大模型运行
2023-11-06 21:52:00
11月6日,联发科发布天玑9300旗舰5G生成式AI移动芯片,支持终端运行10亿、70亿、130亿、最高可达330亿参数的AI大语言模型,可提供在端侧生成式AI、游戏、影像等方面旗舰新体验。
  据联发科介绍,天玑9300集成联发科第七代AI处理器APU 790,为生成式AI而设计,其性能和能效得到显著提升,整数运算和浮点运算的性能是前一代的2倍,功耗降低了45%。
  APU 790内置了硬件级的生成式AI引擎,可实现更加高速且安全的边缘AI计算,处理速度是上一代的8倍,1秒内可生成图片。
  另外,基于亿级参数大语言模型特性,联发科结合其特有的内存硬件压缩技术等,大幅减少AI大模型对终端内存的占用,支持终端运行10亿、70亿、130亿、最高可达330亿参数的AI大语言模型。
  APU 790 还支持生成式AI模型端侧“技能扩充”技术NeuroPilot Fusion,可以基于基础大模型持续在端侧进行低秩自适应融合,进而赋予基础大模型更加全面的能力。
  此外,天玑 9300还拥有旗舰级的ISP影像处理器Imagiq 990,支持AI语义分割视频引擎,可进行16层的图像语义分割,从而使得视频录制的画面更明亮、锐利且细节更丰富。
  联发科还介绍,天玑9300采用台积电第三代4nm制程,集成双安全芯片,能够从开机源头开始保护个人隐私。
  联发科董事、总经理陈冠州表示:“随着全面智能化时代的到来,联发科凭借在边缘计算领域的深厚功底和丰富经验,已经在智能终端、智能汽车、智能家居等多个领域实现了多元化发展并取得了一定成绩。通过我们领先的边缘AI计算与混合式AI计算技术,致力于为用户构建全新的全场景智能体验,推动生成式AI创新应用的普及,赋能千行百业。”
  联发科资深副总经理暨无线通信事业部总经理徐敬全博士表示,天玑9300开创性的全大核架构设计,结合新一代APU、GPU、ISP以及联发科特有的前沿技术,不仅可以显著提升终端性能和能效,还将为消费者带来卓越的端侧生成式AI体验。
  首发终端方面,11月6日,vivo宣布X100系列手机将全球首发搭载天玑9300旗舰芯片,将于11月13日正式发布。
  值得一提的是,随着AI大模型在消费电子领域的加速渗透,产业链上游也开始拥抱AI大模型。
  10月25日,在今年的骁龙峰会上,高通也推出了第三代骁龙8旗舰移动平台,能够在终端侧运行高达100亿参数的模型,同时,面向70亿参数大语言模型,每秒生成高达20个token,高通还推出了面向PC打造的计算处理器骁龙X Elite。
  “我们正在进入AI时代,终端侧生成式AI对于打造强大、快速、个性化、高效、安全和高度优化的体验至关重要。”高通公司CEO安蒙表示。
(文章来源:证券时报网)
免责申明: 本站部分内容转载自国内知名媒体,如有侵权请联系客服删除。

联发科发布5G生成式AI旗舰芯片天玑9300 最高支持330亿参数大模型运行

sitemap.xml sitemap2.xml sitemap3.xml sitemap4.xml