联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型

11月6日晚间，联发科发布了旗舰芯片天玑9300。根据官方介绍，天玑9300升级为APU 790，支持8倍速生成式AI Trasformer算子加速，具备独特的内存硬件压缩技术和NeuroPilot Compression混合精度INT4量化技术，同时整数运算速度提升2倍，浮点运算速度提升2倍，功耗降低了45%

联发科官方表示，他们已经成功将天玑 9300 移植到终端设备上，并在该设备上成功运行了70亿参数的人工智能大语言模型。此外，他们还成功运行了130亿参数和330亿参数的人工智能大语言模型

还有，天玑9300还支持生成式AI文生图功能，可以生成表情包

联发科还发布了“蓝心小V”，这是与vivo合作打造的工具，已经在2023年vivo开发者大会上推出，是OriginOS 4的“专属私人助理”。更多详细信息请参考IT之家之前的报道

以上就是联发科天玑 9300 成功在端侧运行 130 亿参数 AI 大模型的详细内容，更多请关注php中文网其它相关文章！