首頁 > 科技週邊 > IT業界 > ONNX Runtime Web導入WebGPU:網路瀏覽器中的機器學習迎來效能飛躍

ONNX Runtime Web導入WebGPU:網路瀏覽器中的機器學習迎來效能飛躍

王林
發布: 2024-03-06 10:04:12
轉載
487 人瀏覽過

微软近期宣布在其ONNX Runtime Web中添加了WebGPU技术,这将有助于提升网络浏览器中运行复杂机器学习模型的性能。目前,Chrome和Edge浏览器已经开始支持这一技术,尽管处于早期阶段。

ONNX Runtime Web引入WebGPU:网络浏览器中的机器学习迎来性能飞跃

ONNX Runtime Web是微软推出的一个Javascript库,旨在帮助网络开发人员直接在网络浏览器中部署机器学习模型,并提供基于硬件加速的多个后端支持。而WebGPU则是一种新兴的网络应用程序接口(API),它能够为机器学习模型提供硬件加速,从而在网络浏览器中实现更高效的运行。

此前,由于网络浏览器的计算能力有限,复杂的机器学习模型,特别是大型生成模型,在网络浏览器中的运行效率一直受到限制。然而,随着WebGPU技术的引入,这一问题有望得到解决。WebGPU能够释放设备GPU的能力,使得这些复杂的机器学习模型能够在网络浏览器中高效运行,从而显著提升性能。

据小编了解,微软表示,WebGPU借助计算着色器等先进功能,能够以更高效的方式处理复杂的机器学习工作负载。此外,WebGPU对半精度(FP16)的支持也降低了GPU内存的使用率和带宽要求,进一步加快了运算速度。通过这些优化,WebGPU有望在网络浏览器中直接推断出更高效、可扩展的机器学习应用。

目前,适用于Mac、Windows、ChromeOS的Chrome 113和Edge 113以及适用于Android的Chrome 121已默认包含WebGPU支持。这意味着开发者们可以尝试通过ONNX Runtime Web调用WebGPU加速资源,以提升其机器学习模型在网络浏览器中的运行性能。随着这项技术的不断发展和完善,我们有望在未来看到更多高效、便捷的机器学习应用在网络浏览器中得以实现。

以上是ONNX Runtime Web導入WebGPU:網路瀏覽器中的機器學習迎來效能飛躍的詳細內容。更多資訊請關注PHP中文網其他相關文章!

來源:itbear.com
本網站聲明
本文內容由網友自願投稿,版權歸原作者所有。本站不承擔相應的法律責任。如發現涉嫌抄襲或侵權的內容,請聯絡admin@php.cn
最新問題
熱門教學
更多>
最新下載
更多>
網站特效
網站源碼
網站素材
前端模板