【腾讯云】11.11 云上盛惠,云产品限时抢购,1核2G云服务器首年88元

搜搜吧

搜搜吧 门户 教程 电脑网络 查看内容

你现在可以在VMware基础架构运行Nvidia vGPU

2020-10-22 13:54| 发布者: 虚拟主机评测| 查看: 48| 评论: 0

摘要: 由于VMware与Nvidia之间的合作有了新篇章,即Project Monterey,企业现在可以在Nvidia vGPU上运行AI和机器学习工作负载等计算密集型应用程序,并使用VMware vSphere对其进行管理。传统上来看,人工智能、深度学习(DL ...

由于VMware与Nvidia之间的合作有了新篇章,即Project Monterey,企业现在可以在Nvidia vGPU上运行AI和机器学习工作负载等计算密集型应用程序,并使用VMware vSphere对其进行管理。

传统上来看,人工智能、深度学习(DL)和机器学习(ML)工作负载仅限于CPU,但是Nvidia虚拟计算服务器(vCS)使IT管理员可以将这些工作负载转移到GPU或虚拟GPU(vGPU),并通过vSphere管理这些工作负载。该策略旨在提高GPU利用率,加强安全性并简化管理。

Nvidia公司产品管理高级总监Raj Rao在名为《通过vSphere上的Nvidia vGPU运行ML和计算工作流的最佳做法》的会议上说:“AI、DL和 ML都是非常需要计算的工作量,并且需要大量的计算。一般的硬件不能满足这些要求。”

借助Project Monterey项目,VMware旨在最终简化vSphere环境中机器学习的开发和交付。目前,他们寻求借助vCS和vGPU来简单地加速这些环境的计算。

Nvidia GPU具有张量计算核心,可激活AI所需的大型矩阵运算。其GPU还具有先进的计算核心,可用于更多用途的多任务计算工作负载。这些GPU通常在所有流行的OEM服务器中可用;企业可以将它们部署在本地或云中。虚拟化GPU可从硬件GPU中提取功能、性能和可靠性。

研究和咨询公司Gartner的研究主管Paul Delory说:“这是面向虚拟化的硬件加速器的总体趋势的一部分,我们越来越多地将特殊功能转移到专用硬件。”

通过vSphere管理vGPU

借助通过vSphere管理vGPU的新功能,管理员可以启用多种工作负载,例如在同一主机上运行windowslinux VM。VMware客户越来越多地在边缘计算中使用vGPU,而5G GPU计算则是vSphere管理vGPU的新兴用例。

管理员还可以在vSphere中使用vGPU,以加速图形工作负载;编码和解码VMware Horizo​​n工作负载;运行机器学习、深度学习和高性能计算工作负载;并开发增强现实或虚拟现实应用程序。

由vSphere管理的vGPU还可为启用vGPU的VM的vMotion等流程提高效率。管理员可以使用vSphere管理GPU和vGPU,然后以更加简化的方式使用这些GPU和vGPU管理vMotion工作负载。

VMware的高级工程师Uday Kurkure说:“机器学习训练或高性能计算工作可能需要几天的时间。

如果你要进行服务器维护,则需要停止作业并关闭服务器…再次启动服务器并重新启动作业。但是…其实你不必关闭作业并关闭服务器,你可以使用vMotion-将这些工作转移给另一台主机,从而节省了几天的时间。” 如果你要在vSphere上设置Nvidia vGPU,请在主机上安装Nvidia GPU。在运行于主机之上的管理程序上安装Nvidia vGPU Manager,以虚拟化基础GPU。然后,管理员可以运行多个具有相同操作系统(例如Windows或Linux)的VM,这些VM可以访问相同的虚拟GPU。然后,这些主机可以快速高效地运行高性能计算或机器学习工作负载。

vSphere和虚拟环境中的机器学习

通过vGPU,人们可以提供更有效的机器学习训练。管理员可以在数据中心中运行其他工作负载的同时,训练他们的机器学习应用程序,从而大大减少训练机器学习应用程序所需的时间。例如,根据Kurkure的说法,用于单词预测的复杂语言建模工作量最多可能需要56个小时来训练,而使用vGPU只需8个小时。与本地GPU相比,vGPU在训练时间方面仅为4%。但是,对于大多数企业而言,机器学习仍然处于起步阶段。

Delory说:“Project Monterey对于AI或ML工作负载的好处是使它们可以访问GPU。但是现在,你要么必须在所有主机上安装GPU(这很昂贵),要么将硬件专用于AI或ML工作负载-这既复杂又昂贵。”

搜搜吧社区温馨提示:
搜搜吧(www.sosoba.org)十分重视网络版权及其他知识产权的保护,针对网络侵权采取如下版权政策:
1、本站有理由相信网友侵犯任何人的版权或作品,(图文,文字,下载,视频,非法传播),本站有权不事先通知即删除涉嫌侵权的作品和内容
2、本站将采取必要的网络技术手段,确认为侵权作品或内容的用户有权进行警告、屏蔽、删除的行为,尽可能的防止侵权行为的发生
3、搜搜吧影视资源均收集自互联网,没有提供影片资源存储,也未参与录制上传,若本站收录的资源涉及您的版权或知识产权或其他利益,我们会立即删除
4、搜搜吧,删帖,投诉,举报,侵权,若本站侵犯您的权益,附上身份及权利证明,请直接发送邮件到 kefu-sosoba@qq.com 我们将在一个工作日内删除

鲜花

握手

雷人

路过

鸡蛋

相关阅读

资讯分类

推荐图文

文章排行

Powered by www.sosoba.org Copyright © 2013-2020 搜搜吧社区 小黑屋|手机版|地图|联系站长|腾讯云代金券|帮助中心|公共DNS|seo优化服务|搜搜吧
广告服务/项目合作/会员购买:QQ 侵权举报邮箱: kefu-sosoba@qq.com  搜搜吧建站时间:创建于2013年07月23日
免责声明:本站所有的内容均来自互联网以及第三方作者自由发布,版权归原作者版权所有,搜搜吧不承担任何的法律责任,若有侵权请来信告知,我们立即删除!

GMT+8, 2020-11-25 04:06 , Processed in 0.048449 second(s), 8 queries , MemCache On.

返回顶部