原先虚拟化技术只是单纯虚拟一台电脑出来,但随着技术进步,网络功能和运算资源也有办法虚拟化处理。近年热门的 AI,AI 运算能力也有办法虚拟化,并且搭配云端变成共享的资源。Nvidia 与 VMWare 宣布 GPU虚拟运算平台 vComputeServer,以及运用 AWS 的 VMWare Cloud on AWS 增加 Nvidia GPU 运算能力,以后做 AI 研究的人不必再费心添购硬件,而是能够寻求云端的解决方案。
Nvidia 与 VMware 今日 (8/26) 宣布将针对 VMware Cloud on AWS 推出 GPU 加速服务,协助用户推动各种现代化企业应用,其中包括 AI、机器学习与资料分析。这些服务让客户能够将各种 VMware vSphere 的应用与容器无需变更即可无缝转移至云端,以现代化的方式发挥高效能运算、机器学习、资料分析与视讯处理的优势。
AI 的运算资源和负责操作的资料科学家,对于不少公司来说是不小的负担,如何规划运用成为一门大学问,其中运算时间往往要好几个小时甚至几天的功夫,导致资料科学家有闲置的时间。成为不少科技公司努力的方向。
根据 Gartner 2019 年关于运算架构的蓝图报告,到了 2023 年总共有 40% 的企业会运用机器学习技术,在资讯领域资料科学家成为最热门职位,人数总共有 300 万人,而到了 2021 年有 75% 企业会采用多云的云端环境。AI 运算能力放到云端,并且可以彼此分享运算资源,也是不少厂商思考的可能性。在这次 VMWare World 大会上,VMWare 和 Nvidia 合作,将 AI 运算能力透过虚拟化技术,分享给临时需要多的运算资源的团队,或是无力负担昂贵硬件建设成本的团队。
透过这项合作,VMware Cloud on AWS 的客户将能取得全新高扩充性且安全的云端服务,其中包含以 NVIDIA T4 GPU 与全新 NVIDIA Virtual Compute Server (vComputeServer) 软件进行加速的 Amazon EC2。
NVIDIA 创办人暨首席执行官黄仁勋表示:“从营运智慧分析到 AI,企业仰赖 GPU 加速运算做出快速精准的预测,对营运绩效有直接的助益。NVIDIA 与 VMware 合作设计最先进的 GPU 基础设施,推动各产业的全面创新,从虚拟化、混合云一直涵盖到 VMware 新推动的 Bitfusion 资料中心解构。”
VMware 首席执行官 Pat Gelsinger 表示:“我们的客户透过 VMware Cloud AWS 独特价值,加速推动关键商务应用的转移与现代化。我们与包括 NVIDIA 与 AWS 在内的业界领导业者合作获得许多创新成果,针对最繁重的资料驱动作业提供同级方案最佳的 GPU 加速服务,以及针对混合云环境中各种应用推动现代化。”
VMware Cloud on AWS 结合 Nvidia GPU 为 AI、机器学习与资料分析带来的助益
- 服务推出后企业就能运用企业级混合云平台加速推动应用现代化,能够从资料中心到 AWS 云端平台上,以一致的 VMware 基础设施整合部署、移转与执行,以支援各种运算密集度最高的作业,例如 AI、机器学习与资料分析,其中的优势包含:
- 无缝移转:用户能透过 Nvidia vComputeServer软件与 GPU 进行作业的转移,仅须一个按钮即可完成,不会发生像使用 VMware HCX 时产生停机的问题。这将提供客户更多的选择与弹性,能自行决定在云端或用户端环境进行训练与推论。
- 弹性的 AWS 基础设施:以 Nvidia T4 加速的 VMware Cloud on AWS 丛集具备自动化扩充能力,让管理者能依据资料科学家的需求,进行训练环境的扩充或缩减。
- 加速运算推动现代化应用:Nvidia T4 GPU 内建的 Tensor Cores 核心能用来加速深度学习推论作业。再配合 GPU 虚拟化的 vComputeServer 软件,企业即能有充裕的弹性去执行各种 GPU 加速作业,在虚拟化环境中执行包括 AI 、机器学习与资料分析等任务,藉以改进安全、资源使用率与管理效能。
- 一致的混合云基础设施与操作模式:透过 VMware Cloud on AWS,企业将在混合云环境中建立一致的基础设施与操作模式,并透过 VMware 业界标准的 vSphere、vSA 与 NSX 等方案作为基础,推动关键商务应用的现代化。IT操作人员能在 vCenter 内管理各种 GPU 加速作业的同时,一边执行在 vSphere 用户端系统上执行的 GPU 加速作业。
- 无缝衔接的端至端资料科学与分析作业:Nvidia T4 资料中心 GPU 透过 NVIDIA RAPIDS™ 为主流服务器与加速资料科学技术提供动能,RAPIDS 技术为专为资料科学所设计的 NVIDIA GPU 加速函式库,涵盖深度学习、机器学习与资料分析等领域。
(首图来源:Nvidia)