因为近期 GPU 运用在 AI,而在科技圈声势相当高的 Nvidia,从 30 日起一连 3 天,在台北举行 GPU Technology Conference。尽管 Nvidia CEO 黄仁勋宣布用在高速电脑运算和 AI 结合的 HGX-2 平台,但 Nvidia 强调他们是 AI 技术背后的生态系营造者。
Nvidia GTC 大会上宣布 HGX-2,由 16 个 NVIDIA Tesla V100 Tensor Core GPU 组成,能够处理科学运算和模拟的 FP64 和 FP32,以及 AI 运算需要用到的 FP16 和 Int8。
▲ Nvidia CEO 黄仁勋宣布高速电脑运算和 AI 结合的 HGX-2。
3 月时 Nvidia 宣布的世界最大 GPU DGX-2,则由今天宣布的 HGX-2 组建而成。Nvidia 将 HGX-2 当成 HPC 或 AI 运算所需的基础砖块,由相关供应商组合成符合所需的系统。
▲ 今天发布的 HGX-2。
黄仁勋还再次提及 DGX-2 的价钱是 399k 美元,Q3 时会上市,而且比起相当运算能力的硬件,像是 300 台双 CPU 的丛集,DGX-2 物美价廉,只占上述方案 1/8 成本,而且占的空间更小,只要 1/60 的空间,耗电量是 1/18。
回头看 GPU 用在 AI 运算上面的历史,2012 年的 AlexNet 开始算的话,如今 GTX-2 的运算效能是当初的 500 倍,还达成 5 项纪录:最快的单芯片每秒 1075 张图片,最快单一节点每秒 15,500 张影像,扩充最快只要 14 分钟,最短的推论延迟 1.1 毫秒,最快的推论速度每秒 6,250 张影像。
▲ Nvidia CEO 黄仁勋说明 Nvidia 芯片达成的 5 项速度纪录。
▲ 尽管 Nvidia 生产 GPU,但自认是生态系解决方案供应商,在自驾车、医疗、电影产业都有解决方案。
Nvidia 尽管被视为芯片商,生产的 GPU 被用在 AI 和挖虚拟货币上面,但是 Nvidia 视自身为生态系营造者。在 GTC 大会上面,展现在自驾车、医疗、电影产业上面的应用。
▲ 小电路板放在车上应付自驾车需求,而大的电路板则在资料中心里学习自驾车的方法。
▲ Nvidia 不只帮助车子自动驾驶,还用 VR 在模拟的驾驶舱中,远端驾驶真正的车子。
▲ Nvidia 的 Clara 计划将医疗影像“上色”,变成容易依照不同颜色,分辨影像照射的器官不同的部位。
▲ 运用 Nvidia 的 AI 方案,电影制作方很容易加强影像中的光影表现,不必人工慢慢弄。
Nvidia 也透过与其他云端业者合作,在云端环境提供 GPU 运算资源。Nvidia GPU Cloud 有超过 30 组 container 提供深度学习、HPC 各式各样训练模组,Nvidia GPU Cloud 能够符合不同的需求,在 GCP、AWS、阿里云、Oracle Cloud、DGX 上执行。
▲ Nvidia GPU Cloud 提供超过 30 种运算模组,能在各大云端环境下部署。
Nvidia 相当自豪自家产品的深度学习成果,黄仁勋展示用 Skylake CPU,以及与自家的 GPU 跑 TensorFlow 辨识照片中出现什么种类的花。而且搭配 GPU Cloud,还能扩大运算能量,加速辨识速度。
▲ Nvidia 相当自豪他们的 GPU 在影像辨识的能耐,并且能挂更多 GPU 运算资源加快辨识速度。
(图片来源:科技新报)