导航菜单

GPU是如何成为人工智能和机器学习的核心的

人工智能与机器学习的实现

未来的IT创新浪潮将由人工智能和机器学习提供动力。我们看公司可以利用它和如何开始的方式。

Paperspace提供的产品从虚拟桌面到高端工作站,可在多个领域使用,包括动画工作室、机器学习和数据科学基础设施。ZDNet与Paperspace首席执行官Dillon Erb进行了交谈,以了解更多信息。

ZDNet:你公司的背景是什么,你在市场上的定位是什么?

Erb:我们已经过了三年了,我和我的朋友丹尼尔Koban一起开发了这个产品。

该公司是从对GPU计算的共同兴趣中成长起来的。现在GPU已经有了一个相对悠久的历史,从视频游戏世界到今天,它们已经成为一种通用的计算设备。

我们开始思考云计算如何在很大程度上归功于这些并行的计算机体系结构,同时也会发生新的新出现的工作负载。

见:深度学习:内部人士指南(免费PDF)

我们两年前就开始了,我们通过了一个位于西海岸的CalledyCombinator[一个筹资启动模式],然后在纽约市设立了一个总部。

在那里,我们建立了一个团队--现在有14人--并在阿姆斯特丹开设了我们的第一家外国公司。

我们是大部分的工程师,我们正在做的是建立一个平台,主要用于使并行计算更容易访问。

在过去几年的大故事中,杀手的应用一直是GPU从纯粹的图形管线演变为深层学习和机器学习的三个核心组件之一。

今天看来,我们正处在一个围绕深度学习和机器学习的惊人技术的黄金时代--不断涌现的新的、令人惊奇的框架,大的框架--TensorFlow和Torch等。

然后你有一个惊人的计算能力从这些GPU。将它与当今前所未有的非结构化数据结合起来,您真的有一些东西。

如果你把这些东西都放在一起,我们就在一个深度学习和机器学习非常强大的时代。但是,尽管如此,即使在今天,所有的无障碍环境,即使是人们的积极性也很难从它开始。

这意味着,大部分的尖端技术研究都来自于大男人,谷歌,面面书。但是为核心开发人员找到更容易的方法来进入这个世界仍然是非常困难的。

所以我们提供的是一个基本的平台,让您可以从零到构建真正的机器学习模式,非常快速。

现在,如果你是一个网络开发人员,你可以访问无数的工具,一个非常丰富的生态系统。但是如果你想做更现代的人工智能,或者机器学习,工具还没有出现。其中很多都围绕着特定的基础设施和GPU正常工作,同时也结合了所有的软件和正在出现的新的工作流。

我们花了大部分时间--思考和构建工具等等。这里的价值是,技术是惊人的,如果我们可以向更多的人打开它,我认为这将会产生一个非常强大的效果。

考虑到可以使用的力量,您是否可以想到任何特定的领域,您可以使用此功能?

学习(特别是现代机器学习)的有趣之处之一是,它实际上是一种非常通用的技术。

这意味着,如果你可以访问结构化数据--比如x光扫描,或者你正在收集图像数据--一个深度学习模型实际上可以给你一种神奇的预测能力。

参见:传感器的企业:物联网、ML和大数据(ZDNet特别报告)

我们对此的看法是,我们认为这是一项从根本上具有破坏性的技术,它将真正影响每一个行业。今天的现实是,在计算机视觉中,通过深度学习获得最大的胜利。像图像检测或分类之类的东西--有大量图像数据的东西。这些是今天运作良好的领域。

但真正计算了从异常检测到安全系统的一切。我们与一家从事工业机器人的公司合作,该公司采用先进的技能学习----基本上教导机器人更快地学习--而另一个正在进行制造。

AI让我印象深刻的一点是,虽然周围有大量的计算能力,但人们并不真正知道如何使用它。你认为如何?

是的,但我觉得这里有两个向量。一种是纯技术支持。在一个层面上,很多公司都有能力做不同类型的机器学习,但不能纯粹因为他们没有工具或专业知识就能做到这一点。

我认为另一种向量是,你肯定看到了整合,但我认为它在很多方面都是有问题的。像谷歌这样的公司可以获得几乎无穷无尽的信息,但最终却做出了某种程度上几乎令人恐惧的预测。我不想太担心,但我认为我们看到了这样一种趋势:能够获得大量的数据和专业知识--多亏了机器学习专家--才能给你带来真正的竞争优势。大公司就是这样做的。谷歌已经完全围绕人工智能重新定位。

但我认为这是一种技术,它本身的性质并不是为大型公司保留的。有一个大项目必须发生,将它开放给每个人,并使之成为可访问的。

你是怎么进入这个区域的-是什么引导你走向它的?

Erb:“像图像检测或分类之类的东西--拥有大量图像数据的东西。这些都是今天工作得很好的领域。”

实际上,我来自建筑和建筑领域,但即使在那个世界里,我也在某种程度上属于技术领域。

三年前我在为一个正在进行社会模拟的社会架构团队工作。因此,本集团的工作是为大型结构构建社会模拟软件。

因此,我开始研究其他人如何从系统中获得更好的性能,这导致我使用GPU--尤其是最大的玩家Nvia。

现在他们有一个框架CALLEDCUDA和大约四年前,大多数CUDA用于HPCS--这些结构模拟是我在工作的。于是我做了分析,那是另一件事,然后我参加了金融应用。因此,在一年之后,我几乎完全转变为深度学习。

你能给我举个实用的例子吗?

有一些有趣的事情,我把他们分成两个阵营。

其中之一就是“月光”项目。比如无人驾驶汽车和癌症检测。我们正在与少数几家在这些领域工作的公司合作。

一家公司正在从在城市周围行驶的汽车拍摄图像数据,然后将其拉入一个系统中,该系统实际上可以预测各种有趣的东西,比如建筑和房地产价值,以及诸如此类的东西。

癌症检测是个大问题。如果你能看到很多恶性肿瘤和良性肿瘤的图像,你就可以开始训练模型,这些模型可以非常准确地预测,并显示出什么时候需要调查。

然后还有一些很平凡但又有趣的事情,比如我提到的机器人应用,还有一个系统,它基本上教导机器人更好地工作。

您目前关注的是什么?

做机器学习是一个多方面的操作,你要做的是从你摄入的数据开始。然后你训练这些模型,并决定是否要把它们放到iPhone应用程序或者医生的办公室,或者其他什么地方。

然后你最后看的是一条管道,一条管道正在从即将进行的预测中的数据中运行东西。

这些管道的建立可能是机器学习的更复杂的事情之一。做一个一次性的项目是一件事,但建造一条管道是一个更加复杂的问题。

参见:如何实现人工智能和机器学习(ZDNet特别报告)

我们今天的重点是建设这些管道。有一种称为连续集成(CI)或连续部署(CD)的技术,这在web开发领域非常普遍。

我们所听到的是,在某个时刻,每家公司都将为机器学习做CI或CD,而这是在发展世界中真正缺失的平台类型,因此我们在那里工作了很多时间。

这样做的目的是要有一个真正的预测引擎,在那里输入数据,而你的模型是预测,并给你更好的预测。

硬件都是GPU,想必越来越强大的GPU?

您可以使用与视频游戏相同的GPU,因为您可以使用同样的GPU来训练深度学习模型。去年发生的事情是,NVIDIA推出了首款专为机器学习而设计的GPU,他们的电压架构和谷歌推出了一款名为TPU的Accelerator,它是一款专为机器学习打造的定制芯片。

到今天为止,我们95%的客户和用户都在使用Nvidia,但这种情况正在改变,我认为软件生态系统将变得更加丰富,硬件生态系统将变得更加异构,碰巧的是,您需要一个软件层来真正弥合这一差距,使开发人员更容易利用各种新技术而不需要挖掘底层实现。

你能告诉我关于坡度的事吗?

该公司是纸空间,我们的工具栈称为梯度。这是一个为开发人员提供的工具栈,可以帮助他们在相对较高的级别上插入GPU基础设施。

有几个工具可以实现这一点。一个是笔记本的集成。Ajuyter笔记本电脑是机器学习开发人员开始编写代码的一种去因素标准。然后互动笔记本围绕这些,我们有相当强大的版本这两种。

这与标枪架构一样,在这种架构中,开发人员可以说,"这里有一点代码",他们使用命令行实用程序将它发送给我们,或者我们也有一个GUI来完成它。然后,他们将它发送给我们,并说,"下面是我想要运行的代码和我想要使用的框架",然后我们执行所有的管道,并确保我们可以在加速器上放置该作业,然后返回结果。

我想我们把这一切都结合在一起了。但我认为有一种对深度学习的批评,那就是你把数据放在一个黑盒子里,拿出一个预言,你希望它是对的。我认为,我们想要做的一个很大的部分是将可用性融入到深度学习中,成为一个不可缺少的系统。

Nvidia提供GPU上的Kubernetes

NVIDIA已经宣布为研究人员和开发人员提供新的深度学习工具,包括在Nvidia GPU上发布的Kubernetes版本,供开发人员反馈和测试。

英特尔:预计到2020年我们的第一个分立GPU

当英特尔去年聘请AMD的顶级设计师raja koduri时,芯片制造商raja koduri表示计划推出自己的高端离散显卡。现在,该公司已经宣布,它的第一个离散GPU将于2020年推出。

NVIDIA希望为那些需要IT的人保留GPU,而不是那些采矿醚

公司首席执行官詹森·黄(JensenHuang)在NVIDIAGPU技术公司(NVIDIAGPUTechnologyConference)上发表了基调。

英特尔将于2020年推出离散GPU(CNET)

问题仍然存在:为什么?

SK电信和NVIDIA推出GPU云解决方案。

韩国电信公司已与NVIDIA合作,在年内推出其SKT Cloud for AI Learning,即Scale,一种私人GPU云解决方案。

NVIDIA展示了32 GB特制的泰坦V‘CEO版’GPU,然后给出了一堆。

NvidiaCEOJensenHuang发布了3,000泰坦VGPU的最新变体,该公司去年推出,并将其作为有史以来最强大的PCGPU。

郑重声明:本文版权归原作者所有,转载文章仅为传播更多信息之目的,如作者信息标记有误,请第一时间联系我们修改或删除,多谢。