带你认识谷歌TPU

分享到:

我们生活在一个技术推动整个文明基石的时代。但是,尽管拥有所有辉煌的发明和技术进步,今天世界比以往更倾向于速度和敏捷性。我们已经从传统的有线拨号互联网连接转移到第四代无线网络。光纤的广泛分布使得连接到互联网并以快速的速度访问数据成为可能。同样,当涉及到处理器和GPU时,我们已经从仅包含6000个晶体管的传统8位8080微处理器芯片转变为时钟速度高达1.7 GHz的最先进的Octa核心处理器。
 
人工智能的发展越来越抽象,越来越复杂。从早期简单的是与否的判断,到后来精准的识别,可以在复杂的场景里找出特定的目标,再到后来,出现 AlphaGo 这样可以做出主动的决策的 AI,甚至智能如 AlphaGo Zero,可以完全依靠自学实现快速成长。
 
人工智能经过这么长时间的发展,在网络的种类、复杂程度和处理的信息量上都发生了天翻地覆的变化。网络种类上,从早期的 AlexNet 和 GoogleNet 到现在各种各样的 GAN(生成对抗网络)以及各种深度强化学习的网络,它们各自网络结构都有不同,开发者在适应最新的网络上常常会遇到一些麻烦。
 
处理的信息量也在成倍地增长,算力需求越来越高的情况下,对搭载处理单元的体积有更多限制的机器人实际上存在着在智能水平上升级的障碍。这就是为什么人工智能芯片不断升级迭代的原因。
 
人工智能的终极目标是模拟人脑,人脑大概有1000亿个神经元,1000万亿个突触,能够处理复杂的视觉、听觉、嗅觉、味觉、语言能力、理解能力、认知能力、情感控制、人体复杂机构控制、复杂心理和生理控制,而功耗只有10~20瓦。
 
可能有很多人会问,目前在人工智能领域,NVidia GPU为什么具有无可撼动的霸主地位,为什么AMD的GPU和NVidia GPU性能相差不多,但是在人工智能领域的受欢迎的程度却有天壤之别。
 
12
 
2011年,负责谷歌大脑的吴恩达通过让深度神经网络训练图片,一周之内学会了识别猫,他用了12片GPU代替了2000片CPU,这是世界上第一次让机器认识猫。
 
2016年,谷歌旗下Deepmind团队研发的机器人AlphaGo以4比1战胜世界围棋冠军职业九段棋手李世石(AlphaGo的神经网络训练用了50片GPU,走棋网络用了174片GPU),引发了围棋界的轩然大波,因为围棋一直被认为是人类智力较量的巅峰,这可以看做是人工智能史上的又一个重大里程碑事件。
 
谷歌并不是唯一一家为这种设备上的AI任务设计芯片的公司。 ARM,Qualcomm,Mediatek和其他公司都制造了自己的AI加速器,而Nvidia制造的GPU在培训算法市场上占据了主导地位。
 
然而,Google的竞争对手并没有控制整个AI堆栈。 客户可以将他们的数据存储在Google的云端; 使用TPU训练他们的算法; 然后使用新的Edge TPU进行设备上推断。而且,他们很可能会使用TensorFlow创建他们的机器学习软件--TensorFlow是由Google创建和运营的编码框架。
 
这种垂直整合具有明显的好处。 Google可以确保所有这些不同的部分尽可能高效,顺畅地相互通信,使客户更容易在公司的生态系统中玩游戏。
 
2016年5月的谷歌I/O大会,谷歌首次公布了自主设计的TPU,2017年谷歌I/O大会,谷歌宣布正式推出第二代TPU处理器,在今年的Google I/0 2018大会上,谷歌发布了新一代TPU处理器——TPU 3.0。TPU 3.0的性能相比目前的TPU 2.0有8倍提升,可达10亿亿次。
 
TPU全名为Tensor Processing Unit,是谷歌研发的一种神经网络训练的处理器,主要用于深度学习、AI运算。在7月份的Next 云端大会,谷歌又发布了 Edge TPU 芯片抢攻边缘计算市场。虽然都是 TPU,但边缘计算用的版本与训练机器学习的 Cloud TPU 不同,是专门用来处理AI预测部分的微型芯片。Edge TPU可以自己运行计算,而不需要与多台强大计算机相连,因此应用程序可以更快、更可靠地工作。它们可以在传感器或网关设备中与标准芯片或微控制器共同处理AI工作。
继续阅读
地平线智能小米小爱触屏音箱在京发布,算法+芯片组合策略具有怎样的使用体验

2月20日,搭载地平线自主研发的增强语音抽取(Enhanced Speech Extraction,ESE)方案的小米小爱触屏音箱在京发布。小米小爱触屏音箱是小米的首款带屏智能音箱,在发布会One more thing的环节推出,是小米在AIoT领域的枢纽级产品。地平线为该产品提供了完整的设备端语音前端信号处理和唤醒解决方案,让小爱触屏音箱能听见更能听清。

AI正当时,我们需要怎样的人工智能?

上至国策,下至民生,中国人工智能产业在这两年迸发出了超乎预料的生命活力。 还记得2018甫一开年,《国务院政府工作报告》指出,要“加强新一代人工智能研发应用,发展智能产业,拓展智能生活。”政治局第九次集体学习中也着重强调“推动我国新一代人工智能健康发展”,“加强人工智能同保障和改善民生的结合”。在产业端,计算机视觉、自动驾驶、机器人……各个人工智能方向都取得了突破性的进展,丰富日常生活体验,帮助传统行业加速转型,带动中国科技实力连番跃进。

Facebook也忍不住想要抢占AI芯片行业市场?

在认识到需要大大加快计算速度以实现人工智能的下一个突破之后,Facebook紧跟亚马逊和谷歌的脚步,正在加紧开发自己的人工智能芯片。 该公司的首席人工智能科学家,现代先驱之一Yann LeCun表示,该公司的目标包括充满“常识”(common sense)的数字助理,能与人进行任何主题的交谈,这将会是是当今语音控制设备的重要一步。

DDR5量产在即,DDR6离我们还有多远

双倍数据速率DRAM(DDR5)即将在2020年发布,但目前SK海力士已经开始在谈论DDR6了。SK海力士DRAM设计研究员Kim Dong-kyun在接受韩国先驱报采访时预测,DDR6将在5-6年内开发。

美专家研发多GPU芯片计算系统,有望突破性能极限

伊利诺伊大学香槟分校和加州大学洛杉机分校的科研团队正在研发一台晶圆级计算机架构,其目标旨在构建多 GPU 芯片以芯片数据内连连接(interconnect)的高效计算系统,实现内部数据互连的速率和能效,突破数据链路导致的性能瓶颈。

精彩活动