Google I/O开发者大会上一年由于疫情而撤销，本年采纳线上方式强势回归。在没有开发者在场的Google园区内，Google CEO桑达尔·皮查伊（Sundar Pichai）宣告推出多项全新技能，除了能够协助用户完成"空间瞬移"的全息视频谈天技能Project Starling让人耳目一新，还有最新一代AI芯片TPU v4。

"这是咱们在Google上布置的最快的体系，对咱们来说是一个具有历史意义的里程碑。"皮查伊这样介绍到。

最强TPU，速度提高2倍，功能提高10倍

Google官方介绍，在相同的64芯片规划下，不考虑软件带来的改进，TPU v4相较于上一代TPU v3功能均匀提高2.7倍。

在实践运用中，TPU v4主要与Pod相连发挥作用，每一个TPU v4 Pod中有4096个TPU v4单芯片，得益于其共同的互连技能，能够将数百个独立的处理器转变为一个体系，互连带宽在规划上是其他任何网络技能的10倍，每一个TPU v4 Pod就能到达1 exaFlOP级的算力，完成每秒10的18次方浮点运算。这乃至是全球最快的超级核算机"富岳"的两倍功能。

"假如现在有1千万人一起运用笔记本电脑，所有这些密集架核算机累加的核算才能，刚好就能够到达1 exaFLOP的算力。而之前要到达1 exaFLOP，或许需求专门定制一个超级核算机。"皮查伊如是说。

当担任在大型维基百科语料库上练习根据Transform的阅览了解BERT模型时，TPU v4的得分也很高。运用256个TPU v4进行练习需求1.82分钟，比运用4096 TPU v3进行练习所需的0.39分钟要慢1分多钟。一起，假如想要运用Nvidia的硬件到达0.81分钟的练习时刻，需求2048张A100卡和512个AMD Epyc 7742 CPU内核。

Google同样在I/O大会上展现了能够用到TPU v4的详细AI实例，包含能够一起处理网页、图画等多种数据的MUM模型（Multitask Unified Model，多任务一致模型）和专为对话打造的LaMDA都是能够用到TPU v4的场景模型，前者比阅览了解模型BERT强1000倍，合适赋能查找引擎协助用户愈加高效密集柜地得到自己想要的信息，后者则能够与人类进行不间断的对话沟通。

这一并不向外出售的TPU，很快将在被布置在Google的数据中心，且90%左右的TPU v4 Pod都将运用绿的动力。别的，Google也表明，将在本年晚些时候开放给Google Cloud的客户。

Google自研TPU，五年更新四代

Google最早于2016年宣告首款内部定制的AI芯片，差异于练习和布置AI模型的最常见的组合架构，即CPU和GPU组合，第一代TPU在那场国际闻名的人机围棋大战助力AlphaGo打败李世石"一战成名"，宣告并不是只要GPU才能做练习和推理。

Google第一代TPU选用28nm工艺制程，功耗大约40w，仅适用于深度学习推理，除了AlphaGo，也用在Google查找、翻译等机器学习模型中。

2017年5月，Google发布智能密集架了能够完成机器学习模型练习和推理的TPU v2，到达180TFLOPs浮点运算才能，一起内存带宽也得以提高，比同期推出的CPU AI作业负载提高30倍，比GPU AI作业负载提高15倍，被根据4块TPU v2的AlphaGo打败的国际围棋冠军柯洁最直观地感受了这一切。

2018年5月，Google又发布第三代TPU，功能是上一代TPU的两倍，完成420TFLOPs浮点运算，以及128GB的高带宽内存。

依照一年一次迭代更新的节奏，Google理应在2019年推出第四代TPU，不过这一年的I/O大会上，Google推出的是第二代和第三代TPU Pod，能够装备超越1000颗TPU，大大缩短了在进行杂乱的模型练习时所需消耗的时刻。

在AI芯片开展史上，无论是从片上内存上，仍是从可编程才能来看，Google TPU都是稀少难得的技能创新，打破GPU的"独占"位置，且翻开云端AI芯片的新竞赛格式。

开展五年的Google TPU在今日仍然保持着微弱的竞赛力，未来的国际是什么样的？Google TPU现已告知了咱们一小部分答案。

雷锋网雷锋网(大众号：雷锋网)雷锋网

要用硅光单芯片代替3000块TPU的AI草创公司招引了比尔盖茨的出资

雷锋网原创文章，未经授权制止转载。概况见转载须知。

来源:版权归属原作者,部分文章推送时未能及时与原作者取得联系,若来源标注错误或侵犯到您的权益烦请告知，我们会及时删除。