在今年的I / O年度会议上，Google给人留下了深刻的印象。它不仅启动了一系列基于TPUv2芯片的云计算TPU实例的基准测试，而且还透露了有关其下一代TPU芯片TPU3.0及其系统架构的一些简单细节。 TIRIAS Research的首席技术专家兼首席分析师Paul Teich最近在下一个平台上发表了一篇文章，揭示了Google TPU3.0的深入秘密。 Google将TPUv2版本升级到TPU 3.0，但具有讽刺意味的是，据我们所知，各种细节表明，从TPUv2到TPU3.0（以下简称TPUv3）的跨度并不大。也许它被称为TPUv2r5或类似名称。如果您不熟悉TPUv2，则可以了解我们去年对TPUv2进行的评估，以增加您的知识结构。我们使用Google对Cloud TPU（Cloud TPU）的定义，Cloud TPU是包含四个TPU芯片的主板。 Google当前的云TPU测试程序仅允许用户访问单个云TPU。除内部开发人员外，没有其他人可以以任何方式共同使用云TPU。去年我们了解到，谷歌已经在其TensorFlow深度学习（DL）框架下提取了云TPU。除了Google内部的TensorFlow开发团队和Google Cloud，没有人可以直接访问云TPU硬件，而且可能永远也没有。我们还相信，Google已为一项庞大的软件工程和优化工作提供了资金，以实现其当前测试云TPU的部署。这促使Google在TPUv3中保留尽可能多的TPUv2系统接口和行为，即硬件抽象层和应用程序编程接口（API）。 Google没有提供有关何时提供TPUv3服务并将其放置在云TPU或多机架Pod配置中的任何信息。它确实显示了基于TPUv3的云TPU板的照片和一些Pod照片，并做出了以下声明：TPUv3芯片的工作温度很高，因此Google首次在其数据中心引入了液体冷却技术，每个TPUv3盒将是TPUv2盒。每个TPUv3盒的性能将超过每秒100 petaflops。但是，Google还重申了TPUv2盒的时钟频率为每秒11.5 petaflops。 8倍的改进应该使TPUv3盒的基本频率达到92.2 petaflops，但是100 petaflops意味着这几乎是TPUv2的9倍。 Google的营销人员应四舍五入，因此此数字可能不准确。 POD从TPUv3盒的两张完整照片中可以明显看出，谷歌的下一代产品已经升级：每个盒的机架数量是原始机架的两倍。每个机架的云TPU数量是原始数量的两倍。如果没有其他更改，这两点足以使TPUv2盒的性能提高4倍。吊舱：TPUv2（上部）和TPUv3（下部）机架。 TPUv3机架机架之间的空间小于TPUv2机架之间的空间。但是，像TPUv2容器一样，TPUv3容器中仍然没有明显的存储组件。 TPUv3的框架也更高，可以容纳增加的水冷装置。机架：TPUv2（左）和TPUv3（右）Google将不间断电源从TPUv2机架的底部移到了TPUv3机架的顶部。我们假设机架底部的大容量金属盒现在包含一个水泵或其他与水冷却有关的设备。现代超大规模数据中心不使用高架地板。 Google的架子在加水之前很重，因此直接放在混凝土板上，水从架子的顶部进出。如TPUv3窗格中的照片所示，Google的数据中心有很多高架空间。但是，暂停重水管线并确定路径必须是一个额外的操作挑战。 TPUv3水连接（左上方），水泵（左下方，猜测）和机架上的数据中心基础设施（右）。请注意，绞线在地板上机架的前面，即机架底部的大金属盒的前面。可能是湿度传感器。架子和主板Google不仅使计算机机架的密度增加了一倍，而且还将服务器主板与云TPU的比例从一对一降低到了一对二。这将影响功耗估算，因为TPUv3盒的服务器和云TPU将从同一机架电源获取功率。 Google将当前云TPU beta实例使用的服务器主板作为计算引擎n1-standard-2的实例计入其云平台公共云，该云具有两个虚拟CPU和7.5 GB内存。我们认为这可能是主流的双路X86服务器。回想一下，TPUv2盒包含256个TPUv2芯片和128个服务器处理器。 TPUv3盒将使服务器处理器增加一倍，并使TPU通道数量增加三倍