感谢YPS行业门户系统网友AMD挑战未来的线索投递！

　　本周四，总部位于英国的AI芯片公司Graphcore发布了新一代IPU产品Bow，这是其第三代IPU系统，发布即面向客户发货。与上一代IPU相比，BowIPU性能提升40%，能耗比提升了16%，电源效率也提升16%。

　　值得注意的是，这一次BowIPU的性能提升并非主要依赖采用更先进的制程，BowIPU采用了和上一代IPU相同的台积电7nm，通过采用和台积电共同开发的先进硅晶圆堆叠技术（3DWafer-on-Wafer）达到性能和能耗比的提升。

　　Bow作为世界首款3DWoW处理器，证明了芯片性能提升的范式从先进制程向先进封装转移的可行性。

　　新一代IPU性能提升40%，价格保持不变

　　2016年，Graphcore成立并开创了全新类型处理器架构IPU，因其在架构上的创新曾被英国半导体之父HermannHauser称之为是计算机历史上的第三次革命。

　　经历6年时间的发展，Graphcore的IPU逐渐在在金融、医疗、电信、机器人、云和互联网等领域取得成效。本周四，Graphcore又推出了第三代产品BowIPU。

　　据Graphcore介绍，第三代IPU相对于上一代M2000，性能提高40%，每瓦性能提升16%，即能耗比实现16%的提升。不过，AI芯片的真实性能还需要放在不同的应用领域中讨论。为此，Graphcore也给出了在不同垂直领域中Bow的性能表现。

　　在图像方面，无论是典型的CNN网络，还是近期比较热门的VisionTransformer网络，以及深层次的文本到图片的网络，与上一代产品相比，BowIPU都有30%到40%的性能提升，在EfficientNet-B4这一项中，接近理论上限值。

　　BERT训练模型是自然语言方面的经典模型，基于BERT，OpenAI提出了GPT-1、GPT-2、GPT-3等纵向扩展或横向扩展，通过更深的网络层次和更宽的网络宽度让模型的性能和精度进一步提高。

　　“我们可以看到，这些模型在我们最新的硬件形态上都有很大的性能提升。”Graphcore中国工程副总裁、AI算法科学家金琛介绍道。

　　不仅如此，转换到实际模型中的吞吐量，与IPUPOD64相比，在计算机视觉的ResNet50和EifficientNet-B4训练模型中，BowPod64的吞吐量能够达到34%和39%的性能提升。自然语言方面，BERT-LargePh1预训练模型和语音识别ConformerLarge训练模型，后者都有36%的吞吐量提升。

　　作为英伟达的竞争对手，Graphcore自然不忘将BowPod16与DGX-A100进行对比，实验数据表明，EfficientNet-B4的backbone的训练在DGX-A100上需要花费70个小时的训练时间，而在BowPod16上，只需要14小时左右。

　　接近理论极限的性能提升，GraphcoreBowIPU是如何实现的？

　　5nm不再是首选，采用先进封装性价比更高

　　从芯片的规格上看，BowIPU是世界上第一款基于台积电的3DWafer-On-Wafer的处理器，单个封装中拥有超过600亿个晶体管，具有350TeraFLOPS的人工智能计算的性能，是上一代MK2IPU的1.4倍。片内存储较上一代来看没有变化，依然保持0.9GB的容量，不过吞吐量从47.5TB提高到了65TB。

　　“变化主要体现在，它是一个3D封装的处理器，晶体管的规模有所增加，算力和吞吐量均得到提升。”Graphcore大中华区总裁兼全球首席营收官卢涛说道。而在大家都关注的工艺制程上，BowIPU延续了上一代台积电7nm工艺制程，没有变化。

　　理论上，一颗芯片的性能提升很大程度上取决于工艺制程上的进步，但随着工艺制程越来越逼近物理极限，摩尔定律逐渐失效，业界不得不寻找新的技术方向来延续摩尔定律。其中，3D封装就是被业界广泛看好的技术方向。

　　中国工程院院士、浙江大学微纳电子学院院长吴汉明就曾在一次演讲中提到，如果将芯片制造和芯片封装相结合，也可以做到65nm工艺制程实现40nm工艺制程的性能功耗要求。

　　BowIPU正好验证了吴院士的观点。

　　卢涛表示，BowIPU产品性能的提升主要来源于3DWoW和新增的Die。

　　至于为何选择改变封装方式而不是更先进的工艺，卢涛则表示MK2IPU有594亿个晶体管，大概823平方毫米，已经是7nm单个Die能够生产的最精密的芯片。

　　“我们评估从7nm、5nm，到3nm等不同工艺节点的收益时发现，从7nm到5nm的生产工艺提升所带来的收益不像以前从28nm到14nm一样，能够带来百分之几十的收益，而是降到了20%。这时候我们可以通过别的手段和方法获得同样的收益。”

　　通过3D堆叠的方式，BowIPU的两个Die增加了晶体管的数量，其中一个Die（ColossusDie）和上一代一样，另一个Die主要用于提高跨ColossusDie的电源功率传输，优化ColossusDie的操作节点，从而转化为有效的时钟加速。

　　在同台积电的合作方面，卢涛告诉雷峰网，Graphcore在一年之前就同台积电合作了一颗测试芯片，与台积电的关系非常紧密，加上AI处理器本身规模较大，需要一些新技术支持落地，而从台积电的角度而言，新的技术也需要有需求的产品共同推进。

　　值得一提的是，虽然封装方式有所变化，但BowIPU开箱即用，与前一代产品百分之百软件兼容，不用修改任何代码，老用户无需做任何软件适配工作就能获得性能提升，价格保持不变。

　　目前，美国国家实验室PacificNorthwest已经基于BowIPU尝试做一些基于Transformer的模型以及图神经网络，面向计算化学和网络安全方面的应用，且给出了比较正面的反馈。

　　延续3D封装，开发超越人脑的超级智能机器

　　BowIPU使用3D封装只是起点，面向未来，Graphcore正在开发一款可以用来超越人脑处理的超级智能机器。

　　Graphcore将这款正在研发的产品命名为GoodComputer，一方面希望计算机能够为这个世界带来正面的影响，另一方面致敬著名计算机科学家Good。

　　基于3DWoW，预计未来GoodComputer将包含8192个IPU，提供超过10Exa-Flops的AI算力，实现4PB的存储，可以助力超过500万亿参数规模的人工智能模型的开发。

　　取决于不同的配置，GoodComputer价格将在100万美元到1.5亿美元之间。

　　卢涛表示，开发GoodComputer还是会沿用IPU的体系结构，IPU的存储是在处理器里面，虽然不叫类脑、内存计算或存算一体，但从某种程度上而言，IPU的运作机理接近大脑计算的工作原理，只是把计算和存储相结合。

　　另外，Graphcore也将从软件方面更有效支持稀疏化以达到类脑的计算量。

　　下载YPS行业门户系统APP，分享赚金币换豪礼

　　相关文章

　　关键词：晶圆，处理器

　　代工厂联电2月营收达208.09亿元新台币再创新高，产能利用率100%需求旺盛，台积电晶圆十八厂第七座工厂将转向5nm：原计划用于3nm工艺消息称AMDR75800X3D超大缓存处理器现已出货，月底上市马来西亚8英寸代工厂SilTerra投资6.45亿令吉，计划扩产20%月产能三万片晶圆，联电将在新加坡设22/28nm新厂英特尔ArrowLake-P移动处理器爆料：GPU规格暴增至320EU，挑战最强核显