微软要“巨硬”，为AI打造专属Brainwa平台

微软作为软件公司的形象深入人心，但实际上它从未放弃过让自己硬起来的机会。

Zune 播放器、Xbox 360游戏机、Kinect 体感输入设备、微软人体工学键鼠、Surface 平板、Lumia 手机、Surfacebook、Band 手环等等都是这家软件公司在硬件方面的尝试，可惜成功的并不多。

这次微软又联合英特尔开发了一款自家的硬件加速平台 Project Brainwave，目标是带来高速、实时的云端 AI。配置上英特尔提供了最新的 14nm 制程 Stratix 10 FPGA芯片，可以在 1 毫秒内完成 39.5 Teraflops 的机器学习运算，特别适合处理异常复杂的AI工作。

由于 Brain Brainwave 项目在基于云服务的深度学习模式中取得性能和灵活性上的巨大飞跃。设计实时的 AI 系统便有了可能，这意味着采用 Brainwa 平台的 AI 系统能以超低的延迟时间来处理请求。

随着云计算的兴起，无论是搜索、查询、传感器数据流还是人机对话，能够实时的进行数据处理并做出反馈越来越重要，比如我们每个人都有用过的苹果 Siri、微软 Cortant、亚马逊 Alexa、Google now这些语音助手，其中亚马逊 Alexa 的交互体验获得一致称赞，就是因为亚马逊 Alexa 做到了高实时性，在你和它互动时无需等待即可得到回答，尤其是在连续进行问答的时候，实时无延迟的交互操作对于用户体验非常重要。

该项系统由三个层构成：

高性能的分布式系统架构；

整合硬件DNN引擎作为微服务；

用于部署低延迟训练模型的编译器和运行环境；

首先，Brainwave 项目利用了微软在过去几年中部署的大规模 FPGA 架构。将高性能的 FPGA 直接链接到我们的数据中心网络，我们可以将 DPU 作为硬件微服务提供服务，DPU 可以映射到远程 FPGA 池，并在服务器中循环调用。由于 CPU 不需要处理传入的请求，因此 FPGA 处理请求可以和网络传输达到同样的速度，所以该系统可以大幅降低延迟。

其次，Brainwave 项目采用强大的 “软” DPU，很多公司习惯使用硬件 DPU，虽然可以达到很高的峰值性能，但硬件 DPU 在设计时就必须选择运算符和数据类型，这就导致了灵活性不足。Brainwave 项目所需的数据类型是在合成时决定的。这种方法结合 FPGA 上的 ASIC 数字信号处理模块，并对数据进行定制化、窄精度处理，从而实现了不弱于硬件 DPU 的峰值性能。

最后，Brainwave 项目已经支持 Microsoft Cognitive Toolkit 和 Google 的 Tensorflow 深度学习平台，并计划支持更多平台，同时将在流行框架中常用的训练模型编译到 Brainwave 的基础架构中，来达到更高的性能。

微软是云计算领域第一家采用 FPGA 架构部署的服务商，而 Brainwave 平台使得能够在概念上让 DNN 的思考方式类似于人脑。

微软未来将在自家的 Azure 云端提供 Brainwave 计算平台，在现在这个时代，得 AI 者得用户，相信有了 Brainwa 平台加成，说不定真的能够打造出完全实时的AI呢。