6.76亿美元！软银领投，这家云端AI芯片独角兽牛在哪？
2021-04-14
来源： 芯东西
芯东西4月14日消息，美国明星AI芯片独角兽SambaNova Systems最新宣布D轮融资6.76亿美元（折合44亿人民币），由软银愿景基金2领投，英特尔资本、谷歌风投、华登国际等参投。
至此，该公司估值超过50亿美元（折合327亿人民币），成为全球估值最高的人工智能（AI）创企之一。
这家脱胎于斯坦福大学的AI芯片创企，长期受到知名投资者的青睐，英特尔资本、谷歌风投、华登国际、贝莱德、红链资本等均曾参与其多轮融资。截至当前，SambaNova Systems累计融资已达11.32亿美元。
就在去年12月，这家创企一举推出其最重磅的软硬件集成平台SambaNova DataScale，拥有TB级内存容量和数百万PetaFLOPS低延迟互连计算能力，能处理大量复杂的数据模型。
美国阿贡国家实验室、美国能源部旗下国家核安全管理局（NNSA）、劳伦斯利弗莫尔国家实验室（LLNL）、洛斯阿拉莫斯国家实验室（LANL）均已应用DataScale来加速AI计算研究。
01.
甲骨文元老、斯坦福教授联合创立
华登国际董事长兼任董事会主席
这家初创公司专注于开发处理AI工作负载的基础设施，总部位于加州帕洛阿尔托，由甲骨文和Sun Microsystems公司的元老Rodrigo Liang、斯坦福大学教授Kunle Olukotun、Chris Ré于2017年成立，提供从数据中心到边缘运行AI和数据密集型应用的系统。
Liang担任SambaNova的首席执行官，Olukotun任首席技术专家，华登国际创始人兼董事长、EDA软件巨头Cadence CEO陈立武同时也是SambaNova董事长。
▲SambaNova创始人合影，左-Kunle Olukotun，中-Rodrigo Liang，右-Chris Ré
Olukotun被称为“多核处理器之父”，最近获得了IEEE计算机协会的哈里·H·古德纪念奖（Harry H. Goode Memorial Award）。
他是斯坦福Hydra芯片多处理器（CMP）研究项目的负责人，这个项目研发了一种芯片设计，将四个专用处理器和它们的缓存与共享的二级缓存相匹配。
Ré是斯坦福大学信息实验室计算机科学系的副教授，也是美国跨领域最高奖项之一——麦克阿瑟天才奖（MacArthur genius award）的获得者，他还隶属于斯坦福统计机器学习小组（Statistical Machine Learning Group）、普适并行实验室（Pervasive Parallelism Lab）和斯坦福AI实验室。
▲SambaNova董事会成员
02.
自研可重构数据流单元
400亿晶体管、台积电7nm制程
SambaNova的AI芯片与其客户很大程度上仍在保密状态，但该公司此前透露，受DARPA资助的高效AI处理研究启发，他们正在开发“软件定义”设备。
通过算法优化和自定义硬件结合，SambaNova声称能显著提高大多数AI应用的性能和能力。该公司联合创始人兼CEO Rodrigo Liang分享道，SambaNova并没有采用市面上主流的Arm和x86架构，而是自主研发了芯片架构。
SambaNova研发的可重构数据流单元Cardinal SN10 RDU包含400亿晶体管，采用台积电7nm制程，由一系列可重构节点组成，用于数据、存储和交换。
Rodrigo Liang提到，为规避芯片短缺可能带来的不利影响，SambaNova于去年早些时候进行投资，以确保获得台积电的产能。
每个Cardinal芯片有6个内存控制器，支持153GB/s带宽， 8个芯片以全对全配置连接，最后一点是通过允许芯片扩展的交换网络实现的。
SambaNova并不是单独出售Cardinal，而是将其作为一种安装在数据中心的解决方案。
2020年12月，SambaNova Systems宣布SambaNova Systems DataScale正式可用，DataScale基于可重构数据流架构（RDA），是一个完全集成的软件和硬件平台，可针对从算法到芯片的数据流进行优化，包含SambaFlow软件栈和8个可重构数据流单元Cardinal SN10 RDU。每个RDU都能支持无缝并行处理大型模型，使企业能够比当今最先进的解决方案更快地将新的服务和产品推向市场。
SambaNova提供的基本单元被称为DataScale SN10-8R ，配备了一个AMD处理器，搭配8个Cardinal芯片和12 TB的DDR 4内存，或每个Cardinal芯片1.5TB。
▲SambaNova DataScale SN10-8R运行工作负载的效果
03.
对标NVIDIA
4个关键领域性能破纪录
SambaNova Systems DataScale专为高效的深度学习推理和训练而设计，相比最新NVIDIA旗舰A100 GPU，DataScale在四个关键领域实现破纪录的多机架规模性能指标：
（1）性能：DLRM推理的吞吐量比A100高7倍，延迟只有A100的1/7；BERT-Large训练速度比DGX A100系统快1.4倍。
（2）精度：与DGX A100系统相比，其高分辨率计算机视觉的精度达90.23%；与NVIDIA A100 GPU相比，其DLRM推荐引擎的精度达80.46%。
（3）规模：以多机架规模打破BERT-Large训练和精度的记录。
（4）易用性：从加载dock到数据中心，DataScale可以在45分钟内快速轻松地集成到任何运行客户工作负载的现有基础设施中，数秒内即可在DataScale上以先进精度下载数千个预训练的Hugging Face Transformer模型，无需更改代码。
在软件方面，SambaNova有自己的图形优化器和编译器，使用TensorFlow、PyTorch等其他机器学习框架的客户可以用这些工具为Cardinal重新编译工作负载。
SambaNova的目标是支持包含超过1000亿参数的自然语言处理、高分辨率计算机视觉和推荐模型，并提供更大的内存占用和更高的准确性。
与新的SN10-8R产品一起，SambaNova将提供两种类似云的服务选项：
第一种是SambaNova AI云平台，允许研究机构能免费访问和使用SambaNova的硬件资源；
第二种是业界首个数据流即服务（DataFlow as a Service），面向想要灵活的云服务而无需为硬件付费的商业客户所准备。
04.
产品已销售1年多
落地多个美国实验室
据悉，第一代Cardinal芯片在2019年春季taped out，首批芯片样品已用于客户服务器上。
在此之前，SambaNova的产品已经向客户销售了一年多。
美国阿贡国家实验室、美国能源部旗下国家核安全管理局（NNSA）、劳伦斯利弗莫尔国家实验室（LLNL）、洛斯阿拉莫斯国家实验室（LANL）等多个研究机构，均已部署DataScale平台来加速研究中的AI计算。
例如，LLNL正将DataScale用在其Corona超级计算机中，用于研发新冠肺炎药物。
LLNL首席技术官Bronis de Supinski称，SambaNova的平台正被用于探索一种被称为认知模拟的技术，在这种技术中，AI被用来加速部分模拟处理。他声称，与运行相同型号的GPU相比，这一性能提高了大约5倍。
05.
SambaNova融资背后
AI芯片成各国必争之地
AI芯片是一种专用于加速AI应用的硬件，通过低精度计算、存内计算等技术，提高运行大规模AI算法的性能。根据全球综合数据资料库Statista的一项研究，专用集成电路（ASIC）预计将在推理阶段AI边缘计算处理能力中占有越来越大的份额，到2025年占比将达70%。
以SambaNova获得的新融资为例，多国AI芯片创企正斩获融资，AI芯片市场正竞争激烈。根据美通社数据，该市场预计2025年将达到911.8亿美元。
▲到2025年，ASIC在推理阶段AI边缘计算处理能力的占比达70%（来源：Statista）
近期，中国云端AI芯片创企正经历着新一轮融资热潮。天数智芯、壁仞科技、燧原科技、沐曦集成等多家云端芯片创企宣布获得高额新融资，百度AI芯片部门最近在融资后估值为20亿美元，中科寒武纪去年成为科创板上市的第一家纯AI芯片公司。
在云端及边缘AI芯片的研发及落地竞赛中，其他国家也有一些备受关注的明星创企。
例如，以色列AI芯片创企Hailo正在开发加快边缘AI推理速度的硬件，该公司在2020年3月获得了6000万美元的风险投资。
美国加州创企Mythic已融资8520万美元用于开发定制的存内计算架构。
英国AI芯片独角兽Graphcore致力于研发加速AI工作负载的大规模IPU处理器芯片及系统，该公司拥有数亿美元的资金储备。
随着AI芯片出现前所未有且持续的客户需求，SambaNova也是受益者之一。
因新冠肺炎疫情蔓延，汽车和电子产品采购需求的激增加剧了日益严重的芯片紧缺。美国总统乔·拜登近期承诺投入1800亿美元，用于先进计算的研发和专门用于AI和量子计算的半导体制造，这些都已成为美国国家科技战略的核心。
06.
结语：AI芯片市场
开启落地与生态之战
2020年以来，多国AI芯片领域均传出多起融资事件。总体来看，以国内市场为例，据工银投行数据，2019年国内AI芯片领域投资金额达58.57亿元，而2020年仅1-10月的AI芯片总融资额已经超过了2019年全年。企业层面之外，多个国家与地区亦从政策层面出发，扶持AI芯片企业成长。
在这背后，AI芯片创企走过了早期的技术拓荒期，市场或将开启落地与生态构建新战事。