机器的心脏被释放了
机器智信编辑部
绥远科技仅用三年时间就完成了AI训练芯片的第二次迭代。
7月7日,绥远科技在上海发布了第二代人工智能培训产品——“思思2.0”芯片、基于思思2.0的“易云T20”培训加速卡和“易云T21”培训OAM模块,以及全新升级的“Calculation TopsRider”软件平台,成为国内首家发布第二款的
绥远科技CEO赵立东与绥远科技首席运营官张亚林共同发布了“易云T20”培训加速卡和“思维2.0”芯片
有了原创产品,AI就有了动力。从2018年3月成立到2019年12月,推出了首款云培训芯片“嘉思”、第一代培训产品“易云T10”,以及现在的“嘉思2.0”和“易云T20”。也就是说,绥远科技只用了三年时间就完成了AI训练芯片的第二次迭代。
绥远科技第二代通用人工智能训练芯片“思思2.0”
绥远科技的首席运营官张亚林在接受采访时,用这几句简短的话总结了公司近三年的变化。
紧跟国际创新步伐,加快普惠计算能力落地
“佳思2.0”是绥远科技的第二代AI训练芯片,自推出以来就备受业界关注。作为2021年世界人工智能大会十大瑰宝之一,它出现在这一盛会上。
绥远科技的第二代人工智能训练产品在很多技术方面都实现了突破,从设计研发到电影制作成功的速度更是惊人。“2020年1月,杉原科技推出第二代培训产品计划。2020年11月6日,电影上映。2021年3月9日,新产品成功点亮。”张亚林说。
从这样的计划来看,其实绥远科技已经以一年半的速度更新了自己的训练芯片,然后推出了一代产品。这类产品的迭代速度已经达到了行业顶尖水平。
拥有15年以上高端芯片及相关软件生态系统开发和量产经验的R&D老兵,成功开发并量产了众多大芯片,为绥远科技实现产品快速迭代提供了坚实基础。
芯片硬件团队负责人工智能服务器大芯片的架构定义、逻辑物理设计、功能验证和可测性方案;负责构建基于自研人工智能训练推理芯片的产品硬件设计、系统验证测试、功耗和性能优化,最后产品化的完整流程,为云人工智能产品提供完整的芯片到系统级解决方案。产品系统团队;负责基于自研人工智能训练推理芯片搭建软件栈,包括驱动、编译器、中间件/SDK、分布式训练/推理框架等。为客户提供各种人工智能应用场景的易用开发环境的软件R&D团队,共同打造了绥远科技的硬实力。
凭借他们的技术实力和对市场的敏锐洞察,绥远科技第二代训练芯片产品应运而生。
绥远科技第二代通用人工智能培训加速卡“云穗T20”
张亚林表示,自2020年绥远科技宣布首个客户落地以来,深耕泛互联网、传统产业、新基建三大业务线。正是这三条业务线的构建,让绥远科技对市场痛点有了更深入的了解,客户对产品的反馈催化了第二代产品的诞生。
数据显示,绥远科技第二代训练芯片在计算能力规格方面得到了全面提升,尤其是对训练场景依赖性极强的单精度浮点得到了大幅提升,这也是国内首款支持TF32数据精度的AI芯片。
需要注意的是,TF32数据精准度是英伟达去年发布新旗舰产品A100时引入的,并得到了大力推广应用。随着“佳思2.0”的推出,也意味着绥远科技与国际创新同步。
与行业内企业的战略布局不同,绥远科技的愿景是为行业提供普适计算能力,即以性价比高的计算能力、及时的客户响应和客户价值实现AI商业化落地。
基于这一愿景和市场需求,绥远科技认为,TF32的数据精度确实能够让用户使用更低的数据带宽和更低的能耗,通过获得更有效的计算能力来实现同样的业务,从而进一步拓展了绥远科技通用计算能力的愿景。
与第一代培训产品相比,绥远科技第二代培训产品在单卡、单机多卡或大规模集群等不同规模下的模型性能均有较大提升。
张亚林认为,大芯片创新的意义不仅仅局限于芯片本身的升级,更在于芯片能够为AI系统的推广带来的价值,包括软件、硬件、互联和整体解决方案。
因此,“佳思2.0”还配备了四颗三星HBM2E,最高支持64 GB内存,内存带宽1.8 TB/s。也是国内首款支持全球最先进内存HBM2E的产品。他们认为,这样的升级可以为国内数据中心和云计算提供更好的底层技术和可靠的计算能力。
在互联方面,第二代云穗训练加速卡强大的互联能力,使得嘉思2.0能够以更高的集群性能提供更快的数据处理能力,支持多样化的模型训练,有效降低基础设施系统的整体复杂度和成本。
软件方面,绥远科技的虞书2.0可以提供与行业标准高度兼容的编程接口,支持高性能定制运营商的开发,全面优化动态模型的支持,让大部分模型可以无缝迁移到绥远平台,对开发者非常友好。
据张亚林介绍,随着绥远科技第二代培训产品的发布,公司将推出从芯片到系统集群的解决方案。公司将部署全多机多卡多互联分布式软件和云的交钥匙解决方案,并结合低碳生活集群赋能AI培训系统。
从异军突起到星星之火可以燎原
2018年,赵立东和师从AMD的张亚林共同创立了绥远科技。带着“做大芯片,争做硬技术”的初心,绥远科技自成立以来就选择了高举高打的路线:瞄准数据中心,做AI训练加速芯片。
纵观整个AI芯片市场,根据赛迪咨询的报告,2019-2021年中国AI芯片市场仍将保持50%以上的增速,到2021年市场规模将达到305.7亿元。其中,2019年至2024年,云训练芯片复合年增长率达到32%。在这片诱人的蓝海中,国内外企业几乎同时发力。挑战与机遇并存,原来高举高打的策略引起了资本的关注。
2018年8月,绥远科技由腾讯牵头,获得3.4亿元的Pre-A轮融资。2019年5月,绥远科技完成3亿元A系列融资,红点创投中国为主要投资方。2020年5月,绥远科技完成7亿元B系列融资。领先的投资者是半导体行业基金吴月峰资本,老股东腾讯继续投资。2021年1月,绥远科技完成C系列融资18亿元。
绥远科技的产品研发也比预期快了一点。
绥远科技CEO赵立东介绍了公司的发展历程
2019年12月,在绥远科技第一代产品发布会上,“嘉思1.0”和基于“嘉思1.0”的云培训加速卡“易云T10”让业界看到了这家创业公司的实力。
一年后,绥远科技宣布,第一代人工智能训练加速卡“云穗T10”及其多卡分布式训练集群已登陆云数据中心,正式进入商用阶段。由此,绥远科技开始进入2.0时代,即建立营销和服务支撑体系,加强学术交流,拓展业务,从而实现产品的规模化落地。这个过程也被公司称为从1到n的过程。
在2021年“芯云与天”产品发布会上,绥远科技对2.0时代做了更清晰的规划。他们将围绕异构计算生态实施“燎原”计划。
绥远科技CEO赵立东表示,坚持原始创新,共同打造标准,与合作伙伴共同打造生态,是“燎原”计划的三大核心。基于燎原计划,除了启用深度学习计算和通用人工智能,公司还将利用异构计算来启用科学计算、工程计算、视觉计算等应用领域。
从培训产品的商业化到目前的产品升级,绥远科技的火花已经点燃了中国AI市场的希望,未来可期。
创建基准产品,为绿色智能数据中心赋能
根据赛迪咨询发布的报告,未来三年,随着数据中心的不断建设以及大数据、云计算等技术的不断发展,部署在服务器上的AI芯片需求将会增加,云培训芯片市场将继续快速增长。预计到2021年,市场规模将增长52.5%,达到139.3亿元。
这种市场环境为绥远科技的发展提供了土壤,但为了赢得更多市场的青睐,我们仍然需要面对像NVIDIA这样的竞争对手。
张亚林说:“原来的地方在好的时候,虽然是后来者,但也有机会。”
“绥远科技是追逐者,差异化竞争是赢得市场的关键之一。”张亚林坦言,“在差异化竞争方面,绥远科技主要集中在三个方面。首先,它为行业提供了包容性的计算能力,使人工智能成为一种“负担得起”的技术;二是深入细分AI场景,在一些传统领域,打造通用化,实现端到端场景的价值;三是在本地化、定制化服务方面建立优势,赋能国内AI企业。”
同时,在国家政策和市场发展的推动下,很多本土厂商都在云AI芯片市场展开竞争,谁能成为最终的赢家,需要时间和市场的检验。
绥远不断追求技术突破,不断迭代升级产品,将未来发展重心从“点”和“面”拓展到智能数据中心解决方案建设,旨在打造中国智能计算中心标杆产品。未来,绥远科技将建设基于智能数据中心和云计算的低碳绿色智能数据中心,推动实现普惠计算能力,助力中国发展“新基建”。
绥远科技创始人首席运营官张亚林
据悉,绥远科技已从国家层面开始建设低碳绿色智能数据中心,完全符合国家关于碳中和、二氧化碳峰值排放的政策导向,是IDC未来的发展趋势。
虽然路很远,但它会到来,尽管做起来很难。通过以上种种,我们可以看出,发生在绥远科技的传奇可能才刚刚开始.....
剧终
转载请联系本微信官方账号授权