云天励飞正式发布深目AI模盒
2024-03-29
来源:经济参考网
3月28日,云天励飞(688343.SH)举办AI大模型产品发布会,正式发布“深目”AI模盒。据介绍,该产品能够做到“3个90%”——覆盖场景超过90%、算法精度超过90%,使用成本降低90%,解决大模型在场景落地“最后一公里”的问题,帮助更多中小企业客户轻松使用大模型。
从ChatGPT到Sora,从文生文、文生图像到文生视频,大模型发展日新月异,持续给行业带来惊喜,不仅国内掀起“百模大战”,国外科技巨头也在大模型上相互“较劲”。
发布会上,云天励飞董事长兼CEO陈宁认为,未来3年,全球80%的企业都将使用大模型。但是,要训练专属大模型,不仅需要大算力、大数据,还需要大量顶尖人才。大模型一次训练成本在千万元级,主流的训推一体机价格普遍在百万元,绝大多数企业都无法承担这样高昂的成本。
值得关注的是,为了能够让大模型“平民化”,云天励飞推出了“深目”AI模盒。这款产品售价在千元级,用单手就能托起,搭载了云天励飞的自研大模型边缘训推芯片DeepEdge10 Max以及自研多模态大模型“云天天书”,具备算法边缘侧在线学习能力,可实现算法场景覆盖超过90%、算法精度超过90%,使用成本降低90%,让用户都能够根据自身场景需求,利用大模型能力,训练出可实战应用的算法。
“能够实现3个90%,离不开云天励飞的核心能力——算法芯片化。”陈宁说。据介绍,“深目”AI模盒的算力基础,来源于去年云天励飞推出的14nm Chiplet大模型训推芯片DeepEdge10 Max。该芯片采用自主可控的国产工艺,内含国产RISC-V核,支持大模型训练推理部署。依托自研芯片DeepEdge10 Max创新的D2D chiplet架构打造的X5000推理卡,已适配并可承载10亿级SAM、百亿级Llama2等大模型运算,可广泛应用于AIoT边缘视频、移动机器人等场景。
此外,为了共同探索更多大模型低成本、高效率落地应用路径,云天励飞与鹏城实验室、之江实验室、上海交通大学城市治理研究院等多家单位共同成立“深目2.0”生态联盟,共同探索更多大模型落地应用路径。