近日,中国人工智能企业云天励飞正式发布民用大型模型产品——“深眼”人工智能模盒。它的价格只有千元,却能实现“三个90%”——覆盖90%以上的场景,算法准确率达到90%以上,使用成本降低90%,让更多的中小型企业大企业要用大机型。
“深眼”AI模块的算力基础是去年推出的“DeepEdge10 Max”大模型训练芯片。
该芯片采用自主可控的14nm国产工艺,D2D Chiplet晶粒架构,基于同国产RISC-V核心,采用异构多核设计。
支持大型模型训练和推理部署。经过适配,可以承载数十亿参数的SAM、百亿参数的Llama2等大型模型运算。可广泛应用于AIoT边缘视频、移动机器人等场景。
云天励飞还自主研发了多模态大模型“云天天舒”,包含语言大模型、多模态大模型等不同系列。多次在C-Eval、CMMLU等权威测试中获得第一名,并于去年在国家网信办正式注册。
云天天书1.0版本于2023年初发布,至今已迭代3个版本。
以云天天舒为基础,云天励飞可以先与合作伙伴完成预训练场景算法,然后提供给中小企业用户,中小企业用户可以根据自己的场景对算法进行微调并在线学习和优化算法,不断提高算法精度。
“神木”AI模组盒首款标准版搭载的是云天数3.5V版本,INT8整数算力达48TOPS(48万亿次)。
今年下半年,“深眼”AI模组盒将推出轻量化版本。芯片为DeepEdge10Pro,搭载云天天枢4.0V,算力减半至24TOPS。
明年上半年,“深眼”AI模组盒将升级至旗舰版,芯片也将升级至DeepEdge10Ultra。继续搭载云天天枢4.0V,算力提升一倍至96TOPS。
云天励飞成立于2014年,当年推出了基于CV小模型的AI产品“神木”1.0,并陆续在警务、城市治理、智慧交通、人居等领域打造了多个标杆项目。