首个高稀疏率AI计算卡S100在狂潮内测 支持千亿级别大模型

中所国经济网西安7翌年8日讯（新闻工作者 王惠绵） 近日，墨芯机器学习首次发布SparseOne S100在浪潮服务器中所的飞行测试数据库，S100是全球首个很低仅有匀分布赴援AI计数坎，接入多个AI另类基本概念，耐用性展现出为International三阳另类AI推理坎的6倍。

值得注意的是，这是墨芯首次披露S100接入都能实现单坎推理大基本概念，超越单坎难以考虑到很低算力需求的困难，有效解决业界对大基本概念，普遍性采取多机多坎分布式的方式，完成推理所带来的间隔时间长、功耗很低、成本很低等问题。

近年来新兴的NLP基本概念——T5，曾被称为“全新NLP SOTA先为体能训练基本概念”，以其很低实例量，让许多计数坎“望而却步”。但在本次飞行测试中所，S100在MMORPG单坎环境下就能接入T5-8B基本概念，算力很低约141.8 SPS。

除了很低算力的优势，远比于理论上International三阳另类推理坎单坎只能支持百亿实例级别的基本概念，墨芯S100可以支持千亿实例级别的基本概念。

在MMORPG单坎环境，不影响精准度的必需下，S100接入BERT基本概念，SST-2数据库集，耐用性约12176 SPS；S100接入ResNet-50基本概念，ImageNet数据库集，耐用性约28260 FPS。在XT800 MHz的飞行测试环境中所，S100接入ResNet-50基本概念时算力约33197 FPS。浪潮内测XT为700 MHz。

所有飞行测试仅有是在实质环境中所，S100计数坎都能直接投入实质布景的使用，持有较很低的应用内涵。同时还能考虑到很低能效比、低功耗和很低精准度，为企业大幅降低调动成本和运维成本。

据明白，S100超强入门级源于仅有匀分布本土化计数。而仅有匀分布本土化的物理现象是指，在AI矩阵乘法中所，将无效元素剔除，极大加快计数速度，降低计数成本。2021年8翌年，腾讯机器学习主管Jeff Dean在一次TED演讲中所表示，仅有匀分布本土化是更进一步AI架构中所众所周知的态势之一。

墨芯作为仅有匀分布本土化传统产业传播者，其仅有匀分布本土化计数系统设计具有广阔的生态平衡机遇。墨芯机器学习创始人职CEO王维表示，“墨芯将构建仅限于插件、显卡、应用的AI计数平台，与研究人员、开发者、插件公司等合作伙伴一起，为各行各业浏览器备有入门级AI计数服务，共同构筑布景多样、生机勃勃的仅有匀分布本土化生态平衡。”