尊龙凯时中国官方网站快科技7月10日消息,近日,壁仞科技副总裁兼AI软件首席架构师丁云帆在谈及计算瓶颈时表示,解决算力瓶颈问题需要从三个维度考虑:硬件集群算力、软件有效算力、异构聚合算力。
他认为,做好这三个维度的工作,即使国产AI芯片单个算力不强,也能通过综合手段提升算力,满足国内大模型训练的需求。
“我们2020年设计的第一代产品里就做了chiplet架构,国外巨头在今年发布的产品如英伟达B100和英特尔Gaudi 3也采用了同样的思路,他们用最先进的制程,但也需要chiplet来突破摩尔定律限制来提升单卡算力。”丁云帆说道。
据他介绍,壁仞科技用三级的异步checkpoint技术,结合GPU的显存和CPU内存,甚至是多节点内存的备份系统去达到一个平衡,目前已能够大幅降低故障恢复成本。
之前,壁仞科技发布首款通用GPU芯片BR100,创下全球算力纪录,16位浮点算力达到1000T以上、8位定点算力达到2000T以上,单芯片峰值算力达到PFLOPS级别。
当时,壁仞科技给出的数据显示,其首款旗舰产品BR100对比英伟达在售的旗舰GPU峰值算力在Int8尊龙凯时中国官方网站、BF16、TF32/TF32+、FP32数据格式下最少有3.3倍的峰值性能优势,在FP32数据格式下性能优势更是达到了13.1倍尊龙凯时中国官方网站。
特别声明:以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布,本平台仅提供信息存储服务。
传NVIDIA GeForce RTX 5090基础频率大幅提升至将近3GHz
5 到 13 号 9 种规格,三星 Galaxy Ring 智能戒指尺寸工具包曝光
2024Q2 全球 PC 战报:联想同比增 3.7%、惠普增 1.8%
AMD 16核锐龙 9 9950X 处理器跑分曝光:单核比锐龙 9 7950X高14%
16岁亚马尔欧洲杯破门后豪言要夺冠,晒洗澡照致敬梅西尊龙凯时中国官方网站,球迷:天才的传承!小罗背起梅西,梅西给亚马尔洗澡
集邦咨询:AI服务器与笔电升级带动高容值MLCC需求 供应商平均售价上涨
小米推出米家冰箱分储鲜十字 436L:60cm 超薄平嵌,2499 元
南昌铁路局2024录用2873人,湖南高铁职院531人,华东交大454人
第一批放假回来的大学生开始整顿驾校 都直接开始培养驾校教练跨栏了 既给大学生上了托管 又给教练锻炼了