网站首页

产品中心

智能终端处理器 智能云服务器 软件开发环境

新闻中心

关于尊龙凯时·(中国)人生就是搏!

公司概况 核心优势 核心团队 发展历程

联系尊龙凯时·(中国)人生就是搏!

官方微信 官方微博
主页 > 新闻中心

尊龙凯时中国官方网站全球首款Transformer专用AI芯片Sohu发布:比英伟达H100快20倍

发布时间:2024-06-26 21:22浏览次数: 来源于:网络

  尊龙凯时中国官方网站这款芯片在运行大型模型时展现出了惊人的性能,其速度超越了行业巨头英伟达的H100高达20倍,即便是与今年3月才面世的顶尖芯片B200相比,Sohu也展现出超过10倍的优越性能。

  Sohu芯片的最大突破在于它直接将Transformer架构嵌入芯片内部尊龙凯时中国官方网站。据Etched公司负责人Uberti透露,Sohu采用了台积电的先进4纳米工艺制造,不仅在推理性能上远超GPU和其他通用人工智能芯片,更在能耗控制上达到了新的高度。

  对于Transformer技术而言尊龙凯时中国官方网站,Sohu无疑是目前市场上最快的芯片,其性能与其他产品之间存在显著的量级差异。值得一提的是,当前主流的AI产品如ChatGPT、Claude、Gemini和Sora等,均基于Transformer架构驱动。

  作为世界上首款Transformer ASIC(应用型专用集成电路)芯片,Sohu的集成应用更是令人瞩目。据测试,一台配备8块Sohu芯片的服务器,其性能足以媲美160块H100 GPU的集群。

  具体而言,集成8块Sohu芯片的服务器每秒能够处理高达50万的Llama 7B tokens,这一数据在业界堪称前所未有。

  而打造这款杰出芯片的Etched公司,位于美国加州的库比蒂诺,尽管成立仅两年,团队规模也仅有35人尊龙凯时中国官方网站,但其创始人哈佛辍学生Gavin Uberti(前OctoML和前Xnor.ai员工)和Chris Zhu,与资深技术专家Robert Wachen和前赛普拉斯半导体公司首席技术官Mark Ross共同领导,已经成功研发出这款专为大模型AI设计的芯片,展现了其强大的技术实力和无限潜力。

下一篇:尊龙凯时中国官方网站用AI实现模拟芯片设计自动化 这事靠谱吗?
上一篇:尊龙凯时中国官方网站史上最快AI芯片「Sohu」速度10倍于B200哈佛辍学生打造

咨询我们

输入您的疑问及需求发送邮箱给我们