00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍
加密货币矿机曾因2013年ASIC芯片的诞生而经历了一场革命,该芯片专为比特币挖矿设计,极大提升了挖矿效率。如今,硅谷初创企业Etched再次引起轰动,他们研发的ASIC芯片Sohu专为AI的Transformer模型定制,提供了比主流大模型公司采用的方案更高效、成本更低的计算选择。
Etched由Gavin Uberti和Chris Zhu创立于2022年,其Sohu芯片在推理Llama-3 70B模型时,速度据称比英伟达的H100快20倍,同时能耗显著减少。公司近期完成了1.2亿美元融资,投资方包括Primary Venture Partners、Positive Sum Ventures以及多位行业知名人士。
00后华裔小哥哈佛辍学组团挑战英伟达,史上最快AI芯片Sohu推理性能超H100二十倍
Sohu芯片的出现,预示着在AI推理领域可能打破英伟达GPU主导的局面,推动AI计算格局的重绘。Etched通过专注于Transformer模型,简化了软件开发流程并增强了特定的AI运算能力,使客户能在不大幅改动模型代码的前提下调整超参数,提高了灵活性和定制化水平。
尽管如此,Sohu芯片的未来与Transformer模型的持续流行紧密相关。创始人Uberti承认,若Transformer被新算法取代,公司将面临挑战,反之则可能成为行业巨头。
在AI硬件竞争中,不只是初创公司,大型云服务提供商也通过自研或合作开发ASIC芯片加入竞争。例如,博通报告中提到的定制人工智能加速器需求增长,反映了这一趋势。虽然有关字节跳动与博通合作开发AI ASIC芯片的消息被否认,但行业动态显示ASIC在AI领域的应用正逐渐扩大。
国盛证券分析指出,ASIC芯片的普及与算力成本的下降对大模型的广泛应用至关重要,AI芯片市场将经历多次迭代升级,最终促进人工智能的全面发展。在此背景下,建议关注包括一线晶圆厂、ASIC设计领头羊、散热方案提供商及ASIC芯片制造商等产业链关键环节,特别推荐了几家ASIC芯片公司作为投资参考。
6月2日,英伟达CEO黄仁勋公开宣布了Blackwell芯片的投产消息。英伟达遵循着明确的产品策略:利用最先进的半导体制程,每年更新产品线,并以统一架构贯穿数据中心所有产品
2024-06-04 18:27:02英伟达Blackwell芯片已投产美股周一收盘时,英伟达股价上涨4.9%,达到每股1150美元,公司市值跃升至2.83万亿美元。单日市值增长约1300亿美元,这一增长幅度甚至超过了英特尔当天的总市值1289亿美元
2024-06-04 19:57:39英伟达市值与苹果只差1500亿美元原标题:“AI卖铲人”博通(AVGO.US)财报来袭!有望接力英伟达引爆AI狂潮全球AI热潮最大赢家之一博通(AVGO.US)将于美东时间3月7日美股盘后公布其2024财年第一季度
2024-03-05 09:22:21博通有望接力英伟达引爆ai狂潮英伟达,作为AI热潮中活跃的投资方,继去年投资30余家创企后,如今又将以色列AI创企Run:ai与Deci纳入麾下。其中,英伟达已与Run:ai达成最终收购协议,预计交易金额约为7亿美元
2024-04-25 10:24:21英伟达收购两家AI创企