近日，两位哈佛辍学生Gavin Uberti和Chris Zhu创立了AI芯片公司Etched.ai，他们的首款产品「Sohu」引发了业界的广泛关注。Sohu芯片的推理性能预计将达到英伟达H100的十倍，单价吞吐量更是高达140倍，这一性能的巨大提升标志着AI加速器领域的一次重大突破。
「Sohu」芯片的设计专注于大语言模型（LLM）加速，集成了Transformer架构，能够高效处理数千个单词，支持多重推测解码和波束搜索等高级功能。该芯片只有一个核心，但配备了144GB的HBM3e显存，并且软件栈完全开源，可扩展至100T参数型号。该公司计划于2024年第三季度交付这款芯片，目前公司估值已达3400万美元。
Etched.ai的成立及其创新产品的开发反映了AI加速器市场的巨大潜力，这一市场目前正由像英伟达和AMD等公司主导。这两位年轻创始人的背景令人印象深刻：Uberti在哈佛大学期间就展现了其对技术的深刻理解和创新能力，而Zhu则在学习期间就已有丰富的实习经验，成为了兼职教员。他们的创业故事再次证明了技术创新和企业家精神在当今时代的重要性。
本文来自投稿，不代表TePhone特锋手机网立场，如若转载，请注明出处：https://www.tephone.com/article/1953
