亚裔辍学小哥所创芯片Sohu超英伟达
亚裔辍学小哥所创芯片Sohu超英伟达10倍速,惊艳全球投资界
一个新的出现正在AI芯片领域酝酿,这是由一群勇敢的年轻人引领的,他们从哈佛辍学,组建了一家名叫Etched的新公司,研发出了一款能够以超出想象的速度运行AI模型的芯片,这款芯片被他们命名为Sohu。
Sohu是专为运行一个称为Transformer的模型而设计的,这是一个在AI领域中广泛应用的模型,从搜索引擎,聊天机器人,到自动驾驶系统,都离不开它。然而,Sohu的性能远超过市面上的其他AI芯片,甚至超过了英伟达的最新旗舰产品。在运行Llama 70B这样的大型模型时,Sohu每秒能产生高达50万个token的输出,这是其他芯片做不到的。简单来说,一张Sohu的性能,相当于20张H100或10张B200。
我们可以想象一下,如果一个AI模型的速度一夜之间提高20倍,且成本降低20倍,那会带来怎样的改变?这将让我们进入一个前所未有的新时代,一个实时视频、通话、AI智能体和搜索功能都能流畅运行的时代。这就像我们拥有了一个能够在几秒钟内写出整部"圣经"的机器。而这一切,都要感谢Sohu的出现。
那么,这样一款产品是如何诞生的呢?这要追溯到两年前,当时这几位哈佛的辍学生,他们看到了Transformer模型在AI领域的普及趋势,于是开始着手研发一款专为这种模型而设计的芯片,这就是Sohu。他们在芯片设计上采取了专用化的策略,去除了大部分控制流逻辑,从而让芯片拥有更多的数学模块。这使得Sohu可以实现超高的计算效率,FLOPS利用率高达90%以上。
在硬件领域,软件的优化也同样重要。Etched的团队在这方面也做得很出色。他们不需要去处理任意的CUDA和PyTorch代码,他们只需要为Transformer模型编写软件。这大大简化了他们的工作,也使得他们能够以更快的速度推出产品。
Etched的团队不惧英伟达等巨头的竞争,他们深信,能在硬件上运行得最快、最便宜的模型,就是最后的胜者。他们敢于挑战现状,敢于向未知进发。他们的故事,让我们看到了一个全新的可能性,一个由软件驱动,以硬件为基础的全新时代即将到来。这是一场豪赌,但也可能是一次改变世界的历史性一刻。那么,你,是否愿意和他们一起,走进这个新时代呢?
(消息来源:msn 图片来源:unsplash)