英伟达在AI芯片市场的主导地位激发了其他公司自主设计芯片的决心。尽管从头开始设计芯片充满挑战,耗时多年且成本高昂,通常以失败告终,但人工智能的巨大潜力驱使业界人士勇敢尝试。
在这一背景下,两位前谷歌工程师共同创立了MatX。他们利用在谷歌的经验,识别出现有人工智能芯片的局限性,并致力于开发更高效、成本更低的新型芯片,旨在提高大语言模型的训练和运行效率。MatX信心十足地预测,其芯片的性能将至少比英伟达的GPU好十倍。目前该公司已成功筹集了2500万美元的资金。
人工智能时代的到来改变了风险投资对芯片行业的态度,尽管面临英伟达等巨头也在快速发展,但市场对于专门针对大语言模型设计的芯片仍然充满期待。
以下是翻译内容
大约25年后,感觉硅谷终于又成了“硅”谷。
英伟达在驱动人工智能软件的芯片市场上已成绝对主导,促使其他公司决定自行设计芯片。历史告诉我们,这通常是充满灾难的尝试。从头开始设计芯片需要耗费数年时间和数亿美元,而且大多数尝试以失败告终。然而,人工智能的巨大前景促使人们认为这是一次必须的尝试。
迈克·冈特(Mike Gunter)和莱纳·波普(Reiner
Pope)就是这样的两个探索者。他们创立了MatX公司,旨在设计专为处理大语言模型所需数据而优化的芯片。大语言模型,如OpenAI的ChatGPT和谷歌的Gemini,是多种人工智能应用的基础,它们需要大量昂贵的芯片来运行。如果有公司能制造出更便宜、处理速度更快且更适合人工智能的芯片,那么它将在人工智能软件不断扩张的世界中占据极为有利的地位。
冈特和波普此前在Alphabet旗下的谷歌工作,冈特负责设计运行人工智能软件的硬件芯片,而波普则负责编写人工智能软件。多年来,谷歌一直致力于开发TPU(tensor
processing
unit,张量处理单元),一种专为人工智能设计的芯片。然而,根据MatX高管的说法,这些芯片是在大语言模型普及之前设计的,对当前任务而言不够高效。“在谷歌,我们努力使大语言模型运行得更快,也取得了一些进展,但总是遇到困难,”波普表示,“在公司内部,有很多关于芯片改进的想法,很难只专注于大语言模型。这是我们选择离职的原因。”
英伟达在人工智能芯片市场的主导地位有些偶然。它最初生产的GPU芯片是为加速视频游戏和某些计算机设计任务而设计的。这些芯片擅长同时处理大量的小型任务,恰好适合运行人工智能软件,其性能大幅超过了英特尔等公司生产的其他类型的芯片。
英伟达在其GPU芯片上划分了资源区块,以适应广泛的计算任务,包括芯片内部的数据传输。这些设计决策似乎更倾向于满足以往计算时代的需求,而非当前人工智能的高速发展,从而在性能方面存在一定的权衡。MatX的创始人相信,在新的人工智能时代,这些额外的资源增加了不必要的成本和复杂性。相比之下,MatX采取了全新的设计方法,开发了只有一个大型处理核心的芯片,目的是尽可能快地完成乘法运算——这是大语言模型的主要任务。MatX全力以赴,坚信其芯片在训练大型语言模型和输出结果上至少能比英伟达的GPU高出十倍。“英伟达的产品非常强大,对大多数公司来说是正确的选择,”波普说,“但我们认为我们能做得更好。”
MatX已经筹集到2500万美元的资金,最新一轮融资由人工智能行业的投资人纳特·弗里德曼(Nat Friedman)和丹尼尔·格罗斯(Daniel
Gross)领投。MatX位于加州山景城,距离硅谷的发源地——肖克利半导体实验室(Shockley Semiconductor
Laboratory)仅几英里之遥。目前,几十名员工正致力于研发计划于明年推出的芯片。格罗斯表示:“MatX的创始人代表了人工智能领域的一股趋势,他们正在将一些大公司开发的最佳想法商业化,因为那些公司动作过慢,过于官僚化。”
如果人工智能软件继续沿着现有的发展路径,对于高成本的计算需求将会巨增。据估计,目前正在研究的每个模型的训练成本约为10亿美元,而未来模型的训练成本可能达到100亿美元。MatX预测,只要能够赢得OpenAI和Anthropic
PBC等主要人工智能公司的青睐,它的业务将会蓬勃发展。“这些公司的经济模式与典型公司截然不同,”冈特说,“他们将所有资金都投入到计算资源上,而不是人力资源上。如果这一趋势不改变,他们最终会耗尽资金。”
在硅谷,芯片公司随处可见,曾经有几十家芯片初创公司,甚至计算机巨头如惠普、IBM和Sun
Microsystems也生产自己的芯片。然而近年来,英特尔凭借其在个人电脑和服务器市场的主导地位击败了许多竞争对手,而三星和高通则主宰了智能手机芯片市场。这导致投资者转而避开芯片初创企业,认为相比软件公司,它们成本更高、周期更长、风险更大。MatX的投资人之一、芯片行业专家拉吉夫·赫马尼(Rajiv
Khemani)回忆道:“大约在2014年左右,我曾拜访过一些风投公司,他们已经让所有懂芯片的合伙人离开了。”“我面前的人根本不懂我在说什么。”
然而,人工智能的崛起改变了风险和回报的平衡。亚马逊、谷歌和微软等资源雄厚的公司已经开始投资设计自己的芯片,专门用于执行人工智能任务。几年前,如Groq和Cerebras
Systems这样的初创公司亮相,推出了一大批针对人工智能专用的芯片。但这些产品都是在大语言模型实现技术突破并开始主导人工智能领域之前设计的。这迫使初创公司必须适应人们对大语言模型的突然兴趣,并在飞速发展中调整自己的产品。MatX可能代表着又一波从头开始、专门开发大语言模型专用芯片的初创企业浪潮。
进入芯片行业的一大挑战是,设计和制造新芯片需要三到五年的时间。而在此期间,英伟达也不会停滞不前,它在本月刚刚发布了更快的GPU芯片。初创公司必须预测技术趋势和竞争对手的动向,而且不能犯任何可能导致生产延误的错误。软件公司通常需要重写代码才能在新的芯片上运行,这是一个成本高昂且耗时的过程,只有在能从这种变化中获得巨大收益时才会进行这样的转变。一个经验法则是,新芯片必须在性能上至少比前代产品好10倍,才能说服客户重写他们所有的代码。
格罗斯认为,我们目前仍处于构建支持人工智能成为主要计算形式的基础设施的初期阶段。“我认为,我们正处于一个芯片周期的早期阶段,与此相比,其他行业的发展将相形见绌。”如果格罗斯的看法正确,那几乎可以肯定地说,新的芯片巨头将会诞生。
猜您喜欢
-
联发科携手英伟达开发Arm处理器 计划2025年发布
前沿科技去年就有报道称,联发科与英伟达展开合作,开发面向Windows PC的Arm架构处理器,而且会在首款产品上采用台积电(TSMC)的2.5D封装,最终目标是进入高端笔记本电脑市场。 据Notebookcheck报道,联发科希望能在Windows PC领域···
-
消息称腾讯、阿里等科技公司被要求少买英伟达芯片:转投国产替代
前沿科技5月14日消息,据媒体报道称,国内大科技公司被要求减少购买国外先进AI芯片,比如英伟达的。 报道中提到,近几个月来,国内监管机构已要求字节跳动、腾讯、阿里巴巴和百度等大科技公司减少购买外国制造的AI芯片,转而购买更多国产···
-
2023年全球十大IC设计公司营收榜 英伟达首度夺冠
前沿科技TrendForce发布了最新的研究报告,显示全球前十IC设计公司2023年合计总收入为1676亿美元,按年增长了12%。其中最为关键的是英伟达带动了整个产业向上,其营收按年增长幅度达到了105%,不过部分企业受到行业不景气及去库存影响,营收···
-
英伟达ChatRTX迎0.3版本更新 新增照片搜索、AI语音识别等功能
前沿科技英伟达今日宣布,旗下AI聊天机器人ChatRTX进行0.3版本更新,此次更新不仅增加了对谷歌的Gemma、ChatGLM3和OpenAI的CLIP等多种人工智能模型的支持,还首次集成了先进的Whisper语音识别系统,为用户带来前所未有的智能交互体验。 ···
-
黄仁勋谈英伟达胜出秘诀:以独特视角观察世界 无知是一种超能力
前沿科技近日,英伟达创始人兼CEO黄仁勋与与风投公司Mayfield管理合伙人纳文·查德哈(Navin Chaddha)进行了炉边对话,并探讨了英伟达如何在竞争中胜出的秘诀。 黄仁勋表示,英伟达曾经和大约110到120家图形公司竞争,其独特之处在于···
-
分析称英伟达继续主导2024年AI GPU市场 销售额400亿美元
前沿科技过去一年多里,人工智能(AI)、高性能计算(HPC)市场需求在迅速增长,以ChatGPT为首的人工智能工具在全球范围内掀起了一股热潮,市场对高性能数据中心GPU的需求大幅度提升,也让英伟达的营收实现了快速增长,同时股价飙升,成为了···
-
黄仁勋辣评“AI抢饭碗”:人类的工作不会消失!
前沿科技英伟达的芯片正在推动人工智能(AI)革命,这不禁让许多人担心会在不久的将来“丢饭碗”。该公司首席执行官黄仁勋(Jensen Huang)上周日表示,虽然他认为人工智能将改变世界,但他并不认为人类的工作就会消失。 他在一档节目中表示,“···
-
英伟达承认AI市场“竞争激烈” 重申旗下业务包括硬件和软件
前沿科技过去一年多里,人工智能(AI)成为了业界最热门的词汇。以ChatGPT为首的人工智能工具在全球范围内掀起了一股热潮,对高性能数据中心GPU的需求大幅度提高,让英伟达成为了半导体行业里最耀眼的明星,营收也实现了大幅度的增长。 ···