GPU一卡难求,:至少等六个月!

类别:业界动态  出处:网络整理  发布于:2023-05-30 11:10:01 | 359 次阅读

    谷歌执行官将人工智能革命比作人类对火的驾驭. 现在,要是这个行业能够确保数字引火物为其提供燃料就好了。
    作为新一代人工智能系统生命线的先进芯片的短缺引发了一场锁定计算能力和寻找解决方法的竞赛。用于 AI 的图形芯片或 GPU 几乎全部由制造。但随着ChatGPT 的病毒式成功,对它们的需求激增远远超过了供应,ChatGPT 是一种能够以类似人类的方式回答问题的聊天机器人。
    “因为存在短缺,这与你认识的人有关,”Lamini 的联合创始人兼执行官 Sharon Zhou 说,Lamini 是一家帮助公司构建人工智能模型(如聊天机器人)的初创公司。“这就像大流行期间的卫生纸。”
    亚马逊网站和等云服务提供商微软可以向 ChatGPT 背后的公司 OpenAI 等客户提供的处理能力。AI 开发人员需要服务器容量来开发和操作他们日益复杂的模型,并帮助其他公司构建 AI 服务。
    即使是世界上联系紧密的科技企业家也在努力确保产能。在 5 月 16 日关于 AI 的国会听证会上,OpenAI 执行官Sam Altman表示,由于处理器瓶颈,如果使用 ChatGPT 的人少一些会更好。
    “在这一点上,GPU 比药物更难获得,” Elon Musk在 5 月 23 日告诉华尔街日报CEO 委员会峰会。
    不过,成为马斯克有其好处。知情人士称,今年早些时候,急需甲骨文计算能力的初创公司突然被告知买家了甲骨文的大部分备用服务器空间。知情人士说,初创公司被告知买家是马斯克,他正在打造自己的 OpenAI 竞争对手 X.AI。
    获得数以万计的图形芯片对于培训可以生成原始文本和分析的大型 AI 模型的公司来说至关重要。创始人说,如果没有它们,人工智能背后的大型语言模型的工作就会运行得慢得多。Nvidia 的图形芯片擅长同时进行大量计算,这对于 AI 工作至关重要。
    瑞银分析师估计,较早版本的 ChatGPT 需要大约 10,000 个图形芯片。马斯克估计更新版本需要 Nvidia 先进处理器的三到五倍。
    一些投资者正在梳理他们的网络以获得备用计算能力,而另一些投资者则在协调处理器和服务器容量的批量订单,这些处理器和服务器容量可以在他们的 AI 初创公司之间共享。据 AI 投资者和初创公司称,初创公司正在缩小他们的 AI 模型以提高效率,他们购买自己的带有相关图形芯片的物理服务器,或者转而使用甲骨文等不太受欢迎的云提供商,直到短缺问题得到解决。
    其他创始人只是乞求亚马逊和微软的销售人员获得更多权力。
    周说,她与一位前 Nvidia 工程师共同创立的 Lamini 拥有所需的芯片。她和接受《华尔街日报》采访的许多其他创始人拒绝确切说明他们是如何获得这些资产的。
    “业界对 GPU 的需求强劲,”OpenAI 发言人表示,并补充说该公司致力于确保其客户拥有所需的容量。
    甲骨文和马斯克没有回应置评请求。微软和亚马逊拒绝置评。
    Nvidia 近表示,它正在扩大供应以满足不断增长的需求,但许多 AI 创始人预计短缺至少会持续到明年。对 Nvidia 产品的需求推动该公司股价上涨约 167%。芯片成本各不相同,但一些零售商以约 33,000 美元的价格出售 Nvidia 的 AI 芯片,尽管在需求旺盛的情况下它们可以在二级市场上获得更高的价格。
    一些公司正在封锁云容量,因为担心他们以后无法访问它们。“人们现在只是继续为它们付费,即使他们不需要它们,”Arthur 的执行官 Adam Wenchel 说,该公司开发工具来保护公司免受数据泄露等 AI 风险的影响。
    创始人和投资者表示,能够获得计算能力的公司仍需等待数周才能使用它。Perplexity AI 的执行官 Aravind Srinivas 说:“即使你已经预付了费用,也不意味着 GPU 会在第二天或一周内送到你这里来。”该公司构建了一个人工智能驱动的对话搜索工具。“你只需要等待。”
    服务器制造商及其直接客户表示,他们需要等待六个月以上才能获得 Nvidia 的图形芯片。Supermicro的执行官表示,该公司的图形芯片系统订单处于历史水平,该公司正急于增加制造能力。
    所有这些都为这些先进的芯片创造了二级市场,部分涉及大型加密公司,这些公司在繁荣时期购买芯片进行采矿,而现在在数字货币市场低迷的情况下不需要。
    AI研究公司Generally Intelligent的执行官邱侃君自去年以来一直在为自己的服务器购买先进的图形芯片,以渡过当前的短缺。一位风险投资家近给她发消息,询问她是否有闲置产能可以出租给其他初创公司。秋还没有决定是否放弃她的芯片。
    与此同时,OpenAI 的奥特曼和其他员工一直在处理来自在其平台上构建人工智能服务的公司的投诉。
    为医生开发人工智能助手的 Nabla 的执行官兼创始人亚历克斯勒布伦表示,OpenAI 的软件可能需要长达两分钟的时间来响应查询。Nabla 使用 AI 自动生成笔记、推荐信和临床建议,其客户希望这些笔记能够立即生成。
    Lebrun 说,作为一种解决方法,Nabla 已经构建了一些更简单的模型来更快地生成材料的初稿,然后依靠版本的 ChatGPT 进行终调整。“的初创公司是那些学会如何解决所有这些限制的公司,”Lebrun 说,并补充说他直接向 Altman 提出了这些问题。
    Altman 和其他 OpenAI 代表告诉创始人,该公司正在与其的投资者和数据中心提供商微软合作解决这个问题。
关键词:GPU

全年征稿 / 资讯合作

稿件以电子文档的形式交稿,欢迎大家砸稿过来哦!

联系邮箱:3342987809@qq.com

版权与免责声明

凡本网注明“出处:维库电子市场网”的所有作品,版权均属于维库电子市场网,转载请必须注明维库电子市场网,https://www.dzsc.com,违反者本网将追究相关法律责任。

本网转载并注明自其它出处的作品,目的在于传递更多信息,并不代表本网赞同其观点或证实其内容的真实性,不承担此类作品侵权行为的直接责任及连带责任。其他媒体、网站或个人从本网转载时,必须保留本网注明的作品出处,并自负版权等法律责任。

如涉及作品内容、版权等问题,请在作品发表之日起一周内与本网联系,否则视为放弃相关权利。

热点排行

广告