当前位置:首页> AI资讯> 微软发布Maia和Cobalt AI芯片,加速云计算领域竞争

微软发布Maia和Cobalt AI芯片,加速云计算领域竞争

释放双眼,带上耳机,听听看~!
微软在Ignite大会上发布了Maia和Cobalt AI芯片,加速云计算领域竞争。该文章介绍了微软最新的AI芯片发布情况,以及对云计算市场的影响。

微软发布Maia和Cobalt AI芯片,加速云计算领域竞争

微软日前在西雅图举办的Ignite大会上发布了两款AI芯片。第一款是Maia 100 AI芯片,可以与英伟达备受追捧的AI GPU进行竞争;第二款是Cobalt 100 Arm芯片,用于一般计算任务,将与英特尔处理器进行竞争。

微软副总裁Rani Borkar在接受媒体采访时表示,运行在Cobalt芯片上的虚拟机实例将于2024年通过微软的Azure云平台实现商业化运营,但她没有提供发布Maia 100的时间表。

如今,资金充裕的科技公司开始为客户提供更多的云计算选择,这些用户使用云计算基础设施来运行应用。多年来,阿里巴巴、亚马逊和谷歌一直在这样做。据估计,截至10月底,微软拥有约1440亿美元现金,在2022年占据了全球云市场21.5%的份额,仅次于亚马逊。

谷歌在2016年发布了其用于AI的TPU。而AWS在2018年发布了基于Graviton Arm的芯片和Inferentia AI芯片,并在2020年宣布了用于训练模型的Trainium芯片。

当GPU短缺时,云计算提供商提供的定制AI芯片可能有助于满足需求。但与英伟达或AMD不同,微软及其云计算供应商并不打算让用户购买包含其芯片的服务器。

Borkar解释说,微软根据客户反馈制造了用于AI计算的芯片。微软正在测试Maia
100如何满足其必应搜索引擎的AI聊天机器人(现在称为Copilot,而不是Bing Chat)、GitHub
Copilot编码助手和GPT-3.5-Turbo的需求,后者是微软支持的OpenAI的一个大型语言模型。

GPT-3.5-Turbo模型适用于OpenAI的ChatGPT助手,该助手在去年推出后不久就广受欢迎。OpenAI随后迅速采取行动,在软件中添加类似的聊天功能,因此增加了对GPU的需求。

今年9月,英伟达CFO Colette Kress在纽约举行的Evercore会议上表示:“我们一直在与不同的供应商进行全面合作,以帮助改善我们的供应状况,并支持许多客户和以及满足他们的需求。”

OpenAI之前在Azure中使用Nvidia GPU训练模型。

除了设计Maia芯片外,微软还设计了一款名为Sidekicks的定制液冷硬件,可以安装在Maia服务器旁边的机架上。微软一位发言人表示,客户可以在机架上安装Sidekick,而无需对机房进行改造。

如果根据亚马逊的经验,微软对Cobalt处理器的采用速度可能会快于Maia
AI芯片。微软正在Cobalt上测试Teams应用程序和Azure
SQL数据库服务。微软表示,到目前为止,它们的性能比Azure现有的Arm芯片(由初创公司Ampere开发)高出40%。

在过去的一年,随着价格和利率的上升,许多企业都在寻求提高云计算支出效率的方法, AWS的客户Graviton就是其中之一。AWS副总裁Dave Brown表示,AWS排名前100位的客户现在都在使用基于Arm的芯片,这种芯片的性价比可以提高40%。

不过,从GPU转移到AWS
Trainium AI芯片可能比从Intel
Xeons转移到Gravitons更复杂。每个AI模型都有自己的问题。Brown表示,由于Arm在移动设备中的普及,许多人都在努力让各种工具在Arm上工作,而在AI的芯片上,情况就不太一样了。但他表示,随着时间的推移,很多企业会看到,Trainium的性价比与GPU相比也会有类似的提升。

微软副总裁Rani Borkar说:“我们已经与生态系统中的许多合作伙伴分享了这些规范,这将使我们所有的Azure客户受益。”但她并没有详细说明Maia与英伟达H100等替代产品的性能。

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI资讯

OpenAI首次开发者日大会:GPT-4 Turbo和GPTs商店全面解析

2023-11-16 16:31:27

AI资讯

手机AI大模型潮流,芯片厂商加速迭代

2023-11-16 16:37:07

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索