当前位置:首页> AI资讯> 英伟达发布全新AI处理器H200,性能提升60%-90%

英伟达发布全新AI处理器H200,性能提升60%-90%

释放双眼,带上耳机,听听看~!
英伟达Nvidia推出全新H200 AI处理器,基于Hopper架构,性能提升60%-90%,内存带宽增加至关重要。

AICMTY(aicmty.com)11月14日 消息:近日,英伟达Nvidia推出了全新的H200 AI处理器,这是一款专为训练和部署生成式人工智能模型的图形处理单元(GPU)。

英伟达发布全新AI处理器H200,性能提升60%-90%

基于NVIDIA Hopper架构,H200具有先进的内存和处理能力,可处理海量的数据用于生成式AI和高性能计算工作负载。

H200是第一款具有HBM3e内存的GPU,提供了141GB的内存和4.8TB/s的内存带宽,几乎是NVIDIA H100Tensor Core GPU容量的两倍,内存带宽也增加了1.4倍。

在AI领域,业务需要使用大型语言模型来满足各种推理需求。H200在处理类似Llama2这样的大型语言模型时,相比H100GPU的推理速度提高了2倍。

英伟达发布全新AI处理器H200,性能提升60%-90%

此外,H200的能效和总拥有成本也有所降低。这项前沿技术不仅提供了卓越的性能,而且功耗与H100相同。

预计H200将在2024年第二季度开始发货。

Nvidia表示,H200将兼容H100,这意味着已经在使用先前模型进行训练的人工智能公司无需更改其服务器系统或软件即可使用新版本。

本网站的内容主要来自互联网上的各种资源,仅供参考和信息分享之用,不代表本网站拥有相关版权或知识产权。如您认为内容侵犯您的权益,请联系我们,我们将尽快采取行动,包括删除或更正。
AI资讯

马斯克正式「切脑」,Neuralink内部实验室照片曝光!7年计划22000例手术,全力研发只为对抗超级AI

2023-11-14 11:27:09

AI资讯

Golang教程:使用OpenCV库实现人脸识别的简单示例

2023-11-14 11:31:30

个人中心
购物车
优惠劵
今日签到
有新私信 私信列表
搜索