首页
计算器
计算器工具
最强AI生图神器
龙虾OpenClaw中文版
AI导航网
一站式AI产品导航
刷机
刷机玩机救砖技巧
开启辅助访问
立即注册
登录
用户名
Email
自动登录
找回密码
密码
登录
立即注册
搜索
搜索
本版
文章
帖子
用户
刷机救砖
固件下载
魔百盒论坛
TCL电视论坛
小米电视论坛
海信电视论坛
荣耀智慧屏
索尼电视论坛
Apple TV论坛
芯片圈变天了,英伟达推出首个CPU!预计2023年正式投入 ...
vide
回答数
0
浏览数
1113
vide
cpu
英伟达
芯片
今日凌晨,一年一度影响
人工智能
及高性能计算技术盛会NVIDIA GTC如期而至,这是GTC大会继去年后第二次在线上举行,其图形和加速器设计师宣布他们将再次设计自个的Arm处理器/SoC。
这款CPU以计算机编程先驱、美国海军少将格蕾丝•霍珀(Grace Hopper)的名字命名,它是英伟达在全面垂直整合硬件堆栈方面的最新尝试,能够在常规GPU产品的同时提供高性能CPU。据英伟达介绍,该芯片是专为大规模神经网络工作负载设计的,预计将于2023年在英伟达的产品中使用。距离芯片准备完毕仍有两年,英伟达这次表现得相对克制。该公司只提供了关于芯片有限的细节——例如,未来它将基于Arm的Neoverse内核的迭代——因为今天的发布会更多关注的是英伟达未来的工作路线图,而不是速度和产品。目前,英伟达已经明确表示,“Grace”是英伟达的内部产品,将作为其大型服务器产品的一部分。该公司并没有直接争夺英特尔或AMD EPYC服务器市场。相反,他们正在建造自个的芯片来补充他们的GPU产品,创造一种可以直接链接其GPU的专用芯片,帮助处理庞大的万亿级参数人工智能模型。
从广义上说,“Grace”旨在填补英伟达
AI
服务器产品中CPU的空白。该公司的GPU非常适合某些特定类的深度学习工作负载,但不是所有工作负载都是纯粹的GPU-bound,所有工作负载都不都是GPU绑定的。 相应地,英伟达当前的服务器产品通常依赖于AMD的EPYC处理器,该处理器对于以通用计算为目的而言非常快,但缺少英伟达寻找的那种高速I / O和深度学习优化。尤其是,NVIDIA目前因使用PCI Express进行CPU-GPU链接而成为瓶颈。它们的GPU可以通过NVLink进行快速通信,但不能返回主机CPU或系统RAM。
正因如此,该问题解决方案是使用NVLink进行CPU-GPU通信,就像“Grace”之前的情况一样。此前,英伟达曾与OpenPOWER基金会合作,将NVLink引入到POWER9中。然而,随着POWER的流行度下降,以及POWER10正在跳过NVLink,这种关系似乎正在逐渐消失。相反,NVIDIA正在以自个的方式构建带有必要NVLink功能的Arm服务器CPU。根据英伟达的说法,最终的结果将是一种高性能、高带宽的CPU,其设计目的是与未来一代的英伟达服务器GPU协同工作。在英伟达讨论将每个英伟达 GPU与一台Grace CPU集成在同一块板上的情况下(类似于今天的夹层卡),CPU性能和系统内存不仅随GPU的数量而增加,而且通过迂回方式。这是一台英伟达特色鲜明的解决方案,不仅可以提高性能,而且在传统上集成了AMD或Intel的处理器尝试某种类似的CPU + GPU融合发挥。据估计到2023年,英伟达将达到NVLink 4, SoC和GPU之间的累积带宽将至少达到900GB/秒,Grace SoC之间的累积带宽将超过600GB/秒。关键在于,这大于SoC的内存带宽,这意味着NVIDIA的GPU将有一台到CPU的高速缓存连贯链接,可以在全带宽下访问系统内存,同时也允许整个系统拥有一台单一的共享内存地址空间。英伟达将此描述为平衡系统中可用的带宽数量。拥有包内CPU是增加NVIDIA GPU能够有效访问和使用的内存数量的主要手段,因为内存容量仍然是大型神经网络的主要限制因素——你只能有效地运行与本地内存池一样大的网络。这种以内存为中心的策略也反映在Grace的内存池设计中。由于英伟达将CPU放在GPU共享包上,并将把RAM放在其旁边。Grace配备的GPU模块将包括一台有待确定的LPDDR5x内存数量,英伟达的目标是至少达到500GB/秒的内存带宽。在2023年,LPDDR5x或将成为带宽最高的非显卡存储器选项。此外,由于LPDDR5x技术的目的是应用于移动设备,而且追踪长度非常短,英伟达还在大力宣传使用LPDDR5x可以提高能源效率。同时,由于这是服务器部分,Grace的内存也将启用ECC。
至于CPU性能,这实际上是英伟达公布最少的部分。该公司将使用下一代Arm的Neoverse CPU内核,最初的N1设计已经成为了转折点。但是除此之外,该公司透露内核应该在SPECrate2017_int_base吞吐量的基准上突破300点,这可以与AMD第二代64核EPYC CPU中的某些处理器相媲美。该公司没有透露太多关于如何配置CPU或专门针对神经网络处理添加了哪些优化。但是,由于Grace旨在支持NVIDIA的GPU,预计在GPU较弱的情况下它会更强大。另外如前所述,NVIDIA对Grace的预期目标是大大减少大型神经网络模型所需的时间。NVIDIA力争在1万亿个参数模型上实现10倍的更高性能,而他们对64模块Grace + A100系统(具有理论NVLink 4支持)的性能预测将把此模型的训练时间从一台月缩短至三天。或者,能够在8个模块的系统上对5000亿个参数模型进行实时推断。NVIDIA的Project Denver计划最初于十年前宣布,但从未真正达到NVIDIA预期。自定义Arm内核家族仍不够好,也从未使用NVIDIA的移动SoC制成。相比之下,对于NVIDIA而言,Grace是一台更安全的项目。它们只是授予Arm内核许可,而不是构建自个的内核,这些内核也将被其他许多方使用。因此,英伟达的风险得以降低,可以在很大程度上使I / O和内存检测正确无误,并保持最终设计的能源效率。
如果一切都按计划进行,有望在2023年见到Grace。NVIDIA已经确认Grace模块将可用于HGX载板,以及扩展为DGX和所有其他使用这些板的系统。因此,尽管我们还没有看到英伟达有关Grace计划的全部内容,但是显然,他们正在计划使其成为未来服务器产品的核心部分。
回答
提问
使用道具
举报
|
用PixPix生成超酷炫电视壁纸
>>用【当贝酷狗音乐】海量正版、无损音乐!
相关问题
更多>
为什么索尼电视cpu不行
为什么索尼电视cpu不行
小米电视cpu多少钱一个
小米电视cpu多少钱一个
cpu强的小米电视有哪些
cpu强的小米电视有哪些
小米电视cpu哪个比较好去回答
小米电视cpu哪个比较好去回答
索尼电视cpu为什么不公布
索尼电视cpu为什么不公布
小米E40A电视用的哪个主芯片
小米E40A电视用的哪个主芯片
小米电视cpu哪个性能好
小米电视cpu哪个性能好
电视机外插芯片怎么接音箱
电视机外插芯片怎么接音箱
ZNDS问答首页
›
芯片圈变天了,英伟达推出首个CPU!预计2023年正式投入 ...
快速回复
高级模式
B
Color
Image
Link
Quote
Code
Smilies
您需要登录后才可以回帖
登录
|
立即注册
发表回复
回帖后跳转到最后一页
最新回答
小米电视4a 4c和4x哪个好用吗
阅读:80
电视机健身镜怎么用的视频
阅读:101
三星和小米电视选哪个更好
阅读:84
小米电视5usb插口在哪里
阅读:101
索尼电视常用接口有哪些
阅读:101
王牌和小米电视哪个好
阅读:101
小米电视4 49寸多少钱
阅读:101
小米4寸电视多少钱
阅读:93
小米电视k歌录音设置在哪里
阅读:101
小米电视5插孔在哪里
阅读:101
当贝AI
-
发现AI
-
Archiver
-
手机版
-
Sitemap
-
AI社区
-
Molili
-
联系我们
-
隐私政策
-
ZNDS问答
(
苏ICP备2023012627号
苏公网安备 32011402011373号
)
增值电信业务经营许可证:苏B2-20221768 Copyright © 2013 - 2026
GMT+8, 2026-11-17 16:51
, Processed in 0.171201 second(s), 41 queries .