菲龙网编辑部7 发表于 2023-11-15 13:22

英伟达自己超越自己,H200取代H100成为新的最强AI芯片

·对比备受热捧的H100芯片,新的H200完成了1.4倍内存带宽和1.8倍内存容量的升级,提高了处理密集生成式人工智能负载的能力。据介绍,在处理Meta的大语言模型Llama2(700亿参数)时,H200的推理速度比H100提高了2倍。
·第一批H200芯片将于2024年第二季度上市。


英伟达芯片
第一批H200芯片将于2024年第二季度上市。
北京时间11月14日凌晨,英伟达在今年的SC23大会上突然宣布,推出新的顶级AI芯片HGX H200。第一批H200芯片将于2024年第二季度上市。
英伟达又一次自己超越自己,H200取代H100成为新的世界最强AI芯片。
对比备受热捧的H100芯片,这款新的GPU(图形处理单元)完成了1.4倍内存带宽和1.8倍内存容量的升级,提高了处理密集生成式人工智能负载的能力。据介绍,在处理Meta的大语言模型Llama2(700亿参数)时,H200的推理速度比H100提高了2倍。
从外观上看,H200似乎与H100基本相同。内存方面,H200芯片是第一款采用HBM3e(新型超高速高带宽内存)的GPU。HBM3e可加速生成式AI和大语言模型工作负载,将GPU的内存带宽提高到每秒4.8TB,而H100为每秒3.35TB,同时将其总内存容量提高到141GB,而其前身为80GB。与再前一代的A100相比,其容量翻倍,带宽增加2.4倍。
对于高性能计算(HPC),显存带宽也至关重要,其可以实现更快的数据传输,减少复杂任务的处理瓶颈。对于模拟、科学研究和人工智能等显存密集型HPC应用,H200更高的显存带宽可确保高效地访问和操作数据。据介绍,相较于H100,H200在处理高性能计算的应用程序上有20%以上的提升。
英伟达大规模与高性能计算副总裁伊恩·巴克(Ian Buck)在演示视频中表示,“HBM内存的整合有助于加速计算密集任务的性能,包括生成式人工智能模型和高性能计算应用,同时优化GPU的利用率和效率。”“借助H200,业界领先的端到端人工智能超算平台的速度会变得更快,一些世界上最重要的挑战,都可以被解决。”
H200还与支持H100的系统兼容。英伟达表示,云服务提供商在添加H200时无需进行任何更改。亚马逊、谷歌、微软和甲骨文等公司的云服务部门将是明年首批接收新GPU的公司。
除了各种芯片性能升级外,一个重要的关注点在于公司是否能够得到这些新芯片,或者它们是否会像H100一样受到供应限制。对于这个问题,英伟达并没有确切的答案。该公司表示正在与“全球系统制造商和云服务提供商”合作,以使其可用。英伟达发言人克里斯汀·内山(Kristin Uchiyama)拒绝就生产数量发表评论。
此外,价格也是核心焦点。英伟达目前没有列出新芯片的价格,内山表示定价由英伟达的合作伙伴确定。据美国媒体CNBC报道,上一代H100估计每个售价在25000到40000美元之间,要想在最高水平上运行,可能需要数千个H100芯片。
目前全球的人工智能公司还面临着“算力荒”,急切寻找H100芯片成为常态(H100被视为高效训练和运行生成式人工智能和大语言模型的最佳选择)。这些芯片已经成为了“硬通货”,甚至有公司将H100芯片用作贷款的抵押品,在硅谷谁拥有多少H100芯片也是热门的八卦话题。
内山在接受科技媒体The Verge的采访中表示,H200的推出不会影响H100的生产,“你将看到我们在整个年度增加总体供应”。据《金融时报》8月报道,英伟达计划在2024年将H100的生产量增加到三倍,目标是明年生产200万个(2023年生产约50万个)。
延伸阅读:
不愿失去中国市场 英伟达和华盛顿上演“猫鼠游戏”?


中美国旗
直新闻:在“习拜会”登场前,中美已经经过多轮磋商,包括中美经济和金融会谈,你认为中美关系是否出现拐点?
特约评论员陈冰:经过几轮会谈,包括气候变化、核军控、经济会谈,我们可以看出中美关系在企稳止跌,在合作方面也有一定的成果。今后一段时间,也就是拜登总统剩余的任期内,中美关系大概率只会向好,不会再恶化了。最近几个月的中美高层互动,比如中国副总理何立峰和美国财长耶伦的深入会谈,我们可以看出中美新的共识正在形成,如果用一句话来归纳,就是中美都希望避免“修昔底德陷阱”,两个大国要努力管控分歧,不要因误解而出现意外摩擦,不要因摩擦而升级为冲突。
在这方面,美国的感触可能更深刻一些,中国很多的主张都得到实践检验,使得美国开始调弦,拜登政府不再像刚上台那么自以为是了,其中最大的变化是,美国承认现在与以往任何一个时代都不同,中美两个大国在经济上的相互依存,是处理中美关系和其他国际关系的基本点。因此耶伦在与何立峰深入会谈后,再一次强调美国不寻求中美经济“脱钩”,要发展健康的经济关系,两国要一道努力,应对共同挑战,包括经济增长、金融稳定和监管。以往美国说中美合作,至多提提气候变化问题,现在则拓展了合作领域和范围。耶伦在阐述美国对亚太地区经济政策时,也公开承认美中关系是世界上影响最大的关系之一,必须正确处理好这一关系。
如果美国与中国“脱钩断链”,包括亚太国家在内的各国将被迫选边站,将会对全球产生重大的负面影响,将导致灾难性后果。美国有这样的认识,算是较大的转变,一定程度上接受了中国的世界观。在安全领域,白宫国安顾问沙利文在《外交事务》杂志发表专文,阐述如何在一个相互依存的时代进行竞争,如何与中国竞争。沙利文承认,现在的竞争与过去的中型大国和近邻大国之间的地区竞争不同,而是真正的全球竞争。中美间经济上相互依存的竞争,决定了不是“零和竞争”,而是面临共同挑战。他承认在可预见的未来,中国仍将是世界舞台上的重要角色,华盛顿和北京需要找出管理竞争的方法,以缓解紧张局势,并在共同的挑战上找到前进的方向。拜登政府正在加强美国与中国的外交,保留现有的沟通渠道并建立新的渠道,努力避免陷入冲突。他强调高层的反复互动对于消除误解、避免误解、发出明确信号,对于阻止可能爆发重大危机的螺旋式下滑至关重要。
最近中美对稳定关系有令人鼓舞的迹象,今后真正的考验在于,当局势不可避免地急剧升级时,这些渠道能否发挥作用。可以这么说,中国对中美竞争的立场和态度是一贯的,一直寻求管控分歧、合作共赢,而美国则一直强调对抗和战略竞争。现在美国在对华政策上碰壁,在乌克兰危机和巴以冲突中陷入困境后,似乎开始微妙地进行政策调整,意识到中美关系的重要性,意识到“修昔底德陷阱”的可怕。我们尚不能说中美关系的拐点来了,但可以看出中美关系止跌企稳的迹象确实越来越明显。


英伟达芯片
直新闻:据传美国芯片制造商英伟达要向中国市场发布改良版系列芯片,以规避美国对华芯片限令,有媒体认为美国禁令难为了美国企业,把正常的进出口变成“猫鼠游戏”,你怎么看?今后美国政府会替企业着想吗?
特约评论员陈冰:美国政府要是替美国企业着想,可能就不会制定对华芯片限令了。美国对华芯片出口限令,是典型的政治挂帅,以行政命令干扰市场,结果是害人不利己,把自家的企业搞得灰头土脸,又无可奈何。英伟达专门设计和制作适合中国市场的芯片,这是第二次了,都是拜登政府芯片限令惹的祸。
去年美国开始实施对华芯片限令,英伟达按照要求,制造提供中国市场的A800和H800;今年美国芯片限令又加码,英伟达只好再改制式,削减了一些计算能力,制作新的三款改良版芯片,专供中国市场,规避美国管制。很显然,这样做让美国企业陷入两难:一是给中国市场的不是最好的芯片,让中国用户不高兴,可能寻找替代者;二是美国企业增加成本,得生产两套或两套以上的产品。结果就是美国企业可能会失去一部分中国市场,失去盈利能力;而中国同行则加快芯片研制,占领市场。
所以路透社报道说,中国百度集团已向华为订购芯片,而不是向老供应商英伟达订购。英伟达等美国芯片企业的管理层,已多次向美国政府申诉,要求开放对华芯片供应,人为限制将使美国企业在世界最大芯片市场之一的中国,失去竞争优势,而且会推动中国芯片企业快速发展,在全球形成对美企的竞争力,会对美国科技企业造成巨大损害。我们再来看一个数据,2022年中国进口芯片总计约4156亿美元,其中人工智能芯片70亿美元的市场,英伟达占了90%,可见其对中国市场的依赖度之高。
不过拜登政府出于对中国的战略遏制,在芯片和技术出口,以及在高端制造业上的投资限制,不太可能取消,还要看2024年大选的结果。所以在这一届美国政府任内,美国对华芯片限令估计不会放松,美国企业只好与政府继续玩“猫鼠游戏”了。
               
               
               
                  
                  
                  责任编辑:荀建国_NN7379
页: [1]
查看完整版本: 英伟达自己超越自己,H200取代H100成为新的最强AI芯片