快科技今日（11月14日）报道，在2023年全球超级计算大会（SC2023）上，芯片巨头英伟达发布了H100芯片的后继产品，即目前全球最强的AI芯片——H200。
与前代H100相比，H200的性能直接提升了60%至90%。
不仅如此，H200和H100都基于Nvidia的Hopper架构，这也意味着这两款芯片是相互兼容的。对于使用H100的企业来说，可以无缝替换为最新的H200。
同时，H200是NVIDIA第一款使用HBM3e内存的芯片。速度更快、容量更大，更适合大型语言模型的训练或推理。
除了HBM3e内存之外，H200的内存容量为141GB，带宽从H100的3.35TB/s提升到4.8TB/s。
H200的性能提升主要体现在大模型的推理性能上。 H200在700亿参数的大Llama2模型上的推理速度是H100的两倍，并且H200的推理能耗相比H100直接降低了一半。
对于内存密集型HPC应用，H200更高的内存带宽保证了操作数据的高效访问，获取结果的时间相比CPU可提高高达110倍。
英伟达表示，H200预计将于2024年第二季度出货，价格尚未公布。然而，在算力短缺的情况下，预计大型科技公司仍会囤货。
