近日，受AIGC人工智能技术热潮影响，尽管PC和服务器市场需求陷入下降周期，但NVIDIA的高端GPU却出现供不应求局面。目前，最顶级的H100显卡售价超过25万元，订单排满至明年。 随着ChatGPT引发的AI热潮持续，AI算力成为各大厂商投资的重点。NVIDIA的AI显卡几乎成为了该领域的唯一选择，因此今年涌入了大量急单。目前，NIVIDIA的订单已经排到了2024年，很多厂商要半年甚至近一年才能拿到产品。 为应对订单需求，NVIDIA紧急向台积电下单增产A100、H100等高性能AI显卡。
这导致台积电的5nm产能利用率几近满载，目前采用超级急件方式为NVIDIA生产。然而，订单到今年底仍是满载的。 H100显卡基于GH100 GPU核心，采用定制版台积电4nm工艺制造，800晶体管，集成18432个CUDA核心、576个张量核心、60MB二级缓存。该显卡支持6144-bit HBM高带宽内存，兼容PCIe 5.0。 H100计算卡共有SXM和PCIe 5.0两种款式，其中SXM版本拥有15872个CUDA核心、528个张量核心，PCIe 5.0版本拥有14952个CUDA核心、456个张量核心，功耗最高达700W。 性能方面，H100显卡的FP64/FP32性能为每秒60万亿次、FP16性能为每秒2000万亿次，以及TF32性能为每秒1000万亿次，皆是A100的三倍。同时，FP8性能为每秒4000万亿次，是A100的六倍。
