英伟达GH200测试成绩亮相：各项技能比H100提升15%

回复科技仓：由于时间原因，TensorRT-LLM没有参加8月的MLPerf提交。据英伟达的内部测试，在运行60亿参数GPT-J模型时，相较于没有使用TensorRT-LLM的上一代GPU，在H100 GPU上使用TensorRT-LLM能够实现8倍的性能提升。