2月4日，騰訊混元AI Infra團(tuán)隊(duì)正式推出開源生產(chǎn)級(jí)高性能LLM推理核心算子庫(kù)HPC-Ops。騰訊混元稱，在真實(shí)場(chǎng)景下，基于HPC-Ops，混元模型推理QPM提升30%，DeepSeek模型QPM提升17%。同時(shí)，在單算子性能方面，HPC-Ops實(shí)現(xiàn)Attention相比FlashInfer/FlashAttention最高提升2.22倍；GroupGEMM相比DeepGEMM最高提升1.88倍；FusedMoE相比TensorRT-LLM最高提升1.49倍。