ONNX 模型格式的跨框架转换
ONNX 是开放神经网络交换格式。PyTorch 导出为 ONNX 后在 ONNX Runtime 上推理。跨框架部署无需重新训练。本文将 PyTorch 模型转为 ONNX 并部署。
16
0
0
2026-07-10
ONNX Runtime LLM
学习使用 ONNX Runtime 针对大语言模型的生成式 API，通过量化与硬件加速适配器，在不同硬件后端高效部署 Llama、Phi 等生成式模型。
18
0
0
2026-06-14