边缘优化包括模型压缩、算子融合、精度调整、内存优化等技术,针对边缘设备的资源约束进行专门优化。模型压缩:量化、剪枝、蒸馏;算子优化:融合、重排;内存优化:静态分配、复用;功耗优化:计算调度;性能评估:延迟、吞吐、功耗。
百度千帆全流程
ONNX Runtime性能
腾讯云边缘优化
边缘优化教程
飞桨边缘优化
PyTorch移动优化
高通模型优化
OpenVINO优化