边缘优化
边缘优化包括模型压缩、算子融合、精度调整、内存优化等技术,针对边缘设备的资源约束进行专门优化。模型压缩:量化、剪枝、蒸馏;算子优化:融合、重排;内存优化:静态分配、复用;功耗优化:计算调度;性能评估:延迟、吞吐、功耗。
学习资源(11 个)
📎
Quantization Survey Paper
量化综述论文
高级
📎
百度千帆 - 量化部署全流程
百度千帆全流程
进阶
📎
ONNX Runtime Performance
ONNX Runtime性能
进阶
📎
腾讯云TI - 边缘计算优化
腾讯云边缘优化
进阶
📎
CSDN - 边缘模型优化
边缘优化教程
进阶
📎
飞桨Paddle - 边缘部署优化
飞桨边缘优化
进阶
📎
PyTorch Mobile Optimization
PyTorch移动优化
进阶
📎
Qualcomm Model Optimization
高通模型优化
进阶
📎
Intel OpenVINO Optimization
OpenVINO优化
进阶
📎
Edge Optimization Survey
边缘优化综述
高级
📎
TinyML Book
TinyML书籍
入门