tag

TFLite

共 1 篇文章。
全部文章GoGolangGodotTutorialRustSaaSRust TutorsLuaPrd游戏客户端Long Term Novel Writing ExperienceSpore Trilogy Creative Writing Notes孢子三部曲孢子三部曲创作手记回顾
ai

边缘端推理部署：TFLite、ONNX Mobile 与 NPU 异构加速实践

当推理发生在手机、摄像头、车载设备上，约束从『算得快』变成『在有限功耗和内存内算得好』。本文聚焦边缘端推理：对比 TFLite / ONNX Runtime Mobile / ExecuTorch / OpenVINO 等移动框架，讲解 Qualcomm 与 Apple NPU 的异构调度，给出端侧量化与模型压缩的组合拳，并拆解目标检测、端侧 LLM、语音助手三类典型应用。一、边缘推理的约束

9 分钟阅读
边缘推理 移动端 NPU