崗位職責:
●邊緣模型部署與集成: 負責將訓練好的計算機視覺模型( PyTorch,TensorFow, ONNX等)高效、穩定地部署到自研的AI芯片.上,實現從算法到產品的落地。
●邊緣端性能極致優化:針對自研soC的NPU、GPU、 CPU異構算力,進行模型算子適配、內存優化和并行計算優化，最大化利用硬件資源。
●應用模型壓縮技術(量化INT8/FP16、剪枝、知識蒸餾)顯著降低模型體積和計算量,滿足邊緣設備在算力、內存、功耗和時延上的嚴格約束。●推理引擎與工具鏈開發:熟練運用或二次開發適用于邊緣設備的推理框架,如RKNN Toolkit 1 RKNN-Toolkit2 (針對RK3588), M indSpore Lite 或Ascend參考應用(針對異騰)。
●開發自動化腳本或工具 :實現模型轉換、量化、編譯、測試的流水線化,提升部署效率。
●服務封裝與系統集成: 將優化后的模型封裝為輕量級服務或 SDK,集成到嵌入式Linux系統或上層應用中，提供低延遲、高可靠的推理接口。
●性能監控與問題排查: 在真實邊緣設備上建立性能監控,持續跟蹤推理延遲、幀率(FPS)、 功耗、溫度等關鍵指標,快速定位并解決部署中的性能瓶頸和穩定性問題。
●跨團隊協作: 與算法團隊緊密合作, 指導模型設計以適應邊緣部署;與嵌入式開發、硬件團隊協作,解決底層驅動、資源調度等問題。