一起實現跨平台AI框架與硬體加速最佳化
我們正在尋找一位具備系統程式功底與AI領域知識的軟體工程師加入我們團隊
您將負責將公司開發之AI模型導入至多樣化的硬體終端(現階段以Windows為主,佈署至Android/Linux/RTOS為下一階段目標)
您的核心任務是理解目標平台的硬體特性和欲佈署模型架構,優化跨平台推論框架的執行效率,確保模型在資源受限的環境下仍能達到極致效能(low latency, low power, high performance)
核心職責:
1. 框架導入與佈署:負責將訓練環境(例如: PyTorch)產出之模型,高效部署至推論
inference執行環境或引擎(如ONNX Runtime, OpenVINO, TensorFlow Lite)
2. 底層效能最佳化:利用指令集(如 X86 AVX, ARM NEON)及DSP專屬指令集或該平台獨
立NN/NPU Accelerator, 撰寫並優化高效能運算核心(Compute Kernels); 或依Vendor
架構實做至fallback
3. 資源調度管理:設計與優化高效率的記憶體緩衝機制(Buffer Management),極小化處
理器間(如 CPU 與 DSP/NPU)的資料搬移開銷與同步延遲
4. 效能瓶頸診斷:使用Profiling工具進行算子(Operator)與核心(Kernel)層級的深入分析,
診斷並解決系統性的效能瓶頸
1. AI框架實務:具備將PyTorch模型轉換為推論format並進行部署的實戰經驗
2. 系統程式能力:精通C/C++與Python,對電腦架構、記憶體階層與多執行緒有深刻理解
3. 硬體優化經驗:熟悉指令集開發,且對DSP或NPU等異構運算單元有基本認知
4. 平台開發經驗:熟悉Windows系統環境開發,具備跨平台(Linux/Android/RTOS)移植與編譯的經驗尤佳
硬體後端適配:針對特定SoC平台進行AI Operator/Kernel的Mapping與底層架構調校
【薪資/獎金】 提供完善的薪資及福利制度,依公司營運狀況及辦法提供績效獎金、年度調薪、員工分紅等。
【健康促進與保障】
1.全額補助公司團體保險。
2.優於法規的年度健康檢查。
3.臨場護理師免費諮詢。
4.合作健身房免費使用。
5.不定期舉辦健康促進活動,如健康講座、健康促進宣導。
【多樣的員工福利方案】
1.員工旅遊補助。
2.結婚禮金、生育補助、喪葬慰問金。
3.周休二日、彈性上下班、生日假。
4.停車補助。
5.多元社團活動。
6.下午茶零食吧。
7.福委會不定期各項活動:如感謝季、聖誕交換禮物、不定期下午茶。
*各項獎金/薪資/津貼與福利事項依公司相關規定辦理。