1、遷移方案支持:梳理ISV大模型兼容性、賦能ISV使用模型遷移工具套件、分析掃描資源包/依賴庫/原代碼、提供軟件移植報告、提供大模型移植工作量評估、提供代碼遷移指導報告、協(xié)助ISV開發(fā)人員解決遷移中遇到的問題、ISV昇騰軟件兼容性認證
2、性能調(diào)優(yōu)支持:應用性能測試、NPU調(diào)優(yōu)、網(wǎng)絡調(diào)優(yōu)、IO調(diào)優(yōu)、操作系統(tǒng)調(diào)優(yōu)、中間件調(diào)優(yōu)、代碼調(diào)優(yōu)、模型部署和發(fā)布調(diào)優(yōu)、集群性能調(diào)優(yōu)、賦能ISV使用大模型調(diào)試工具套件
3、梳理ISV兼容性、賦能ISV,協(xié)助ISV開發(fā)人員解決大模型調(diào)試,AI應用使能等過程中的問題,負責大模型相關解決方案開發(fā)與ISV支持,負責AI應用解決方案開發(fā)與ISV支持技術能力要求:
知識點(滿足至少4項):
1)了解大語言模型LLM或CV類模型,了解Tranfomers模型結構原理;
2)具有基于NV硬件對模型進行微調(diào)訓練,推理調(diào)試,性能優(yōu)化等經(jīng)驗優(yōu)先,具備實際工程項目經(jīng)驗優(yōu)先;
3) 熟悉Pytorch、Tensorflow、PaddlePaddle 等深度學習框架,熟悉CNN、ResNet、RNN、LSTM、BERT、GAN 等網(wǎng)絡
4)了解linux操作系統(tǒng)基本知識,熟練掌握linux基礎命令;
5)計算機軟硬件相關專業(yè),熟悉掌握Python/C等編程語言中至少一種語言,且有2K以上的代碼編程經(jīng)驗優(yōu)先;
6)了解K8S運行原理和調(diào)度機制,熟悉docker工作原理和常用命令;
7)了解計算機組成原理相關知識,對服務器、PC的硬件有基本了解(例如:CPU、內(nèi)存、網(wǎng)卡、Raid卡等);
專業(yè)知識要求:
1、具備較強的需求理解和分析能力,能將功能需求轉(zhuǎn)化為設計方案并落地
2、良好的溝通、積極有良好表達能力,協(xié)作能力;
3、具有模型訓練、精度/性能調(diào)優(yōu)、推理部署完整實踐經(jīng)驗,具備大模型開發(fā)調(diào)優(yōu)部署經(jīng)驗者優(yōu)先;
4、有算子開發(fā)經(jīng)驗優(yōu)先 ;學歷要求本科,不要專升本
5、有昇騰HCIA/HCIP證書/昇騰大模型訓練開發(fā)認證微認證/Ascend C算子開發(fā)能力認證(中高級)微認證優(yōu)先。