硬性條件
2年以上python開發(fā)經(jīng)驗(yàn)
2個(gè)以上項(xiàng)目開發(fā)經(jīng)驗(yàn)(智能云相關(guān)經(jīng)驗(yàn)優(yōu)先)
崗位內(nèi)容描述
1、在自研芯片上適配常見的大模型,對齊精度并調(diào)優(yōu)好訓(xùn)練和推理框架的策略
2、根據(jù)業(yè)務(wù)要求,產(chǎn)出各場景 benchmark的精度和性能數(shù)據(jù)
3、定位到適配的算子精度和性能問題,供業(yè)務(wù)團(tuán)隊(duì)做算子優(yōu)化
4、沉淀和開發(fā)模型適配和測試過程中的測試效率
能力要求描述
1、熟悉大模型常見結(jié)構(gòu)與基礎(chǔ)知識(shí)
2、熟悉Huggingface Transformer/Megatron/vLLM等大模型訓(xùn)推框架,有過模型適配經(jīng)驗(yàn)
3、有獨(dú)立的分析問題和解決問題的能力
4、有過芯片適配經(jīng)驗(yàn)者優(yōu)先