国产中文无码av每日更新在线观看, 亚洲天堂中文字幕一区二区三区免费, 国产口爆吞精在线观视频-黄色国产, 92福利-国内精品久久久久久99,亚洲成AV人A片不卡无码,浪潮AV无码专区,老熟女败火白浆,中文字幕日产av,色情日本免费看大片

1.參與大模型中心推理場景存、算等相關(guān)系統(tǒng)的研發(fā)與優(yōu)化，保障在線系統(tǒng)的高可用/高并發(fā)。 2.負責(zé)自研LLM推理解決方案的推理優(yōu)化工作，優(yōu)化模型推理性能，高吞吐低延時支撐模型推理服務(wù)。 2.支持大模型在ToB場景落地的相關(guān)模型優(yōu)化前沿研究，包括不局限于KVCache優(yōu)化、個性化推理記憶、MRAG等。 業(yè)務(wù)技能要求： 1、熟悉C/C++/python其中一種或多種編程語言，掌握常用的數(shù)據(jù)結(jié)構(gòu)和算法基礎(chǔ)； 2、熟悉分布式系統(tǒng)、文件系統(tǒng)原理； 3、熟悉大模型相關(guān)原理，有模型訓(xùn)練或者推理優(yōu)化經(jīng)驗者優(yōu)先； 4、熟悉pytorch、vllm、sglang等推理引擎流程細節(jié)； 5、有GPU/NPU等算子調(diào)優(yōu)經(jīng)驗者優(yōu)先； 專業(yè)知識要求： 1、有很強的鉆研技術(shù)精神，責(zé)任心； 2、具備良好的溝通能力和團隊協(xié)作能力。 3、具有良好的溝通能力，對技術(shù)有激情，能快速接受和掌握新技術(shù)，主動性強，有較高的獨立工作能力。