国产中文无码av每日更新在线观看, 亚洲天堂中文字幕一区二区三区免费, 国产口爆吞精在线观视频-黄色国产, 92福利-国内精品久久久久久99,亚洲成AV人A片不卡无码,浪潮AV无码专区,老熟女败火白浆,中文字幕日产av,色情日本免费看大片

更新于 9月17日

推理模型性能優(yōu)化

10-15萬
  • 上海浦東新區(qū)
  • 5-10年
  • 碩士
  • 全職
  • 招1人

職位描述

SGLANG,VLLM
崗位職責:
? 分析深度學習網(wǎng)絡(luò)(LLM等),優(yōu)化深度學習模型以實現(xiàn)低延遲、高
吞吐量的推理。
? 使用 vLLM或SGlangM 等推理加速引擎部署模型
? 理解、分析、剖析和優(yōu)化深度學習工作負載并在我們的硬件和軟件平臺上進行
深度性能。
? 與內(nèi)部和外部研究人員合作,確保模型從訓練到推理部署的無縫集成
任職要求:
? 計算機科學、電子工程或相關(guān)專業(yè)碩士及以上學歷,博士學位優(yōu)先。
? 7 年以上工作經(jīng)驗
? 在深度學習和神經(jīng)網(wǎng)絡(luò)方面有著扎實的背景,包括訓練或推理。
? 精通AI負載性能加速方案包括并行方式、量化、壓縮、投機策略、調(diào)度系統(tǒng)

? 熟悉主流的推理加速引擎vLLM或SGlang
? 對計算機架構(gòu)有深入的理解,并熟悉加速芯片架構(gòu)的基礎(chǔ)知識。
? 具備分析、建模和優(yōu)化應(yīng)用程序性能的豐富經(jīng)驗。
? C++ 和 Python 編程技能

工作地點

上海浦東新區(qū)張江路

職位發(fā)布者

周宏馳/招聘負責人

昨日活躍
立即溝通
深圳市義方管理咨詢有限公司
We know that in the semiconductor industry, excellent talents are very valuable and scarce resources. Our team of experienced recruiters has a proven track record of successfully matching exceptional candidates with some of the most respected companies in the industry.We believe that we can provide your organization with the same level of service and results. We look forward to a successful working relationship in the future.
公司主頁