工作職責(zé):
1、負(fù)責(zé)智能硬件產(chǎn)品的嵌入式軟件架構(gòu)設(shè)計(jì)、核心模塊開(kāi)發(fā)、調(diào)試、性能優(yōu)化與維護(hù)。
2、負(fù)責(zé)嵌入式系統(tǒng)(基于主流MCU/SOC平臺(tái))與傳感器、通信模塊(如Wi-Fi, BlueTooth)等各種外圍硬件接口的驅(qū)動(dòng)開(kāi)發(fā)、集成與調(diào)試。
3、設(shè)計(jì)和實(shí)現(xiàn)基于linux的嵌入式應(yīng)用程序。
4、負(fù)責(zé)將優(yōu)化后的大模型(包括但不限于開(kāi)源LLM)部署到現(xiàn)有嵌入式/邊緣硬件平臺(tái)(如高性能SoC集成NPU/GPU),開(kāi)發(fā)端側(cè)推理引擎和應(yīng)用。
5、探索和實(shí)現(xiàn)大模型端側(cè)推理的性能優(yōu)化技術(shù)(如模型量化、剪枝、編譯優(yōu)化),確保模型在資源受限環(huán)境下的高效、穩(wěn)定運(yùn)行。
6、開(kāi)發(fā)必要的工具鏈、中間件或SDK,支持大模型在智能硬件產(chǎn)品中的應(yīng)用(如語(yǔ)音交互、圖像理解、智能決策等)。
7、熟悉并評(píng)估主流大模型推理框架(如vLLM, TensorRT, ONNX Runtime等),并根據(jù)項(xiàng)目需求選擇和集成。
8、密切關(guān)注端側(cè)AI推理、大模型壓縮與加速技術(shù)的前沿發(fā)展。
任職要求 (Mandatory Requirements):
1、計(jì)算機(jī)科學(xué)、電子工程、軟件工程、自動(dòng)化或相關(guān)專(zhuān)業(yè)本科及以上學(xué)歷。
2、5年以上 扎實(shí)的嵌入式軟件開(kāi)發(fā)經(jīng)驗(yàn)。有智能硬件產(chǎn)品從0到1開(kāi)發(fā)及量產(chǎn)經(jīng)驗(yàn)者優(yōu)先。
3、學(xué)習(xí)能力強(qiáng),對(duì)新技術(shù)(尤其是AI、大模型、芯片軟件棧)有強(qiáng)烈的求知欲和探索精神。
4、深入理解計(jì)算機(jī)體系結(jié)構(gòu)以及嵌入式系統(tǒng)原理,熟悉常用MCU/SOC平臺(tái)(瑞芯微,全志系列芯片)。
5、熟練使用Linux開(kāi)發(fā)環(huán)境,精通Git版本控制,熟練使用Make/CMake等構(gòu)建工具。
6、熟悉常用外設(shè)接口協(xié)議(如UART, SPI, I2C, USB, ADC, DAC,PWM)及驅(qū)動(dòng)開(kāi)發(fā)。
7、熟練掌握主流深度學(xué)習(xí)框架(PyTorch 必備,TensorFlow熟悉)。
8、深入理解大模型(LLM)的核心工作原理、訓(xùn)練和推理流程。
9、具備大模型端側(cè)部署和優(yōu)化實(shí)踐經(jīng)驗(yàn)(如模型量化、推理引擎集成)者優(yōu)先。
10、有使用vLLM、TensorRT-LLM、llama.cpp或其他高效LLM推理框架經(jīng)驗(yàn)者優(yōu)先;有Android/IOS APP開(kāi)發(fā)經(jīng)驗(yàn)優(yōu)先.