一句話概括招聘需求?：主導AI大模型高并發(fā)API架構(gòu)重構(gòu)與性能優(yōu)化的核心技術(shù)專家。
【我們是誰】?
國內(nèi)領(lǐng)先的AI大模型接入與調(diào)度服務商，業(yè)務處于極速上升期。平臺支撐數(shù)百家分站與下游開發(fā)者，當前日請求量級已達數(shù)億級，年度目標直指10億TPM（Tokens Per Minute）。我們正在重構(gòu)核心轉(zhuǎn)發(fā)引擎，需要一位能掌控技術(shù)命脈的架構(gòu)師。
【你將負責什么】?
1.主導現(xiàn)有New API/One API架構(gòu)的深度優(yōu)化，將轉(zhuǎn)發(fā)面（Data Plane）與管理面（Control Plane）徹底分離；
2.使用Go或Rust研發(fā)超高性能API網(wǎng)關(guān)，針對SSE（流式傳輸）進行極端性能優(yōu)化，挑戰(zhàn)毫秒級首字延遲（TTFT）；
3.設(shè)計“計費感知型”動態(tài)路由系統(tǒng)，支持根據(jù)分站權(quán)重、成本系數(shù)及實時成功率進行動態(tài)流量分發(fā)；
4.構(gòu)建多機房（OVH Vint Hill/Hillsboro等）分布式集群，解決全球互聯(lián)背景下的分布式鎖、高性能計費與異步日志存儲問題；
5.優(yōu)化Redis集群、Kafka消息隊列，解決高并發(fā)下的I/O瓶頸，確保系統(tǒng)在10億TPM沖擊下穩(wěn)如泰山。
【我們需要什么樣的你】?
1.在大型互聯(lián)網(wǎng)公司（云計算、廣告、量化交易、高并發(fā)網(wǎng)關(guān)）有5年以上核心架構(gòu)設(shè)計經(jīng)驗，曾處理過百萬級QPS或億級并發(fā)場景；
2.精通Go或Rust，能編寫高性能、內(nèi)存友好的核心組件；
3.深度理解Nginx/OpenResty模塊開發(fā)，熟悉網(wǎng)絡協(xié)議棧優(yōu)化；
4.精通分布式系統(tǒng)設(shè)計，對緩存穿透、雪崩、數(shù)據(jù)最終一致性有成熟解決方案；
5.對大模型流式接口（SSE）、長連接維護及多供應商API調(diào)度有實戰(zhàn)經(jīng)驗者優(yōu)先；
6.能從0到1建立監(jiān)控指標，并在系統(tǒng)故障時快速定位內(nèi)核或網(wǎng)絡層的性能瓶頸。
【加分項】?
1.有自研高性能網(wǎng)關(guān)（如對標Kong, APISIX, Traefik）經(jīng)驗；
2.對OVHcloud基礎(chǔ)設(shè)施（vRack、Anycast、IPLB）有深度調(diào)優(yōu)經(jīng)驗；
3.有開源社區(qū)貢獻（如Kubernetes、Go-core、OneAPI等核心貢獻者）。
【我們能給你什么】?
1.絕對的技術(shù)主權(quán)?：你就是技術(shù)靈魂，地基怎么打你說了算；
2.豐厚的激勵?：30K-50K·16薪 + 業(yè)務利潤分紅（具體面議）；
3.純粹的團隊?：40人團隊，拒絕大廠政治，一切以“性能和穩(wěn)定”為最高準則。
【工作地點】
白云區(qū)黃邊愿景中心大廈(黃邊地鐵站A口)