1、負(fù)責(zé)網(wǎng)絡(luò)爬蟲系統(tǒng)平臺(tái)的架構(gòu)設(shè)計(jì)與開發(fā),完善和重構(gòu)現(xiàn)有采集系統(tǒng)及服務(wù)(如抓取調(diào)度,多樣化抓取,頁面解析和結(jié)構(gòu)化抽取
2、研究爬蟲策略和防屏蔽規(guī)則,解決封賬號(hào)、封IP、驗(yàn)證碼、頁面跳轉(zhuǎn)等難點(diǎn),提升網(wǎng)頁抓取的效率和質(zhì)量
3、負(fù)責(zé)后臺(tái)爬蟲數(shù)據(jù)的分布式存儲(chǔ)設(shè)計(jì)以及代碼實(shí)現(xiàn);
1.熟悉CentOS、Ubuntu操作系統(tǒng)及國產(chǎn)化系統(tǒng),麒麟,歐拉,龍蜥等等系統(tǒng)的日常運(yùn)維及故障處理等
2.熟悉Kubernetes,DevOps、微服務(wù)治理、SpringCloud、分布式系統(tǒng)等相關(guān)技術(shù);
3.熟悉主流云服務(wù)平臺(tái)(如阿里云、騰訊云、AWS等),具備3年以上運(yùn)維管理經(jīng)驗(yàn)。
4.熟悉主流監(jiān)控工具(如Zabbix、Grafana、Prometheus等),具有監(jiān)控體系整合與實(shí)施經(jīng)驗(yàn)。
5.具備DevOps、CI/CD、監(jiān)控系統(tǒng)、運(yùn)維自動(dòng)化等工作能力。
6.熟悉openstack虛擬化平臺(tái),能夠獨(dú)立部署及維護(hù)。
7.具有良好溝通能力,能夠配合開發(fā)及項(xiàng)目經(jīng)理完成工作。