国产中文无码av每日更新在线观看, 亚洲天堂中文字幕一区二区三区免费, 国产口爆吞精在线观视频-黄色国产, 92福利-国内精品久久久久久99,亚洲成AV人A片不卡无码,浪潮AV无码专区,老熟女败火白浆,中文字幕日产av,色情日本免费看大片

更新于 9月10日

(赴日)數(shù)據(jù)開發(fā)工程師 (大數(shù)據(jù)方向)

1.2-2.4萬(wàn)
  • 大連甘井子區(qū)
  • 5-10年
  • 本科
  • 全職
  • 招1人

職位描述

FlinkMySQLCLICKHOUSESQL優(yōu)化
職位概述:
負(fù)責(zé)設(shè)計(jì)、構(gòu)建、優(yōu)化和維護(hù)大數(shù)據(jù)處理平臺(tái),重點(diǎn)聚焦于實(shí)時(shí)數(shù)據(jù)處理和分析。精通 Apache Flink、ClickHouse 和 MySQL 是本職位的基本要求。與數(shù)據(jù)分析師及其他工程師緊密合作,為公司的關(guān)鍵業(yè)務(wù)決策和產(chǎn)品功能提供可靠、高性能的數(shù)據(jù)支持。
核心職責(zé):
實(shí)時(shí)數(shù)據(jù)流處理:
使用 Apache Flink 設(shè)計(jì)、開發(fā)和維護(hù)高吞吐、低延遲的實(shí)時(shí)數(shù)據(jù)流處理管道。
實(shí)現(xiàn)復(fù)雜事件處理 (CEP)、流式 ETL、實(shí)時(shí)聚合計(jì)算和狀態(tài)管理。
優(yōu)化 Flink 作業(yè)性能,處理背壓,確保作業(yè)的穩(wěn)定性和容錯(cuò)性。
利用 Flink CDC 或其他技術(shù),實(shí)現(xiàn)從 MySQL 等業(yè)務(wù)數(shù)據(jù)庫(kù)到大數(shù)據(jù)平臺(tái)的實(shí)時(shí)數(shù)據(jù)變更捕獲與同步。
負(fù)責(zé) ClickHouse 集群的規(guī)劃、部署、運(yùn)維、監(jiān)控和性能調(diào)優(yōu)。
設(shè)計(jì)高效的 ClickHouse 表結(jié)構(gòu) (MergeTree 引擎家族),優(yōu)化索引、分區(qū)和物化視圖。
關(guān)系型數(shù)據(jù)庫(kù) (MySQL) 集成與應(yīng)用:
深入理解業(yè)務(wù)系統(tǒng) MySQL 數(shù)據(jù)庫(kù)的 Schema 設(shè)計(jì)、數(shù)據(jù)模型和核心業(yè)務(wù)邏輯。
熟練進(jìn)行 MySQL 數(shù)據(jù)庫(kù)的查詢優(yōu)化、性能調(diào)優(yōu)及問(wèn)題診斷。
設(shè)計(jì)并實(shí)現(xiàn)高效、可靠的數(shù)據(jù)抽取 (Extract) 策略,將 MySQL 數(shù)據(jù)集成到大數(shù)據(jù)處理流程中(支持批量和實(shí)時(shí) CDC 方式)。
在數(shù)據(jù)倉(cāng)庫(kù)/數(shù)據(jù)湖架構(gòu)中,合理使用 MySQL 存儲(chǔ)維度數(shù)據(jù)、元數(shù)據(jù)或支撐特定應(yīng)用場(chǎng)景。
理解并應(yīng)用 MySQL 復(fù)制 (Replication) 機(jī)制,為數(shù)據(jù)集成提供支持。
數(shù)據(jù)處理平臺(tái)建設(shè):
構(gòu)建和維護(hù)可靠、可擴(kuò)展的數(shù)據(jù)采集、清洗、轉(zhuǎn)換、加載 (ETL/ELT) 流程,特別關(guān)注涉及 MySQL 數(shù)據(jù)源的流程。
參與設(shè)計(jì)和優(yōu)化大數(shù)據(jù)基礎(chǔ)架構(gòu)(涉及 Kafka, Hadoop, Spark, Hive, HBase, Redis, MySQL 等)。
確保數(shù)據(jù)處理平臺(tái)的穩(wěn)定性、高可用性和數(shù)據(jù)質(zhì)量。
數(shù)據(jù)建模與開發(fā):
根據(jù)業(yè)務(wù)需求進(jìn)行數(shù)據(jù)倉(cāng)庫(kù)/數(shù)據(jù)湖模型設(shè)計(jì)(維度建模、星型/雪花模型等),考慮與源系統(tǒng) MySQL 模型的映射關(guān)系。
編寫高效的數(shù)據(jù)處理腳本和程序(如 SQL (MySQL & ClickHouse 方言), Java, Scala, Python)。
性能優(yōu)化與問(wèn)題排查:
持續(xù)監(jiān)控和分析數(shù)據(jù)平臺(tái)性能瓶頸,進(jìn)行深入優(yōu)化(Flink 作業(yè)、ClickHouse 查詢、MySQL 查詢、數(shù)據(jù)管道)。
快速定位和解決生產(chǎn)環(huán)境中的數(shù)據(jù)延遲、數(shù)據(jù)不一致、系統(tǒng)故障等問(wèn)題,包括涉及 MySQL 數(shù)據(jù)源的問(wèn)題。
協(xié)作與溝通:
與產(chǎn)品工程師、分析師、業(yè)務(wù)系統(tǒng)開發(fā)團(tuán)隊(duì)及業(yè)務(wù)團(tuán)隊(duì)緊密合作,理解需求并提供數(shù)據(jù)解決方案。
編寫清晰的技術(shù)文檔(包括數(shù)據(jù)血緣、ETL 邏輯、MySQL 數(shù)據(jù)字典說(shuō)明等),分享知識(shí)和最佳實(shí)踐。
基本任職要求:
必備技能:
精通 Apache Flink: 深刻理解 Flink 的核心概念(時(shí)間語(yǔ)義、窗口、狀態(tài)、容錯(cuò)機(jī)制 Checkpoint/Savepoint)、API(DataStream API, Table API/SQL)及運(yùn)行時(shí)架構(gòu)。具備大規(guī)模 Flink 集群作業(yè)開發(fā)、調(diào)優(yōu)和運(yùn)維實(shí)戰(zhàn)經(jīng)驗(yàn)。
精通 ClickHouse: 深入理解 ClickHouse 的列式存儲(chǔ)引擎(尤其是 MergeTree 系列)、索引原理、向量化執(zhí)行引擎。具備 ClickHouse 集群部署、管理、Schema 設(shè)計(jì)、SQL優(yōu)化及高并發(fā)查詢調(diào)優(yōu)的豐富經(jīng)驗(yàn)。
精通 MySQL: 深入理解 MySQL 的 InnoDB 存儲(chǔ)引擎、索引原理(B+樹)、事務(wù)隔離級(jí)別、鎖機(jī)制、SQL 執(zhí)行計(jì)劃優(yōu)化。具備豐富的 MySQL 數(shù)據(jù)庫(kù)設(shè)計(jì)、復(fù)雜 SQL 編寫與調(diào)優(yōu)、性能問(wèn)題診斷經(jīng)驗(yàn)。熟悉 MySQL 主從復(fù)制、Binlog 機(jī)制及其在數(shù)據(jù)集成中的應(yīng)用。
扎實(shí)的編程基礎(chǔ): 精通 Java 或 Scala (Flink 開發(fā)首選),精通 SQL (特別是 MySQL 和 ClickHouse 的 SQL 方言與優(yōu)化技巧)。熟悉 Python 或 Shell 腳本。
經(jīng)驗(yàn)要求:
本科及以上學(xué)歷,計(jì)算機(jī)科學(xué)、軟件工程、數(shù)學(xué)或相關(guān)專業(yè)。
3 年及以上 數(shù)據(jù)工程或大數(shù)據(jù)開發(fā)相關(guān)工作經(jīng)驗(yàn)。
至少 1-2 年 在生產(chǎn)環(huán)境中深度使用 Flink、ClickHouse 和 MySQL 的實(shí)際項(xiàng)目經(jīng)驗(yàn)。
核心能力:
深刻理解數(shù)據(jù)倉(cāng)庫(kù)、數(shù)據(jù)湖、實(shí)時(shí)計(jì)算、OLAP 以及關(guān)系型數(shù)據(jù)庫(kù) (OLTP) 的基本原理與應(yīng)用場(chǎng)景。
卓越的 SQL 能力: 精通 MySQL 和 ClickHouse 的 SQL 編寫與深度優(yōu)化。
強(qiáng)大的問(wèn)題分析、定位和解決能力,尤其是在涉及 MySQL、Flink、ClickHouse 的復(fù)雜分布式數(shù)據(jù)系統(tǒng)環(huán)境下。
具備良好的數(shù)據(jù)質(zhì)量意識(shí)、性能優(yōu)化思維和系統(tǒng)穩(wěn)定性保障能力。

工作地點(diǎn)

大連甘井子區(qū)浦項(xiàng)IT中心

職位發(fā)布者

孫明秋/人事

立即溝通
公司Logo納思達(dá)科技(大連)有限公司
納思達(dá)科技(大連)有限公司(NETSTECH)成立于 2011年,位于大連高新技術(shù)產(chǎn)業(yè)園區(qū)浦項(xiàng)IT中心,是株式會(huì)社ネットスターズ全資子公司。2022年在北京成立分公司。公司自主研發(fā)聚合支付系統(tǒng)“StarPay”將微信支付帶入日本,成為微信支付在日本的首批收單業(yè)務(wù)合作伙伴,從此開創(chuàng)了日本聚合支付時(shí)代。StarPay服務(wù)于日本及部分東南亞市場(chǎng),從與金融機(jī)構(gòu)的合作開始,已經(jīng)擁有了超200家合作伙伴。支持所有日本國(guó)內(nèi)、國(guó)外主流二維碼支付品牌40余種,合作商戶超60萬(wàn)家,牢牢占據(jù)聚合支付市場(chǎng)領(lǐng)軍地位。同時(shí)納思達(dá)為日本眾多大型企業(yè)提供高端定制化軟件開發(fā),新媒體運(yùn)營(yíng),云計(jì)算大數(shù)據(jù),系統(tǒng)監(jiān)控及其他BPO等服務(wù),目前已與騰訊、美團(tuán)、日本西武崇光百貨、日本大丸松坂屋百貨、羽田機(jī)場(chǎng)等眾多中日知名企業(yè)建立了長(zhǎng)期穩(wěn)定的合作關(guān)系,并成為札幌藥妝等海外知名商城在中國(guó)跨境電商代運(yùn)營(yíng)合作伙伴。保密承諾:本公司對(duì)收集的應(yīng)聘人員個(gè)人信息資料,嚴(yán)格遵守本公司個(gè)人信息保護(hù)管理體系的相關(guān)管理制度和員工保密協(xié)議,對(duì)應(yīng)聘人員提供的個(gè)人資料保守秘密,嚴(yán)防丟失、泄露、損毀的事件發(fā)生。使用目的僅限于與應(yīng)聘人員聯(lián)絡(luò)、考核及入職后的管理之用,如未被錄用在本公司內(nèi)部銷毀絕,不用于它途。
公司主頁(yè)