職位描述
1. 負(fù)責(zé)AI對(duì)話產(chǎn)品的安全巡檢、評(píng)估、攻防、語(yǔ)料改寫等工作;
2. 加入AI對(duì)話安全評(píng)估監(jiān)測(cè)工作流,承擔(dān)規(guī)則維護(hù)、風(fēng)險(xiǎn)標(biāo)注、質(zhì)量管理等事項(xiàng);
3. 加入對(duì)話模型風(fēng)險(xiǎn)優(yōu)化工作流,承擔(dān)漏洞攻擊、風(fēng)險(xiǎn)評(píng)測(cè)、語(yǔ)料改寫等事項(xiàng);
4. 跟隨國(guó)內(nèi)安全與信任團(tuán)隊(duì),參與各類風(fēng)險(xiǎn)專線、輿情專項(xiàng)治理工作;
5. 對(duì)平臺(tái)工具、數(shù)據(jù)管理、規(guī)則與策略等提出合理優(yōu)化建議,提高團(tuán)隊(duì)運(yùn)行效率;
6. 響應(yīng)公司內(nèi)容安全方面的其他需求。
職位要求
1. 大專及以上學(xué)歷,專業(yè)不限,有內(nèi)容審核、大模型安全評(píng)測(cè)、語(yǔ)料寫作經(jīng)驗(yàn)優(yōu)先;
2. 熟悉互聯(lián)網(wǎng)內(nèi)容安全治理政策,了解治理要求和趨勢(shì)。加分項(xiàng):熟悉涉政風(fēng)險(xiǎn)、二次元/小說風(fēng)險(xiǎn)。
3. 信息資訊面廣,對(duì)時(shí)事新聞具有敏感性和判斷力,對(duì)高危、隱晦內(nèi)容有鑒別能力;
4. 執(zhí)行力強(qiáng),具備抗壓能力;
5. 注:本崗位非審核崗,需實(shí)時(shí)響應(yīng)各類安全事件和需求。