
近年來,隨著移動互聯(lián)網(wǎng)技術(shù)的發(fā)展,人們也逐漸將社交的重心轉(zhuǎn)移到線上。對于社交媒體而言,營造良好的平臺社區(qū)氛圍是重中之重。Soul作為深受年輕人喜愛的社交平臺,持續(xù)升級風(fēng)控模型,致力于為廣大用戶建立全方位、立體化的社交保護。Soul創(chuàng)始人表示,Soul App的風(fēng)控模型已具有全維度的監(jiān)控能力,包括且不限于私聊、發(fā)帖或各個公域場景中圖片、語音與文字內(nèi)容的識別。
為了持續(xù)保護用戶社交體驗,精準識別和嚴懲用戶不良社交行為,Soul App創(chuàng)新研發(fā)了“AI輔助識別”“網(wǎng)絡(luò)乞討行為識別”“虛假人設(shè)識別”等能力,累計研發(fā)并上線各項反詐策略共計430余條,平臺反詐識別能力顯著提升。據(jù)通報數(shù)據(jù)顯示,從Soul App導(dǎo)流發(fā)案的案件數(shù)量連續(xù)下降,第三季度發(fā)案數(shù)比前一季度下降13%,平臺治理工作成效顯著。

針對各大社交平臺上頻發(fā)的“假人設(shè)”現(xiàn)象,如假冒‘警察’、‘離異帶娃’等身份,Soul App迅速識別并鎖定可能存在風(fēng)險的用戶群體,通過多維度的考察方法,包括但不限于:年齡及地理位置的異常、人設(shè)的可疑性、高危職業(yè)身份、潛在的受害者特征、網(wǎng)絡(luò)圖片盜用等,風(fēng)控模型將對這些指標進行重點持續(xù)監(jiān)控,以確保平臺環(huán)境的安全性和真實性。
前不久,Soul還上線了“瞬間假人設(shè)風(fēng)險提醒”功能。自上線以來,已經(jīng)實現(xiàn)超過95%的準確率和60%的覆蓋率,在近一個月的時間內(nèi),發(fā)送提醒超57萬次。很多假人設(shè)在構(gòu)建身份敘述時,常常會出現(xiàn)與真實情況不符或前后敘述不一致的破綻,通過精確地捕捉這些身份矛盾點,并針對性地對相關(guān)用戶進行識別和分類,對內(nèi)能顯著提高站內(nèi)的人像識別效率,對外能提升用戶體驗,創(chuàng)建更符合用戶期待的社區(qū)環(huán)境。
在未來,Soul創(chuàng)始人和團隊將持續(xù)加強對不良內(nèi)容的打擊力度,高標準地維持用戶社交安全,致力于營造清朗的網(wǎng)絡(luò)環(huán)境,切實提高用戶社交體驗。
