本報訊 （記者袁傳璽）近年來，人工智能技術加速融入互聯(lián)網(wǎng)平臺治理實踐，正成為提升內(nèi)容識別效率、風險研判能力和生態(tài)治理精細化水平的重要支撐。隨著社交場景日益豐富，虛假人設、違法引流、網(wǎng)絡暴力、低俗擦邊等風險問題也呈現(xiàn)出更強的隱蔽性與復雜性，對平臺治理能力提出更高要求。2026年一季度，中央網(wǎng)信辦部署開展“清朗·2026年營造喜慶祥和春節(jié)網(wǎng)絡環(huán)境”專項行動，聚焦整治不良價值觀傳播、違法引流、網(wǎng)絡戾氣等突出問題，持續(xù)推動網(wǎng)絡生態(tài)治理走深走實。

    在此背景下，SoulApp發(fā)布《2026年第一季度生態(tài)安全報告》，系統(tǒng)披露平臺在反詐防控、社交生態(tài)治理、網(wǎng)絡暴力整治、社交禮儀建設等方面的治理舉措與階段性成果。報告顯示，Soul持續(xù)推進AI技術在內(nèi)容安全治理中的深度應用，通過模型識別、智能攔截、風險預警與場景化提醒等能力建設，不斷提升平臺對各類違規(guī)內(nèi)容和風險行為的發(fā)現(xiàn)、研判與處置效率，持續(xù)構建更加安全、友善、真實的社交生態(tài)。

    AI反詐能力升級

    一季度正值春節(jié)社交高峰，詐騙風險隨之上升。Soul圍繞虛假人設、網(wǎng)乞騷擾、“殺豬盤”等高風險場景，持續(xù)迭代AI識別模型，強化對隱蔽表達、變體話術及視覺干擾內(nèi)容的識別能力。

    平臺通過升級多模態(tài)語義理解能力，實現(xiàn)對風險內(nèi)容的前置識別與精準攔截，同時優(yōu)化場景化風險提示機制，提升用戶感知與防范能力。在治理實踐中，Soul逐步形成“技術識別+用戶提醒+警企協(xié)同”的全鏈路反詐體系，持續(xù)壓縮黑灰產(chǎn)活動空間。

    在虛假人設治理方面，平臺構建了覆蓋圖片路徑檢測、設備-賬號關聯(lián)分析、站內(nèi)人像識別及評論語義研判等多維度的識別體系，實現(xiàn)對虛假內(nèi)容的快速定位與處置。一季度，平臺日均識別并處置假人設相關內(nèi)容7萬余條，并對相關違規(guī)賬號實施同步管控，有效遏制虛假信息擴散。

    此外，Soul持續(xù)深化警企合作機制，一季度累計參與多項反詐與黑灰產(chǎn)打擊專項行動，報送有效線索50余次，進一步提升平臺與執(zhí)法機構的協(xié)同治理能力。

    社交治理持續(xù)強化

    圍繞“清朗”專項行動要求，Soul在一季度系統(tǒng)升級社交治理能力，通過AI模型與人工審核協(xié)同機制，重點整治低俗擦邊、惡意辱罵、有償交友及違規(guī)引流等行為。

    在整體治理成效上，平臺實現(xiàn)機審直接攔截違規(guī)內(nèi)容477萬條，處理違規(guī)賬號16.2萬個，累計拉黑違規(guī)設備3870臺。同時，通過用戶引導機制與社區(qū)規(guī)范建設，平臺日均觸達近2500名用戶進行文明發(fā)言提醒，推動社區(qū)氛圍持續(xù)優(yōu)化；在低質(zhì)內(nèi)容治理方面，平臺進一步加強對低俗、攻擊性及引流類內(nèi)容的識別與限流能力，日均處理低質(zhì)帖子超過12萬條，日均處置低質(zhì)評論18萬條以上，有效提升內(nèi)容生態(tài)質(zhì)量。

    針對群聊與私聊等高頻社交場景，Soul持續(xù)完善治理策略與產(chǎn)品機制，推動用戶互動體驗優(yōu)化。在群聊治理中，日均中斷語音違規(guī)消息3萬余條，攔截違規(guī)文字消息4萬余條，群聊自動化中斷5.8千余次。在私聊生態(tài)方面，平臺圍繞騷擾防護與用戶自主治理能力建設，推出多項產(chǎn)品策略，包括騷擾消息自檢、消息盒子分類管理及風險提示彈窗等機制，日均保護用戶免受騷擾6.4萬余人次，日均觸發(fā)保護彈窗7萬余次，重度違規(guī)用戶日均被限制私聊功能5.8萬余次。通過多維度治理手段，平臺有效降低用戶騷擾感知，提升社交安全體驗。

    強化網(wǎng)暴治理體系

    針對網(wǎng)絡暴力與情緒對立問題，Soul在一季度重點升級網(wǎng)暴治理體系，通過AI情感識別模型與動態(tài)違規(guī)詞庫，實現(xiàn)對攻擊性言論的實時監(jiān)測與精準識別。

    平臺同時結合人工復核與快速響應機制，大幅提升網(wǎng)暴內(nèi)容處置效率，并通過典型案例公示、防網(wǎng)暴指南推送及文明發(fā)言倡議等方式，加強用戶教育與行為引導。

    治理數(shù)據(jù)顯示，日均保護用戶避免網(wǎng)暴與騷擾4223次，日均處理私聊不文明行為用戶2216人，日均觸發(fā)文明發(fā)言提醒19.6萬次。通過“技術治理+用戶教育+專項行動”的組合策略，平臺有效降低網(wǎng)絡戾氣，推動社區(qū)形成友善互動共識。

    在生態(tài)治理之外，Soul持續(xù)推進社交禮儀與安全規(guī)范建設。一季度，平臺通過官方賬號發(fā)布安全生態(tài)相關內(nèi)容38篇，涵蓋違規(guī)處罰公示、謠言辟除及社區(qū)規(guī)范宣導等主題，累計觸達用戶22.81萬人次。通過持續(xù)的內(nèi)容傳播與規(guī)則透明化建設，平臺不斷強化用戶對安全規(guī)范的認知，推動形成共建共治共享的社區(qū)治理格局。

    生態(tài)安全是平臺長期發(fā)展的核心基礎。未來，Soul將持續(xù)深化AI技術在內(nèi)容治理中的應用能力，完善用戶保護機制，強化多方協(xié)同治理體系，不斷提升平臺風險防控與生態(tài)建設水平。在監(jiān)管政策引導與行業(yè)責任驅(qū)動下，Soul正以更加系統(tǒng)化、精細化的治理能力，持續(xù)推動構建安全、真實、溫暖的社交空間，為營造清朗網(wǎng)絡生態(tài)貢獻平臺力量。

（編輯 李家琪）