本報訊 （記者吳奕萱）4月18日，第十九屆中國電子信息年會在武漢召開。同期，2025中國電子學會科學技術(shù)獎?wù)浇視浴Ｓ珊贾莺？低晹?shù)字技術(shù)股份有限公司（以下簡稱“?？低?rdquo;）牽頭申報并作為主要完成單位的《面向物聯(lián)網(wǎng)的人工智能安全關(guān)鍵技術(shù)及應(yīng)用》項目，憑借在物聯(lián)網(wǎng)人工智能安全領(lǐng)域的突出成果，榮獲科學進步獎一等獎。

    隨著人工智能技術(shù)在交通、安防、能源等領(lǐng)域的廣泛應(yīng)用，大量AI模型部署于邊緣終端，面臨數(shù)據(jù)隱私泄露、模型被惡意攻擊、算法失控等新型安全風險。如何構(gòu)建可信、可控、可管的AI系統(tǒng)，已成為保障關(guān)鍵基礎(chǔ)設(shè)施安全運行的重要課題。

    面對行業(yè)共性難題，海康威視首席安全官王濱帶領(lǐng)科研團隊聚焦物聯(lián)網(wǎng)人工智能安全保護需求，歷經(jīng)多年技術(shù)攻關(guān)。從人工智能算法模型的可信訓練、評測增強、應(yīng)用管控三個層面，構(gòu)建起全方位的安全防護體系，成功填補了國內(nèi)外多項技術(shù)空白。

    針對物聯(lián)網(wǎng)環(huán)境下AI應(yīng)用的安全挑戰(zhàn)，項目團隊層層開展系統(tǒng)攻關(guān)。

    在城市智能化建設(shè)中，不同部門掌握的交通、安防、環(huán)境等數(shù)據(jù)往往彼此隔離，形成“數(shù)據(jù)孤島”，若直接共享，可能引發(fā)隱私泄露風險。該項目創(chuàng)新提出多域時空數(shù)據(jù)高可信協(xié)同訓練與隱私保護方法，在確保各參與方數(shù)據(jù)“可用不可見”的前提下，打破“數(shù)據(jù)孤島”，實現(xiàn)物信融合場景下訓練數(shù)據(jù)的隱私保護和安全共享，確保數(shù)據(jù)在流動中生產(chǎn)價值，同時嚴守安全底線。

    針對AI模型一旦被植入惡意樣本或遭對抗攻擊，可能導(dǎo)致識別失效、誤判誤報，甚至被遠程操控的問題。團隊構(gòu)建了適用于智能物聯(lián)終端模型的多維度安全評測與防護增強系統(tǒng)，可以對算法模型脆弱性進行深度檢測，并在兼顧可用性的前提下，大幅提升模型的抗攻擊能力和魯棒性。

    面對海量邊緣設(shè)備分布在城市各個角落，資源有限、管理分散，一旦出現(xiàn)異常難以及時發(fā)現(xiàn)的痛點。團隊提出了邊緣智能算法應(yīng)用的安全風險監(jiān)測與管控框架，極大提高了智能算法應(yīng)用安全威脅的實時感知能力與精準防控效率，確保每一臺邊緣設(shè)備都在安全可控的狀態(tài)下運行。

    目前，該項目成果已在公共安全、智慧能源、城市管理等多個領(lǐng)域?qū)崿F(xiàn)規(guī)?；涞兀瑸榍邪贅I(yè)的智能終端提供安全賦能，為數(shù)字化轉(zhuǎn)型構(gòu)筑起堅實的安全屏障。

    隨著智能設(shè)備數(shù)量持續(xù)增長，更多智能化場景落地，安全將不再是“附加項”，而是“必選項”。唯有技術(shù)進步與安全防護同步推進，才能讓智能化發(fā)展，既快又穩(wěn)。海康威視相關(guān)人士表示，將繼續(xù)秉持創(chuàng)新驅(qū)動發(fā)展的理念，持續(xù)深化在網(wǎng)絡(luò)安全領(lǐng)域的探索與實踐，與合作伙伴攜手共建安全、可信、繁榮的物聯(lián)網(wǎng)生態(tài)。

（編輯 張明富）