近一年以來(lái)，AIGC（生成式人工智能）技術(shù)火爆全球，越來(lái)越多的“黑科技”進(jìn)入人們的生活之中，帶來(lái)無(wú)數(shù)新奇的科技體驗(yàn)。與此同時(shí)，人們也憂(yōu)心于愈加頻發(fā)的高科技詐騙事件，萬(wàn)物皆可P、AI換臉、人聲生成等擬真技術(shù)也導(dǎo)致了許多犯罪行為的發(fā)生。

　　面對(duì)AI引發(fā)的信任焦慮，中國(guó)信息通信研究院于近日主辦了“聚焦·大模型時(shí)代AIGC新浪潮”論壇，圍繞“多模態(tài)基礎(chǔ)大模型的可信AI”這一熱門(mén)議題開(kāi)設(shè)專(zhuān)場(chǎng)分享。論壇分享中，深耕人工智能領(lǐng)域多年的合合信息展示了為AI可信化落地賦能的多項(xiàng)圖像內(nèi)容安全保護(hù)技術(shù)。

　　各類(lèi)網(wǎng)絡(luò)詐騙案件中，人們最難以區(qū)分真假的還屬包含轉(zhuǎn)賬記錄、隱私聊天記錄、商業(yè)機(jī)密等重要信息的經(jīng)過(guò)PS處理的截圖。除了肉眼根本無(wú)法鑒別之外，在技術(shù)檢測(cè)上，背景沒(méi)有紋路和底色、沒(méi)有光照差異的截圖檢測(cè)也比證照篡改檢測(cè)難度更大。

合合信息AI圖像篡改檢測(cè)技術(shù)應(yīng)用效果展示

　　早在2022年的世界人工智能大會(huì)上，合合信息就展示了其對(duì)證件圖片篡改痕跡達(dá)到的“像素級(jí)”識(shí)別的“PS篡改檢測(cè)”技術(shù)；今年，合合信息更是將該技術(shù)升級(jí)為“AI圖像篡改檢測(cè)”技術(shù)，能夠識(shí)別截圖中多種篡改方式留下的痕跡。

　　合合信息AI圖像篡改檢測(cè)技術(shù)基于深度學(xué)習(xí)的圖像篡改檢測(cè)技術(shù)及相關(guān)系統(tǒng)，通過(guò)學(xué)習(xí)圖像被篡改后統(tǒng)計(jì)特征的變化，無(wú)論是“摳下”關(guān)鍵要素后移動(dòng)“粘貼”至另一處的“復(fù)制移動(dòng)”圖片篡改手段，還是“擦除”“重打印”等方式，篡改過(guò)程中留下的細(xì)微痕跡都能被捕捉到，并以熱力圖的形式展示圖像區(qū)域篡改地點(diǎn)。

　　此外，針對(duì)現(xiàn)有的視覺(jué)模型通常難以充分發(fā)掘原始圖像和篡改圖像的細(xì)粒度差異特征的難點(diǎn)，合合信息提出了一種基于HRNet的編碼器－解碼器結(jié)構(gòu)的圖像真實(shí)性鑒別模型，能夠捕捉到細(xì)粒度的視覺(jué)差異，達(dá)到高精度鑒別效果。

　　除了圖像篡改外，合合信息還在本次論壇中發(fā)布了針對(duì)以“AI換臉”等生成式圖像詐騙手段開(kāi)發(fā)的生成式圖像鑒別技術(shù)。該技術(shù)基于空域與頻域關(guān)系建模，避開(kāi)了常規(guī)的窮舉檢測(cè)思路，利用多維度特征來(lái)分辨真實(shí)圖片和生成式圖片的細(xì)微差異，在反詐騙、版權(quán)保護(hù)等領(lǐng)域的應(yīng)用空間十分廣泛。

　　在這場(chǎng)隱形的AI技術(shù)安全保衛(wèi)戰(zhàn)中，合合信息利用自身技術(shù)優(yōu)勢(shì)為行業(yè)提供有效指引，以實(shí)際行動(dòng)助力人工智能倫理規(guī)范和法律規(guī)范完善工作的推進(jìn)。合合信息也期待更多研究機(jī)構(gòu)、企業(yè)主體參與進(jìn)來(lái)，共同推動(dòng)AI服務(wù)規(guī)范性的整體提升和行業(yè)發(fā)展秩序的建立，助力科技向上而行，向善發(fā)展。