人民網(wǎng)發(fā)布“天目”智能識別系統(tǒng)利用AI治理AI
1/520.jpg)
12月9日，人民網(wǎng)正式發(fā)布“天目”智能識別系統(tǒng)，探索“用AI治理AI”的內容風控新模式。（體驗入口：http://117.80.234.9:5080/welcome）。
“天目”由傳播內容認知全國重點實驗室（人民網(wǎng)）研發(fā)，能夠對人工智能生成內容進行識別，對深度偽造內容進行檢測，對合成手段進行追根溯源。公開測試數(shù)據(jù)顯示，“天目”對國內外主要人工智能大模型生成中文文本的識別準確率達到93%。系統(tǒng)支持單次最多10萬字的數(shù)據(jù)檢測，對疑似AI生成句段明確標識，一鍵生成檢測報告。同時，系統(tǒng)不留存、不轉用任何檢測數(shù)據(jù)，充分保護用戶的數(shù)據(jù)隱私與安全。
傳播內容認知全國重點實驗室首席科學家張勇東表示：“我們以語言模型的困惑度、詞頻特征為切入點，研究發(fā)現(xiàn)AI生成模型傾向于采用高頻詞，而人類寫作的選詞則更具有隨機性。”基于此，人民網(wǎng)研發(fā)了語義與風格特征融合的語言模型評價方法，推出“天目”系統(tǒng)，用于快速區(qū)分機器生成內容與人工創(chuàng)作內容。
“我們肯定AI的技術價值，積極研發(fā)，主動運用。我們也同樣重視人的創(chuàng)新創(chuàng)作創(chuàng)意。”人民網(wǎng)內容風控負責人辛瑞佳表示，人類的靈感和創(chuàng)造力無法被機器替代，也不應被機器替代，過度依賴AI可能會削弱人的獨特性。“識別AI生成的信息，從更深層講，也是保護人類的創(chuàng)造價值。”
此外，人民網(wǎng)內容風控的另一個智能產(chǎn)品“人民審校”，于近期同步升級4.0版本，新增了標識審校、地標審校、商標審校、版式審校等能力，優(yōu)化自定義詞庫功能，在涉政信息表述審校精度和廣度方面實現(xiàn)全面提升。
下一步，人民網(wǎng)將加大力度研發(fā)建設主流價值語料庫，幫助國產(chǎn)AI系統(tǒng)建設安全合規(guī)的語料體系，更好實現(xiàn)價值觀對齊，助力AI產(chǎn)業(yè)健康安全發(fā)展。