近年來，人工智能加速成為產(chǎn)業(yè)轉(zhuǎn)型升級的重要力量，對經(jīng)濟(jì)社會發(fā)展產(chǎn)生了深遠(yuǎn)影響。在此趨勢下，中國信息通信研究院（簡稱“中國信通院”）《專家談》欄目特別推出“人工智能”系列專題，邀請多位行業(yè)權(quán)威專家，從多個視角解讀當(dāng)前人工智能產(chǎn)業(yè)發(fā)展的熱點(diǎn)與趨勢。本期邀請到中國信通院政策與經(jīng)濟(jì)研究所副所長張春飛，圍繞人工智能治理的重要性和緊迫性、人工智能治理框架，以及專業(yè)機(jī)構(gòu)作用的發(fā)揮，為我們進(jìn)行深度解析。
一、人工智能治理的重要性緊迫性前所未有
當(dāng)前，人工智能技術(shù)快速發(fā)展正深刻重塑著人類生產(chǎn)生活方式。今年以來，以DeepSeek為代表的開源模型，極大地降低了算力成本和大模型部署門檻，加速推動了人工智能與經(jīng)濟(jì)社會各領(lǐng)域的融合發(fā)展，也帶來了一系列治理問題和安全風(fēng)險(xiǎn)。一方面，人工智能技術(shù)本身存在內(nèi)生安全風(fēng)險(xiǎn)，在模型幻覺、不可解釋性等內(nèi)在缺陷尚未解決的情況下，人工智能在各個領(lǐng)域廣泛應(yīng)用、深度融合，將進(jìn)一步疊加、放大虛假信息、技術(shù)濫用等安全風(fēng)險(xiǎn)，治理的復(fù)雜性前所未有。另一方面，隨著通用AI的不斷逼近，各方對系統(tǒng)性風(fēng)險(xiǎn)的關(guān)注也前所未有。英國人工智能安全研究所發(fā)布的《2025年國際人工智能安全報(bào)告》（International AI Safety Report 2025）指出，前沿AI可能引發(fā)大規(guī)模失業(yè)等風(fēng)險(xiǎn)，甚至使人類失去對AI系統(tǒng)控制，事關(guān)社會穩(wěn)定乃至人類命運(yùn)。
二、人工智能治理需要一個體系化的治理框架
人工智能治理已進(jìn)入從原則到實(shí)踐的關(guān)鍵階段，這需要相應(yīng)的治理框架，凝聚各方共識、指導(dǎo)規(guī)則的構(gòu)建和落地。目前，各國政府、國際組織、智庫機(jī)構(gòu)從基于風(fēng)險(xiǎn)管理、全生命周期治理等不同視角提出人工智能治理框架。中國信通院從What、Why、Who、How四個維度研究提出了“1244”人工智能治理總體框架，“1”是持續(xù)研究AI概念范疇和演進(jìn)，“2”是跟蹤研判內(nèi)生、衍生兩類風(fēng)險(xiǎn)變化和影響，“4”是總結(jié)梳理政府、企業(yè)、專業(yè)機(jī)構(gòu)、國際組織四類治理主體的最新舉措和成效，第二個“4”是持續(xù)研究“負(fù)責(zé)任創(chuàng)新、可持續(xù)發(fā)展、倫理先行、安全底線”四組議題的最新進(jìn)展，基于國際比較、產(chǎn)業(yè)實(shí)踐，探索提出符合中國國情的治理方案。
三、提升人工智能治理能力需要更好發(fā)揮專業(yè)機(jī)構(gòu)的作用
面對復(fù)雜的安全風(fēng)險(xiǎn)和挑戰(zhàn)，人工智能治理中的治理主體更加多元，專業(yè)機(jī)構(gòu)發(fā)揮了非常重要的作用。從國內(nèi)治理來看，人工智能治理中的很多風(fēng)險(xiǎn)挑戰(zhàn)是由技術(shù)的內(nèi)在缺陷引發(fā)，其治理必須緊密結(jié)合技術(shù)發(fā)展規(guī)律。由于政府與人工智能企業(yè)之間存在技術(shù)力量上的不對稱性，需要引入第三方專業(yè)機(jī)構(gòu)的支持。比如，OpenAI等企業(yè)就與美國NIST達(dá)成合作，允許NIST等第三方機(jī)構(gòu)提前獲得公司新模型的訪問權(quán)，在模型發(fā)布前進(jìn)行基準(zhǔn)評測。從國際治理來看，人工智能成為全球新一輪科技產(chǎn)業(yè)競賽焦點(diǎn)，在競爭升溫的同時，很多風(fēng)險(xiǎn)挑戰(zhàn)又需要各國共同應(yīng)對。在此過程中，專業(yè)機(jī)構(gòu)可以發(fā)揮重要的協(xié)調(diào)作用，推動原則框架落地、標(biāo)準(zhǔn)規(guī)范對接、治理框架互操作等等。
四、結(jié)束語
二十屆三中全會提出完善人工智能等戰(zhàn)略性產(chǎn)業(yè)發(fā)展政策和治理體系。近期中央政治局進(jìn)行的第二十次集體學(xué)習(xí)強(qiáng)調(diào)要完善人工智能監(jiān)管體制機(jī)制。我們將在政府部門指導(dǎo)下，聯(lián)合產(chǎn)學(xué)研用各方力量，深入研究和參與制定相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則，為推動我國人工智能健康有序發(fā)展貢獻(xiàn)力量。
