編者按：
為深入學(xué)習(xí)貫徹黨的二十屆四中全會精神，把學(xué)習(xí)好、宣傳好、貫徹好黨的二十屆四中全會精神作為當(dāng)前和今后一個時期的重大政治任務(wù)，集團(tuán)宣傳平臺特開設(shè)“學(xué)習(xí)貫徹黨的二十屆四中全會精神”專欄，選取人民網(wǎng)、新華網(wǎng)、央視網(wǎng)、學(xué)習(xí)強(qiáng)國等權(quán)威媒體平臺的相關(guān)內(nèi)容定期推送，以權(quán)威深度、生動新穎的內(nèi)容和形式，在集團(tuán)廣大干部職工中迅速興起學(xué)習(xí)宣傳貫徹黨的二十屆四中全會精神的熱潮，推動全會精神深入人心、落地見效。
黨的二十屆四中全會通過的《中共中央關(guān)于制定國民經(jīng)濟(jì)和社會發(fā)展第十五個五年規(guī)劃的建議》（以下簡稱《建議》）提出，“加快人工智能等數(shù)智技術(shù)創(chuàng)新，突破基礎(chǔ)理論和核心技術(shù)，強(qiáng)化算力、算法、數(shù)據(jù)等高效供給。”全會立足新的時代方位和發(fā)展階段，以深遠(yuǎn)的戰(zhàn)略眼光與系統(tǒng)的全局謀劃，開啟了未來五年經(jīng)濟(jì)社會發(fā)展的新航程。這將成為加快人工智能等數(shù)智技術(shù)創(chuàng)新、促進(jìn)實體經(jīng)濟(jì)和數(shù)字經(jīng)濟(jì)深度融合發(fā)展的重要驅(qū)動力。實踐中，人工智能越來越多地運用于工業(yè)、醫(yī)療、家居、零售、交通、公共安全、環(huán)境保護(hù)等諸多領(lǐng)域。然而，人工智能等數(shù)智技術(shù)是一把“雙刃劍”，它在成為推動社會進(jìn)步強(qiáng)大引擎的同時，也潛藏著濫用或失控風(fēng)險，可能給社會帶來安全、倫理、輿情等諸多方面的問題。對此，習(xí)近平總書記強(qiáng)調(diào)，要加強(qiáng)人工智能發(fā)展的潛在風(fēng)險研判和防范，維護(hù)人民利益和國家安全，確保人工智能安全、可靠、可控?！督ㄗh》要求，“加強(qiáng)人工智能治理，完善相關(guān)法律法規(guī)、政策制度、應(yīng)用規(guī)范、倫理準(zhǔn)則”。因此，亟須加強(qiáng)人工智能立法促進(jìn)數(shù)智技術(shù)創(chuàng)新發(fā)展。
人工智能可能帶來的問題
第一，人工智能可能帶來的安全問題。所謂人工智能，是指通過機(jī)器學(xué)習(xí)、深度學(xué)習(xí)、自然語言處理等技術(shù)，模擬人類智能，從數(shù)據(jù)中識別規(guī)律和特征，并進(jìn)行一定程度的自動化決策。實踐中，人工智能帶來的安全風(fēng)險主要體現(xiàn)在以下方面：一是處理數(shù)據(jù)資源過程中的安全風(fēng)險。數(shù)據(jù)是人工智能的基礎(chǔ)，它既是人工智能和訓(xùn)練人工智能的“養(yǎng)料”，又是人工智能處理問題和作出決策的依據(jù)。然而，人工智能在處理數(shù)據(jù)時可能存在數(shù)據(jù)泄露、侵犯隱私、植入惡意信息等問題。二是人工智能系統(tǒng)錯誤帶來的安全風(fēng)險。人工智能主要包括傳感系統(tǒng)、算法系統(tǒng)和執(zhí)行系統(tǒng)等。任何一個系統(tǒng)出現(xiàn)問題都可能偏離預(yù)設(shè)目標(biāo)，輸出不可預(yù)期的結(jié)果，引發(fā)系統(tǒng)失控風(fēng)險。三是關(guān)鍵基礎(chǔ)設(shè)施的安全問題。人工智能廣泛運用于金融、交通、電網(wǎng)、水利等關(guān)鍵領(lǐng)域。一旦人工智能系統(tǒng)出現(xiàn)問題，就可能引發(fā)系統(tǒng)性安全風(fēng)險。
第二，人工智能可能帶來的倫理問題。受算法主導(dǎo)，人工智能主要遵循概率統(tǒng)計邏輯和效率邏輯。其在運行過程中易出現(xiàn)關(guān)聯(lián)歧視、特征選擇歧視等問題。這些歧視具有較強(qiáng)的隱蔽性，難以有效追責(zé)和糾正。同時，算法在很大程度上是一個“黑箱子”，普通人很難知道算法決策如何產(chǎn)生，也不知道算法決策所依據(jù)的具體數(shù)據(jù)和遵循的決策原則。“算法黑箱”的存在使得傳統(tǒng)透明性原則和告知同意原則對人工智能的規(guī)范作用愈來愈小，使得人容易成為被計算的對象。除此之外，人工智能對于不同主體的賦能也有區(qū)別，如弱勢群體可能不僅缺乏訪問人工智能技術(shù)和互聯(lián)網(wǎng)的必要設(shè)備、網(wǎng)絡(luò)和資金，而且缺乏使用和理解人工智能所需要的數(shù)字素養(yǎng)和技能。這又反過來進(jìn)一步加劇了弱勢群體的弱勢地位。
第三，人工智能可能帶來的輿情問題。人工智能在推動社會發(fā)展的同時，對相關(guān)部門的輿情處置與網(wǎng)絡(luò)治理工作帶來巨大挑戰(zhàn)。一方面，它通過大型語言模型和深度偽造技術(shù)，可以快速生成以假亂真的文字、圖片和視頻，憑空捏造虛假新聞。犯罪分子可能通過人工智能操縱社交機(jī)器人網(wǎng)絡(luò)、偽裝信息源等手段進(jìn)行病毒式傳播，并動態(tài)優(yōu)化內(nèi)容，混淆視聽、誤導(dǎo)公眾。另一方面，人工智能通過大數(shù)據(jù)分析，可根據(jù)用戶的興趣特點、行為動態(tài)精準(zhǔn)投放信息，這成為一種高效且隱蔽的輿論操控工具。它通過對用戶海量數(shù)據(jù)的算法解析，為其勾勒出精細(xì)的“心理畫像”，并據(jù)此構(gòu)建高度個性化的“信息繭房”，從而為其“投喂”和灌輸某些片面或極端觀點，沖擊主流意識形態(tài)。
第四，人工智能可能帶來的就業(yè)替代問題。人工智能高度智能化釋放出巨大的生產(chǎn)力，越來越多原本由人所從事的勞動和工作被其接管，從而出現(xiàn)就業(yè)替代問題。這種替代呈現(xiàn)出速度快、規(guī)模大、領(lǐng)域廣、全球性等特點。這會大大減少人類的工作崗位，而且被替代的勞動者很難通過短期培訓(xùn)重新上崗。人工智能帶來的“技術(shù)鴻溝”也可能導(dǎo)致大量人群陷入永久性失業(yè)狀態(tài)，帶來大量社會保障難題和社會治理問題。
人工智能立法應(yīng)堅持的基本原則
面對人工智能帶來的一系列問題，我們應(yīng)當(dāng)加強(qiáng)人工智能治理，盡快制定完善相關(guān)法律法規(guī)。這既關(guān)系到國家安全保障和產(chǎn)業(yè)發(fā)展，又涉及新一輪技術(shù)革命背景下的全球制度競爭和人工智能全球治理中的話語權(quán)和影響力。具體來講，人工智能立法應(yīng)堅持以下基本原則：
第一，堅持發(fā)展和安全統(tǒng)籌原則。統(tǒng)籌高質(zhì)量發(fā)展和高水平安全，是以習(xí)近平同志為核心的黨中央站在“兩個一百年”奮斗目標(biāo)歷史交匯點，立足新發(fā)展階段國際國內(nèi)新形勢新情況所作出的重大戰(zhàn)略部署，是中國共產(chǎn)黨治國理政的一個重大原則。黨的二十屆四中全會進(jìn)一步指出，“十五五”時期經(jīng)濟(jì)社會發(fā)展必須堅持統(tǒng)籌發(fā)展和安全。人工智能立法也應(yīng)堅持這一原則。人工智能發(fā)展具有典型的復(fù)雜性、快速變化和不可預(yù)測性等特點。立法時，必須既要看到人工智能發(fā)展的重要性，又要看到人工智能潛在的風(fēng)險性。應(yīng)當(dāng)推動人工智能安全可靠可控發(fā)展，反對追求絕對安全和將人工智能安全泛化，堅持在法律治理穩(wěn)定性與人工智能治理靈活性之間保持平衡。
第二，堅持產(chǎn)業(yè)促進(jìn)與底線管控并重原則。作為引領(lǐng)未來的基礎(chǔ)性、戰(zhàn)略性技術(shù)，人工智能遠(yuǎn)超任何其他單一技術(shù)的戰(zhàn)略價值已經(jīng)在實踐中顯現(xiàn)，并且深刻改變著人類生產(chǎn)生活方式。人工智能立法的定位應(yīng)當(dāng)是大力推動人工智能技術(shù)與產(chǎn)業(yè)創(chuàng)新發(fā)展，營造開放包容、充滿活力的制度環(huán)境；系統(tǒng)規(guī)范人工智能技術(shù)的研發(fā)與應(yīng)用行為，構(gòu)建敏捷協(xié)同、科學(xué)審慎的治理體系；切實維護(hù)個人的合法權(quán)益與人格尊嚴(yán)，筑牢以人為本、公平正義的法治屏障；堅決確保國家安全與社會穩(wěn)定，防范化解各類潛在風(fēng)險與挑戰(zhàn)。因此，人工智能立法既是人工智能產(chǎn)業(yè)的促進(jìn)法，又是公民合法權(quán)益的保障法。人工智能立法既要確立清晰的法律邊界與規(guī)則，提供穩(wěn)定的預(yù)期，掃清創(chuàng)新道路上的障礙，釋放產(chǎn)業(yè)活力，又要樹立底線管控意識，通過建立清晰、可預(yù)期的負(fù)面清單和監(jiān)管框架，將人工智能發(fā)展過程中的不確定性降至最低。
第三，堅持軟法與硬法協(xié)同發(fā)展原則。人工智能是一種技術(shù)，具有不同的應(yīng)用場景，應(yīng)有不同的制度規(guī)則，且不同規(guī)則之間的規(guī)范強(qiáng)度應(yīng)有所區(qū)別。因此，我國在加強(qiáng)人工智能立法時，應(yīng)當(dāng)堅持軟法與硬法相結(jié)合原則，除進(jìn)一步完善國家層面的《中華人民共和國網(wǎng)絡(luò)安全法》《中華人民共和國數(shù)據(jù)安全法》《中華人民共和國個人信息保護(hù)法》等法律外，還需要加快制定相關(guān)地方性和行業(yè)性法規(guī)、政策制度、標(biāo)準(zhǔn)規(guī)范、倫理準(zhǔn)則等。通過倡議、指南、標(biāo)準(zhǔn)、準(zhǔn)則等軟法方式彌補國家法律在應(yīng)對人工智能快速變化時的滯后性。
第四，堅持國家治理與全球治理耦合原則。人工智能與互聯(lián)網(wǎng)之間存在緊密關(guān)系。互聯(lián)網(wǎng)增強(qiáng)了人工智能自我學(xué)習(xí)和進(jìn)化能力，人工智能增強(qiáng)了互聯(lián)網(wǎng)的創(chuàng)新應(yīng)用場景。人工智能與互聯(lián)網(wǎng)的深度融合使得其發(fā)展具有跨國性。因此，進(jìn)行人工智能立法時，既需要加強(qiáng)國內(nèi)層面的人工智能治理，又要考慮全球人工智能治理問題，并將國家治理與全球治理進(jìn)行耦合?！督ㄗh》提出，“維護(hù)大國關(guān)系總體穩(wěn)定，深化同發(fā)展中國家團(tuán)結(jié)合作，落實全球發(fā)展倡議、全球安全倡議、全球文明倡議、全球治理倡議，引領(lǐng)國際秩序朝著更加公正合理的方向發(fā)展。”這自然也涉及人工智能的發(fā)展與安全問題。因此，我國人工智能立法應(yīng)在充分考慮中國國情和國家治理需要的同時，呼應(yīng)全球范圍內(nèi)對于人工智能可信、安全、可控的共同關(guān)切，并在具體措施上借鑒其他國家先進(jìn)法律制度和經(jīng)驗?？傮w來看，我國人工智能立法應(yīng)積極回應(yīng)全球人工智能治理過程中的關(guān)鍵問題和重要問題，為國際人工智能治理標(biāo)準(zhǔn)與規(guī)則的制定貢獻(xiàn)中國智慧、中國方案。
