<ruby id="z38ss"></ruby>
  • <th id="z38ss"><pre id="z38ss"><rt id="z38ss"></rt></pre></th>
      1. <em id="z38ss"><acronym id="z38ss"><input id="z38ss"></input></acronym></em>
        <progress id="z38ss"></progress>
      2. <span id="z38ss"></span>
      3. 安防世界網_廣東省公共安全技術防范協會

        人工智能法示范法 1.0(專家建議稿)

        2023.08.21來源: 智慧城市網編輯:媒體部

        人工智能飛速發展,在為新一輪技術革命提供支撐的同時,也給社會帶來諸多風險和挑戰。

        自2017年以來,美國、歐盟、中國、加拿大、日本、新加坡等國家或地區陸續發布AI發展和治理的法律法規準則,立法探索也歷經從宏觀性準則和戰略到條款逐漸細化的過程。

        2022年,ChatGPT橫空出世,生成式人工智能的驚艷表現和其背后暗藏的新型風向都被推至聚光燈下。美國、歐盟等紛紛出臺相關人工智能治理文件,以應對這一新生事物的機遇和挑戰。各國如何通過從法律的角度回應人工智能發展過程中提出的一系列新問題?我國又將如何通過立法構建具有中國特色的人工智能治理路徑?

        近日,由中國社會科學院法學研究所主辦,中國社會科學院法學研究所網絡與信息法研究室、南財合規科技研究院等共同承辦的“全球治理話語競賽下人工智能立法的中國方案”研討會在北京舉行。會上,中國社會科學院國情調研重大項目《我國人工智能倫理審查和監管制度建設狀況調研》課題組(以下簡稱“課題組”)主持人、中國社會科學院法學研究所網絡與信息法研究室副主任周輝正式發布《人工智能法(示范法)》(以下簡稱《示范法》)。

        《示范法》涵蓋總則、工智能支持與促進、人工智能管理制度、人工智能研發者和提供者義務、人工智能綜合治理機制、法律責任和附則七大章節??傮w來看,《示范法》堅持發展與安全并行的中國式治理思路,提出了負面清單管理等治理制度,并對人工智能產業鏈條各主體責任義務分配等核心問題進行了回應。

         

        起草說明

        一、起草背景

        今年以來,以ChatGPT等產品為代表的生成式人工智能技術迅猛發展,為人工智能產業注入一針強心劑,引發新一輪人工智能革命。但同時,新技術新應用也會帶來網絡安全、數據安全、個人信息保護等方面的風險。人工智能治理需要抓住技術發展機遇,科學合理推進,以在未來新一輪科技革命和國際科技競爭中取得主動權。目前,全球各主要經濟體均在進行實踐探索,嘗試構建人工智能治理規則體系、話語體系。歐盟《人工智能法案》已進入最終談判階段,該法案采用風險等級分類方式對人工智能進行監管,針對其中高風險類別規定了詳細的全流程風險管理措施,并引入了監管沙盒等治理手段。美國雖尚未有成體系立法,但于2022年10月發布了《人工智能權利法案藍圖》,提出了安全有效的系統、算法歧視保護、數據隱私、通知和解釋、人工替代方案與后備等五項人工智能治理原則。在這一文件的基礎上,美國聯邦政府各部門、各州正在推進政策制定或立法工作。

        中國在2023年4月份就《生成式人工智能服務管理辦法(征求意見稿)》公開征求意見,并于7月正式發布《生成式人工智能服務管理暫行辦法》,率先就生成式人工智能監管這一議題給出中國方案。此外,人工智能法也已被列入國務院2023年立法工作計劃。未來,中國如何通過立法在擁抱技術發展的同時有效規制風險,貢獻出具有中國特色的人工智能治理路徑,將受到國內外各界的密切關注。

        2023年上半年以來,在持續、長期追蹤研究人工智能發展、監管的基礎上,中國社會科學院國情調研重大項目《我國人工智能倫理審查和監管制度建設狀況調研》課題組主持人、中國社會科學院法學研究所網絡與信息法研究室副主任周輝組織多方專家團隊,經多次調研、討論、修改,起草形成《人工智能法(示范法)》(以下簡稱《示范法》)?!妒痉斗ā妨⒆銜r代前沿,把握人工智能發展規律和全球治理趨勢,在為國家關立法提供參考的同時,也期待通過1.0、2.0、及至N.0的迭代討論,不斷適應人工智能發展安全態勢,更好推動凝聚依法發展和治理人工智能的共識。

        二、起草思路與主要結構

        《示范法》分為六章,包括人工智能基本原則,促進發展舉措、風險管理制度、主體責任分配、治理機制設計、法律責任?!妒痉斗ā穲猿种袊街卫硭悸?,既鼓勵技術發展,又堅守安全底線,是具有綜合性、統轄性的立法設計。

        第一章“總則”,闡明人工智能發展的基本原則,包括治理原則、人類自主原則、安全原則、透明可解釋、公平原則等。在總則確立的原則基礎上,下述各章將圍繞總則展開,并與相關條文呼應。

        第二章“人工智能發展”,抓住促進發展這一“牛鼻子”,從基礎設施、人才培養、技術創新、體制機制支持等維度提出相應制度規范,結合產業發展實際,采取有力措施鼓勵人工智能創新。本章還強調以國家機關的先行先試促進人工智能的推廣應用。

        第三章“人工智能管理制度”,沿用近年來實踐證明較為可行的風險分類分級管理方式,對人工智能技術研發和提供活動作出規定。起草組認為,鑒于人工智能技術迭代迅速、未來發展潛力較大,應在監管中適度予以放寬,不應規定過重義務、設定過多限制。因此,起草組采用負面清單管理制度對人工智能進行風險管理:負面清單內的研發、提供活動采取許可機制,實行事前監管;負面清單外的研發、提供活動則采取備案機制,實行事后監管。這一設計旨在減輕人工智能研發、提供等活動的審查、許可等環節成本,既有效防范關鍵風險,又容許創新發展。

        第四章“人工智能研發者、提供者義務”,明確人工智能研發者、提供者應承擔相應合規義務,如保障公平性和可解釋性、進行科技倫理審查和安全審查等,并且應將安全義務貫穿于人工智能活動整個生命周期,將人工智能治理的基本原則轉化為企業可落地、監管可監督的義務類型。同時,基于人工智能產業鏈中主體的復雜性,本章第二、第三節對人工智能研發者、提供者進行了區分,依據其不同活動特點分配主體義務。最后,結合本法前述條款設定的負面清單管理制度,本章針對負面清單內的人工智能研發、提供活動進一步規定了相應的義務類型,保障義務與風險一致,堅守安全底線。

        第五章“綜合治理機制”。本章銜接總則規定,明確國家人工智能主管機關職責,如統籌人工智能發展和管理,制定人工智能監管規則、指引,組織制定人工智能倫理、安全、管理等方面標準,組織人工智能技術監測、評估、審計工作等。此外,本章還提出創新監管、協同監管等機制,提高監管效率和治理效能,加強多元主體溝通協作。

        第六章“法律責任”,根據人工智能的風險活動,設計相應的法律責任。同時,本章兼顧發展導向,明確盡職免責等制度,以為人工智能創新活動提供寬松政策環境。

         

        三、示范法創新點

        示范法起草團隊成員長期研究人工智能發展與治理,根據人工智能的最新動態著手起草工作,起草過程歷經數月,充分結合產業發展動態以及國內外人工智能發展最新進展??傮w來看,起草說明具有如下創新點:

        (一)明確人工智能主管機關

        在示范法設計階段,就人工智能治理機制,起草組提出兩種思路:一是設置主管機關統籌人工智能發展與管理,二是根據此前各個部門職責,分行業、分領域實施治理。最終,起草組認為應以更高維度來對待人工智能治理問題,避免產生類似互聯網平臺治理等問題上“九龍治水”的困境,故創設性提出設置國家人工智能主管機關和地方人工智能主管機關,統籌負責全國范圍內人工智能發展與管理工作。

        (二)劃明安全底線

        隨著商用化序幕拉開,人工智能帶來的“副作用”——虛假新聞、電信網絡詐騙、個人信息泄露等逐漸顯現。安全是發展的基礎,堅守人工智能安全底線有利于構建良好的行業氛圍、增進社會公眾對人工智能的認識與信任,也能更好在人工智能研發應用過程中保護個人權利、公共利益和國家安全。

        聚焦人工智能產業鏈治理難題。人工智能產業鏈包括訓練數據處理、數據標注、模型開發、算力基礎建設和落地服務場景等多個環節,包含了大量不同類型的行為主體,具有高度協作的特點。人工智能研發、提供和使用行為所造成的風險不僅影響行為者自身,還會沿產業鏈向其他合作方傳導,造成風險擴散。尤其是,人工智能基礎模型在應用體系中扮演重要角色,一旦出現相關風險,可能沿服務提供鏈條影響下游所有各類垂直細分場景的服務提供和使用。因此,起草團隊抓住產業鏈關鍵環節,明確規定了基礎模型研發者應遵循的義務,要求其制定使用規則、公平公正提供基礎模型、協助其他研發者、提供者履行相關義務、對嚴重違反示范法規定的其他主體采取措施等。同時,示范法還要求研發者和提供者之間應當密切配合,避免互相推諉責任的情形。

        基于人工智能帶來的風險在當前法律體系中增設義務。目前國內在個人信息保護、數據安全、網絡安全、互聯網信息服務、知識產權、競爭法等方面已有清晰、成熟的法律制度體系,示范法則聚焦人工智能應用過程可能造成的潛在風險,保障人工智能產品與服務的公開、透明、公平與可解釋,并依法進行科技倫理審查。鑒于人工智能模型算法的運行機制并不完全明晰,會產生“開悟”“涌現”現象,可能導致違背預期的結果。起草團隊還要求相關主體在履行一般安全義務的同時,需保障人工智能的運行結果符合預期,保證其服務的穩定,確保人類對人工智能的監督和控制,促進技術向善。此外,示范法采取負面清單管理機制,明確將符合一定條件的人工智能研發、提供活動納入清單,對清單內活動進行事前監管,并規定了相應程序,賦予實施負面清單內行為的主體以特別義務。

        (三)促進發展有實招

        示范法堅持發展方向,采取有效措施鼓勵生成式人工智能創新發展,對人工智能服務實行包容審慎態度。相較于側重于懲罰性、管制類的立法,示范法更偏向于促進發展,在制度設計上留出更多容錯空間。

        在第二章人工智能發展中,圍繞目前人工智能發展的關鍵環節:算力技術設施,算法和基礎模型創新、數據要素供給以及商業應用創新,進行了制度設計。

        示范法采用前文所述負面清單監管思路,也出于審慎監管、包容發展的考量。在籌備階段,起草團隊考慮借鑒歐盟風險分級管理思路設計我國監管機制,但歐盟模式對企業合規壓力仍然較大,宜更進一步聚焦重點。因此,示范法最終采取負面清單管理機制,在明確對清單內活動采取事前監管機制之外,允許負面清單外活動保留更大自主性,采取事前備案、事后執法方式,減輕企業負擔。這一制度設計同樣要求及時制定和更新負面清單,示范法對此進行了主管機關職責、清單更新期限等要求,以督促相關部門積極履職。

        此外,考慮到創新發展過程中應有必要的容錯機制,示范法對行為主體責任承擔也設計了相應的豁免條款。例如:“人工智能研發者、提供者承諾限期整改合規,且能夠有效避免人工智能研發、提供或使用活動造成危害的,可以不暫停相關活動。國家人工智能主管機關認為可能造成危害的,可以責令暫停相關活動。”在相應條款設計上最大限度上給予人工智能研發企業充分的發展空間和試錯機會。示范法還授權國家人工智能主管機關制定依法不予行政處罰清單,對符合標準的輕微違法行為采取會商、約談等手段督促整改,避免給技術創新造成過度影響。

        (四)科學設計主體架構

        示范法結合人工智能發展狀況、技術特點設計了不同主體責任。主體責任分配是法律設計的核心關鍵環節,人工智能行業生態正在快速發展形成中,規模龐大,主體呈現多樣化,產業鏈迅速擴大。主體的界分已不再是傳統互聯網平臺治理時期的以平臺為主特點,需要考慮當前的技術特點,并應放眼長遠,看到未來通用人工智能的方向。

        經反復深入研究,起草團隊跳出具體應用場景,根據人工智能技術鏈條將主體定為“研發者-提供者-使用者”三層結構,依據不同的研發、提供和使用行為規定相應責任義務。即使在不同場景下,同一主體身份可能存在交叉重合,也無需另行制定規范,僅需基于其實際開展的活動匹配相應義務。這一結構設計避免了過細的主體責任分配損害應用層面商業模式發展,直接穿透底層技術邏輯、服務提供路徑,并同時保證了風險防范、安全保障義務能夠得到順利履行。

         

        四、未來展望

        人工智能法將是一部面向前沿技術、面向數字經濟、面向未來的重要立法,作為1.0版本的示范法提供了階段性的結論和制度建議,但其理念、原則和具體制度設計不僅將隨著法律和信息技術等領域的理論研究而更新,也會隨著實踐發展而不斷迭代。起草團隊期待就示范法及本法未盡之處與各界同仁深入交流探討,以期得出更成熟、更全面、更有效率的治理方案。

         

        《人工智能法示范法1.0(專家建議稿)》全文:

         人工智能法示范法1.0

        (專家建議稿)

        中國社會科學院國情調研重大項目

        《我國人工智能倫理審查和監管制度建設狀況調研》課題組

        第一章 總則

        第一條(立法依據) 為了規范人工智能的研發、提供和使用活動,維護國家主權、發展和安全利益,促進人工智能安全發展,保護個人、組織的合法權益,根據憲法,制定本法。

        第二條(適用范圍) 在中華人民共和國境內從事人工智能的研發、提供和使用活動及其監管,適用本法。

        在中華人民共和國境外從事人工智能的研發、提供和使用活動,影響或可能影響中華人民共和國國家安全、公共利益或者個人、組織合法權益的,適用本法。

        第三條(治理原則) 國家統籌發展和安全,堅持促進創新和依法治理相結合,實施包容審慎監管。

        第四條(以人為本原則) 從事人工智能研發、提供和使用活動應當以人為本、智能向善,確保人類能夠始終監督和控制人工智能,始終以促進人類福祉為最終目標。

        第五條(安全原則) 從事人工智能研發、提供和使用活動,應當采取必要措施保障所研發、提供和使用的人工智能及其相關網絡數據的安全。

        第六條(公開透明可解釋原則) 從事人工智能研發、提供和使用活動應當遵循公開、透明、可解釋原則,采取必要措施對所研發和使用的人工智能的目的、原理和效果予以說明。

        第七條(可問責原則) 從事人工智能研發、提供和使用活動,應當分別對其研發、提供和使用活動負責。

        第八條(公平平等原則) 從事人工智能研發、提供和使用活動應當遵循公平原則,不得對個人、組織實行不合理的差別待遇。

        從事人工智能研發、提供和使用活動應當充分考慮未成年人、老年人、殘障人士等特殊群體的需求。

        第九條(綠色原則) 國家鼓勵人工智能研發、提供和使用活動應用節能技術,高效利用資源,保護生態環境。

        第十條(促進發展創新原則) 國家支持人工智能基礎設施建設,推動公共算力、公共數據和其他相關公共資源開放共享,鼓勵個人、組織依法開放共享算力、數據和其他相關資源。

        國家鼓勵人工智能研發和應用,依法保護人工智能領域知識產權,創新探索適應人工智能發展的知識產權制度。

        第十一條(國際合作) 國家積極開展人工智能領域的跨國家、跨領域、跨文化交流與合作,積極參與人工智能相關國際規則和標準的制定和實施,推動與其他國家、地區、國際組織之間的人工智能相關規則、標準的互認,推進形成具有廣泛共識的國際人工智能治理框架和標準規范。

        第十二條(履職部門) 國家人工智能辦公室是人工智能發展和管理的主管機關。其他有關政府部門和軍隊有關部門按照職責分工,密切配合,加強協調,依法做好有關工作。

        省、自治區、直轄市,省、自治區的人民政府所在地的市,經濟特區所在地的市和國務院已經批準的較大的市人工智能主管機關和其他相關部門,按照國家有關規定,在本轄區范圍內負責人工智能發展和管理工作。

        第十三條(協同共治) 國家建立和完善政府管理、企業履責、行業自治、社會監督、用戶自律的人工智能治理機制,促進多元主體協同共治。

        第十四條(合法正當) 從事人工智能研發、提供和使用活動應當遵守法律、行政法規,尊重社會公德和倫理道德,遵守以下規定:

        (一)堅持社會主義核心價值觀,不得生成煽動顛覆國家政權、推翻社會主義制度,危害國家安全和利益、損害國家形象,煽動分裂國家、破壞國家統一和社會穩定,宣揚恐怖主義、極端主義,宣揚民族仇恨、民族歧視,暴力、淫穢色情,以及虛假有害信息等法律、行政法規禁止的內容;

        (二)尊重知識產權、商業道德,保守商業秘密,不得利用算法、數據、平臺等優勢,實施壟斷和不正當競爭行為;

        (三)依法保護消費者、勞動者權益,尊重他人合法權益,不得危害他人身心健康,不得侵害他人肖像權、名譽權、榮譽權、隱私權和個人信息權益。

        第二章 人工智能支持與促進

        第十五條(人工智能發展規劃) 國家實施新一代人工智能發展規劃,堅持人工智能研發攻關、產品應用和產業培育共同推進,全面支撐科技、經濟、社會發展和國家安全。

        省級以上人民政府應當將人工智能發展納入本級國民經濟和社會發展規劃,并根據需要制定人工智能發展規劃。

        第十六條(算力基礎設施建設) 全面部署實施全國一體化大數據中心體系建設,優化數據中心基礎設施建設布局,培育壯大數據中心集群。

        國家出臺人工智能公共算力資源供給辦法,推動公共算力資源平臺建設與利用,加強算力科學調度,為人工智能技術與產業發展提供公共算力支持。

        鼓勵和支持高等院校、科研機構、企業和其他組織建設人工智能算力基礎設施、開源開發平臺和開源社區,開展算力資源市場化交易,引導各行業合理有序使用算力資源,提升算力基礎設施利用效能。

        第十七條(算法和基礎模型創新) 國家支持人工智能算法創新,依法加強基礎模型保護,促進基礎模型創新開發、應用推廣。

        第十八條(數據要素供給) 國家支持建設人工智能領域基礎數據庫和專題數據庫,促進數據資源高效匯聚和共享利用,擴大面向人工智能應用的公共數據供給范圍。

        鼓勵引導相關主體開展大數據與人工智能技術協同研發,支持相關主體將數據與行業知識深度融合,開發數據產品,服務算法設計、模型訓練、產品驗證、場景應用等需求。

        第十九條(產業發展與應用創新) 加快人工智能關鍵技術轉化應用,促進技術集成與商業模式創新,推動重點領域智能產品創新,積極培育人工智能新興業態,打造具有國際競爭力的人工智能產業集群。

        推動人工智能與各行業融合創新,在重點行業和領域開展人工智能應用試點示范,推動人工智能規?;瘧?,支持人工智能新技術、新產品、新服務、新模式的應用推廣。

        第二十條(專業人才培養) 國家支持高等院校完善人工智能領域學科布局,設立人工智能專業,推動人工智能領域一級學科建設。

        鼓勵高等學校、科研機構和企業等開展面向人工智能領域重大科學前沿問題的基礎理論研究和關鍵共性技術研發,承擔重大科技和產業創新專項。

        國家支持建立有利于促進人工智能發展的項目管理創新機制、創新人才評定機制、科技成果轉化激勵機制等。

        第二十一條(財政資金支持) 國家鼓勵各地方各部門發揮投資引導基金扶持作用,聚焦人工智能核心領域與關鍵環節開展專項扶持。

        國家鼓勵社會資本參與人工智能產業發展。

        第二十二條(國家機關先行先試) 鼓勵政府機關、事業單位、國有企業及其他依法具有管理公共事務職能的組織,在政務服務、公共管理等領域開展人工智能技術應用先行先試,優先采購和使用安全可靠的人工智能產品和服務。

         

        第三章 人工智能管理制度

        第二十三條(分類管理制度) 國家建立人工智能負面清單制度,對負面清單內的產品、服務實施許可管理,對負面清單外的產品、服務實施備案管理。

        國家人工智能主管機關根據人工智能在經濟社會發展中的重要程度,以及一旦遭到攻擊、篡改、破壞或者非法獲取、非法利用,對國家安全、公共利益或者個人、組織合法權益、經濟秩序造成的危害程度,牽頭制定并定期更新人工智能產品、服務負面清單。

        第二十四條(負面清單管理制度) 開展人工智能負面清單內產品、服務的研發、提供活動前,應當取得國家人工智能主管機關的行政許可。

        禁止未經許可或超越許可范圍開展負面清單內人工智能研發、提供活動。

        第二十五條(負面清單許可條件) 申請負面清單內人工智能研發、提供許可,應當具備下列條件:

        (一)在中華人民共和國境內依法設立的法人;

        (二)主要負責人是中國公民;

        (三)有與風險相適應的具備質量保障、安全保障、人類監督、合規管理等專業知識的專職人員;

        (四)有健全的人工智能質量管理體系、網絡數據安全管理制度、科技倫理審查制度;

        (五)有安全可控的人工智能技術保障措施;

        (六)有與風險相適應的人工智能應急處置機制;

        (七)有與人工智能研發、提供相適應的場所、設施和資金;

        (八)法律、行政法規的其他規定。

        第二十六條(負面清單許可的申請) 人工智能研發者、提供者申請負面清單內人工智能產品研發、提供許可,應提交以下材料:

        (一)申報書;

        (二)法人資格、場所、資金等證明;

        (三)主要負責人為中國公民的證明;

        (四)質量保障、安全保障、人類監督、合規管理專職人員的資質情況;

        (五)人工智能質量管理體系、網絡數據安全制度、科技倫理審查制度、風險管理制度及執行情況;

        (六)符合本法規定的技術文件目錄和技術保障措施日志摘要;

        (七)人工智能安全評估報告;

        (八)法律法規規定的其他材料。

        第二十七條(負面清單許可的審批) 國家人工智能主管機關受理負面清單內人工智能研發、提供許可申請后,在10個工作日內進行初步審查。

        經初步審查,發現人工智能的研發者和提供者提交的申請材料不符合要求的,國家人工智能主管機關可以要求其補充或者更正。人工智能研發者、提供者無正當理由不補充或者更正的,該申請即被視為撤回。

        初步審查材料齊全的,國家人工智能主管機關應當自受理申請之日起45日內審查完畢,作出許可或者不予許可的決定。予以許可的,向申請人頒發人工智能研發、提供許可證;不予許可的,應當書面通知申請人并說明理由。

        45日內不能作出決定的,經國家人工智能主管機關負責人批準,可以延長十日,并應當將延長期限的理由告知申請人。

        第二十八條(負面清單許可的撤銷) 人工智能研發者、提供者在研發、提供活動中違反本法規定,發生重大安全事件、多次發生安全事件、多次受到行政處罰的,國家人工智能主管機關可以中止許可并責令限期改正;期限屆滿未改正,或中止許可后再次發生安全事件或受到行政處罰的,國家人工智能主管機關可以撤銷許可。

        第二十九條(負面清單許可的再次申請) 負面清單內人工智能研發、提供許可證應當載明使用許可的期限和范圍。

        超出許可范圍,或技術改進、使用場景變更、用戶群體變化等導致人工智能的風險發生變化的,負面清單內人工智能研發者、提供者應當再次申請研發、提供許可。

        使用許可期限屆滿前六個月,負面清單內人工智能研發者、提供者可以申請更新研發、提供許可。

        負面清單內人工智能研發者、提供者停止許可內人工智能研發、提供的,應當在停止之日起三個月內,向國家人工智能主管機關申請注銷研發、提供許可。

        第三十條(許可證公開) 負面清單內人工智能研發者、提供者應當在所提供的人工智能產品、服務的顯著位置,注明許可證編號。

        第三十一條(投訴、舉報) 個人和組織發現違法從事負面清單內人工智能研發、提供活動的,有權向國家人工智能主管機關投訴、舉報,國家人工智能主管機關應當及時核實、處理。

        第三十二條(釋疑機制) 個人和組織對負面清單內人工智能研發、提供活動有疑義的,有權請求國家人工智能主管機關予以說明,國家人工智能主管機關應當及時答復、處理。

         

        第四章 人工智能研發者、提供者義務

        第一節 一般規定

        第三十三條(安全性義務) 人工智能研發者、提供者應當在將人工智能投入使用或投放市場前進行安全測試,防范網絡數據人工智能安全風險,并保障人工智能全生命周期的安全、穩健運行,符合預期目的。

        人工智能研發者和提供者應當及時發布安全最佳實踐,引導使用者安全、正確地使用人工智能。

        人工智能研發者、提供者按照本法規定的記錄、技術文件等要求,保證可追溯性,在發生事故時可以及時并準確地追溯、定位問題,保障人工智能的安全性。

        鼓勵相關組織和個人向人工智能研發者、提供者通報其產品、服務存在的安全漏洞。

        人工智能研發者、提供者應當按照相關規定履行安全漏洞管理義務,確保其安全漏洞得到及時修補和合理發布,并指導支持使用者采取防范措施。

        第三十四條(補救和通知義務) 人工智能研發者、提供者應當加強風險監測,發現安全缺陷、漏洞等風險時,應當立即采取補救措施。

        發生安全事件時,人工智能研發者應當立即采取處置措施,并通知人工智能提供者。人工智能提供者應當立即采取處置措施,按照國家有關規定及時告知使用者并向主管機關報告以下事項:

        (一)安全事件的發生過程、影響范圍;

        (二)人工智能提供者已采取的補救措施和使用者可以采取的減輕危害的措施;

        (三)人工智能提供者的聯系方式。

        人工智能提供者采取措施可以有效避免對使用者造成實質損害的,可以不通知使用者;國家人工智能主管機關認為可能造成危害的,有權要求其通知受影響的使用者。

        發生本條第一款、第二款情況的,人工智能提供者應當及時通知人工智能研發者。人工智能研發者應當立即進行評估。如果評估發現研發階段存在問題風險的,應當立即通知其他人工智能提供者,在問題風險解決前,暫?;蛳录苋斯ぶ悄墚a品、服務。其他人工智能提供者收到通知的,應當立即采取處置措施,管控產品、服務風險。

        第三十五條(公開透明性義務) 人工智能提供者提供與自然人互動的人工智能服務,應當在使用者使用人工智能前,以簡潔、清晰、易于理解的方式,告知與人工智能產品、服務進行交互的自然人,其正在與人工智能服務進行交互。但是,自然人從使用的場景中可以判斷的除外。

        提供深度合成服務的人工智能提供者還應當根據國家有關規定,對合成內容進行顯著標識,向公眾提示深度合成情況。

        人工智能提供者應當在使用者使用人工智能前,以適當的方式告知使用者以下信息:

        (一)產品、服務的基本原理、目的意圖和主要運行機制;

        (二)產品、服務的許可或備案公示信息;

        (三)使用者享有的權利和救濟渠道;

        (四)法律、行政法規規定的其他信息。

        人工智能提供者應當綜合考慮產品、服務的場景、性質、受眾和行業技術發展水平等因素,充分保障未成年人、老年人、殘障人士等特殊群體可以理解上述信息。

        人工智能研發者應當配合提供者履行上述義務。

        第三十六條(可解釋性義務) 人工智能產品、服務對個人權益有重大影響的,人工智能使用者有權要求提供者對產品、服務決策的過程、方式等作出解釋,有權對不合理的解釋進行投訴。提供者應當綜合考慮風險、場景和行業技術發展水平等因素,對使用者的要求及時作出反饋。研發者應當配合提供者履行本條義務。

        第三十七條(公平性義務) 人工智能研發者應當在訓練數據處理和標注、算法模型設計研發和驗證測試過程中,采取必要措施,有效防范有害的偏見和歧視。

        人工智能提供者應當在提供產品、服務過程中,加強對輸入數據、輸出數據的管理,有效防范有害的偏見和歧視。

        第三十八條(風險管理) 人工智能提供者綜合考慮產品、服務的場景、性質、受眾和行業技術發展水平等因素,建立健全和實施全生命周期風險管理制度。在產品、服務投入使用前以及使用過程中,人工智能提供者應當對人工智能的風險進行識別、評估,并采取合理必要措施防控風險。人工智能提供者應當保留風險識別、評估和管理的記錄,保存期限不少于三年。

        人工智能研發者應當對設計、數據收集訓練、模型選擇、測試驗證等研發過程,建立并運行風險管理制度,并對人工智能的風險進行識別并采取合理必要的措施降低風險。人工智能研發者應當在保障商業秘密的前提下,配合提供風險評估和管理記錄,支持人工智能提供者完成人工智能服務的風險管理義務。人工智能提供者應當保留風險評估和管理的記錄,保存期限不少于三年。

        第三十九條(安全評估) 人工智能研發者、提供者應當按照國家有關規定開展安全評估。

        第四十條(科技倫理審查) 人工智能研發者、提供者應當按照國家有關規定開展科技倫理審查。

        第四十一條(授權代表) 本法第二條第二款規定的中華人民共和國境外的人工智能研發者、提供者,應當在中華人民共和國境內設立專門機構或者指定代表,負責處理人工智能相關事務,并將有關機構的名稱或者代表的姓名、聯系方式等報送國家人工智能主管機關。

         

        第二節 人工智能研發者義務

        第四十二條(負面清單內人工智能研發者增強義務) 負面清單內人工智能研發者應當履行以下義務:

        (一)制定并保存符合本法要求的技術文件,并配合提供者履行相關義務;

        (二)在研發過程,制定并運行符合本法要求的質量管理體系,并配合提供者履行相關義務;

        (三)在研發過程,進行安全評估,配合提供者履行相關義務;

        (四)法律、行政法規規定的其他義務。

        第四十三條(基礎模型研發者特殊義務) 基礎模型研發者應遵守以下規定:

        (一)按照國家規定建立健全安全風險管理制度,及時有效預防、監測、處置對國家安全、公共利益或者個人、組織合法權益、經濟秩序造成的風險;

        (二)按照國家規定建立健全基礎模型的模型管理和數據管理制度;

        (三)遵循公開、公平、公正的原則,制定基礎模型的使用規則,明確使用基礎模型的研發者、提供者應當履行的義務,不得濫用市場支配地位;

        (四)協助其他研發者、提供者履行相關義務;

        (五)對嚴重違反本法規定的研發者、提供者,應當采取停止提供服務等必要措施;

        (六)成立主要由外部成員組成的獨立機構對基礎模型的研發情況進行監督;每年發布社會責任報告,接受社會監督。

         

        第三節 人工智能提供者義務

        第四十四條(備案義務) 不在負面清單內的人工智能提供者,應當在提供產品、服務之日起十個工作日內,向主管機關備案以下信息:

        (一)人工智能提供者的姓名或名稱、聯系方式;

        (二)人工智能產品、服務的商標或名稱、提供形式、應用領域、算法類型、安全自評估報告;

        (三)算法備案擬公示內容;

        (四)法律、行政法規規定的其他信息。

        備案信息發生變更的,應當在變更之日起十個工作日內辦理變更手續。

        完成備案的人工智能提供者應當在其對外提供服務的網站、應用程序等的顯著位置注明其備案編號。

        第四十五條(備案流程) 主管機關收到備案材料后,材料齊全的,應當在三十個工作日內予以備案,發放備案編號并進行公示;材料不齊全的,應當在十個工作日內通知備案人補充材料。

        第四十六條(審計義務) 人工智能提供者應當至少每兩年進行一次審計,核驗輸入數據、算法模型、輸出數據等的合規性,對人工智能產品、服務活動是否遵守法律、行政法規的情況進行審查和評價。

        第四十七條(內部管理制度) 人工智能提供者應當采取下列措施確保人工智能符合法律、行政法規的規定:

        (一)制定內部數據安全、風險控制、質量管理等制度和相應的操作規程;

        (二)保存提供人工智能產品、服務自動生成的日志;

        (三)定期對從業人員進行教育和培訓;

        (四)采取相應的魯棒性、抗攻擊性等合規技術措施;

        (五)法律、行政法規規定的其他措施。

        第四十八條(終止機制) 人工智能提供者終止提供產品、服務的,應當采取以下妥善安排措施:

        (一)提前三十個工作日公示終止方案、使用者權利等;

        (二)自終止之日起三十個工作日內,刪除使用者的個人信息;根據國家有關規定,對人工智能產品、服務提供過程中產生的數據、訓練數據、算法模型作出必要處理;

        (三)法律、行政法規規定的其他措施。

        第四十九條(許可注銷) 負面清單內人工智能提供者應當提前三十個工作日通知主管機關,說明有關情況,并在終止服務后將許可證交回原許可機關。

        不在負面清單內人工智能提供者應當在終止服務之日起二十個工作日內辦理注銷備案手續。

        第五十條(負面清單人工智能提供者增強義務) 負面清單內人工智能提供者,還應當履行如下義務:

        (一)按照本法要求進行安全評估,確保安全、穩??;

        (二)制定并保存符合本法要求的技術文件,以證明所提供的人工智能符合本法對負面清單內人工智能的要求;

        (三)建立并運行符合本法要求的全生命周期質量管理體系;

        (四)在人工智能產品、服務自主運行過程中,確保人類可以隨時采取介入、接管等措施;

        (五)法律、行政法規規定的其他義務。

         

        第五章 人工智能綜合治理機制

        第五十一條(國家人工智能主管機關職責) 國家人工智能主管機關依法履行以下人工智能監管職責:

        (一)開展人工智能倫理、安全教育與宣傳,指導、監督人工智能開發、提供和使用;

        (二)制定人工智能監管規則、指引,組織制定人工智能倫理、安全、管理等方面標準;

        (三)組織人工智能技術監測、評估、審計工作,指導專業機構依法開展活動;

        (四)建立人工智能風險監測預警機制,組織人工智能領域風險信息的獲取、分析、研判、預警工作;

        (五)建立人工智能安全事件應急處置機制;

        (六)接受、處理與人工智能技術及產品開發、提供和使用有關的投訴、舉報;

        (七)調查、處理違法人工智能開發、提供和使用活動;

        (八)法律、行政法規規定的其他職責。

        第五十二條(安全審查制度) 從事人工智能研發、提供活動,影響或可能影響國家安全的,應當按照國家有關規定通過安全審查。

        依法作出的安全審查決定為最終決定。

        第五十三條(前置程序期限) 人工智能研發者、提供者、使用者依照本法及國家有關規定,就人工智能新技術新應用申報安全審查、備案或申請行政許可的,國家人工智能主管機關應當明確工作期限,并在期限內及時處理、作出答復。

        第五十四條(約談) 國家人工智能主管機關和地方各級人工智能主管機關在履行職責中,發現人工智能研發、提供活動存在較大風險或者發生安全事件的,可以按照規定的權限和程序對該人工智能研發者、提供者進行約談,要求其采取下列措施:

        (一)按照要求進行整改,消除隱患;

        (二)對其研發、提供活動作出適當的解釋,說明人工智能服務的開發、管理和運行的責任,為保障公平性、安全性和穩定性采取的措施,以及對利益相關方的影響等;

        (三)委托專業機構對其人工智能研發、提供活動進行合規審計。

        人工智能研發者、提供者承諾限期整改合規,且能夠有效避免人工智能研發、提供或使用活動造成危害的,可以不暫停相關活動。國家人工智能主管機關認為可能造成危害的,可以責令暫停相關活動。

        第五十五條(創新監管) 國家人工智能主管機關就人工智能產業研發、提供和使用活動中的輕微違法行為等制定依法不予行政處罰清單,通過批評教育、指導約談、組織會商研討等措施促進公民、法人和其他組織依法合規開展人工智能產業研發、提供和使用活動。

        第五十六條(監管沙盒) 國家人工智能主管機關建立人工智能監管試驗機制,就以下事項出臺具體規定、指引:

        (一)參與監管試驗的條件;

        (二)監管試驗的運行機制;

        (三)人工智能研發者、提供者的義務、責任減免機制。

        第五十七條(執法機制) 國家人工智能主管機關應當加強專門隊伍和專業技術建設,提升人工智能監管執法工作效率。

        國家人工智能主管機關應當依法確定本系統行政執法程序,建立行政執法監督制度。

        第五十八條(技術治理) 國家支持企業、科研機構等研究開發有關人工智能監測預警、安全評估、應急處置等技術,鼓勵在人工智能領域應用監管科技、合規科技。

        第五十九條(境外反制) 境外的組織、個人從事侵害中華人民共和國公民的合法權益,或者危害中華人民共和國國家安全、公共利益的人工智能研發、提供或使用活動的,國家人工智能主管機關可以將其列入負面清單,予以公告,并依法采取限制或禁止其在中華人民共和國境內研發、提供或使用人工智能等措施。

        第六十條(對等措施) 任何國家或者地區在與人工智能有關的研發、投資、貿易等方面對中華人民共和國采取歧視性的禁止、限制或者其他類似措施的,中華人民共和國可以根據實際情況對該國家或者地區對等采取措施。

         

        第六章 法律責任

        第六十一條(行政處罰一般條款) 違反本法第三十四條至第五十一條研發、提供人工智能的,由國家人工智能主管機關責令改正,給予警告,沒收違法所得,責令暫?;蛘呓K止提供產品、服務;拒不改正的,并處一百萬元以下罰款;對直接負責的主管人員和其他直接責任人員處一萬元以上十萬元以下罰款。

        有前款規定的違法行為,情節嚴重的,由國家人工智能主管機關責令改正,沒收違法所得,并處五千萬元以下或者上一年度營業額百分之四以下罰款,并可以責令暫停相關業務或者停業整頓、通報有關主管機關吊銷相關業務許可或者吊銷營業執照;對直接負責的主管人員和其他直接責任人員處十萬元以上一百萬元以下罰款

        第六十二條(行政罰款的裁量方式) 本法規定的罰款可以作為責令整改等措施的補充或替代,國家人工智能主管部門決定行政罰款金額時,遵循合法原則、過罰相當原則、公平公正原則、處罰和教育相結合原則、綜合裁量原則,應當充分考慮以下因素:

        (一)違法行為及后果的性質、嚴重性和持續時間、受影響的范圍和損害程度;

        (二)違法行為是故意還是過失;

        (三)對違法行為是否采取了補救措施并減輕可造成的損失;

        (四)是否依照本法規定通知國家人工智能主管部門;

        (五)是否依照本法規定采取了合理有效的組織和技術措施管理人工智能的風險;

        (六)是否遵守了人工智能和安全等相關標準或獲得了相關認證;

        (七)此前的違法行為;

        (八)其他法律法規規定的加重或減輕處罰的因素。

        第六十三條(違反許可行為) 違反本規定第三十二條規定,未經許可或超越許可范圍研發、提供人工智能的,由國家人工智能主管部門依據職責責令停止相關活動,處上一年度營業額百分之四以下罰款。

        第六十四條(違反備案行為) 人工智能提供者通過隱瞞有關情況、提供虛假材料等不正當手段取得備案的,由國家人工智能主管部門予以撤銷備案,給予警告、通報批評;情節嚴重的,責令暫停信息更新,并處一萬元以上十萬元以下罰款。

        人工智能提供者終止服務未按照本法第四十二條要求辦理注銷備案手續,或者發生嚴重違法情形受到責令關閉網站、吊銷相關業務許可證或者吊銷營業執照等行政處罰的,由國家人工智能主管部門予以注銷備案。

        第六十五條(信用懲戒) 有本法規定的違法行為的,依照有關法律、行政法規的規定記入信用檔案,并予以公示。

        第六十六條(民事侵權責任) 研發、提供的人工智能侵害個人權益造成損害,研發者、提供者未履行本法規定的義務,應當承擔損害賠償等侵權責任,但研發者和提供者能證明自己沒有過錯的除外。

        前款規定的損害賠償責任按照使用者或受影響的個人、組織因此受到的損失或者研發者、提供者因此獲得的利益確定;使用者或受影響的個人、組織因此受到的損失和提供者因此獲得的利益難以確定的,根據實際情況確定賠償數額。

        第六十七條(公益訴訟) 違反本法規定提供人工智能,侵害眾多個人的權益的,人民檢察院、法律規定的消費者組織和由國家人工智能主管部門確定的組織可以依法向人民法院提起訴訟。

        第六十八條(治安管理處罰和刑事責任的銜接) 違反本法規定,構成違反治安管理行為的,依法給予治安處罰;構成犯罪的,依法追究刑事責任。

        第六十九條(合規不起訴) 人工智能研發者、提供者違反本法規定,承擔行政責任的,行為主體合規建設經評估符合有效性標準的,則列入輕微違法行為依法免予處罰。

        違反本法規定,構成犯罪的,納入企業合規改革試點工作,涉案企業合規建設經評估符合有效性標準的,人民檢察院可以參考評估結論依法作出不批準逮捕、變更強制措施、不起訴的決定,提出從寬處罰的量刑建議,或者向有關主管機關提出從寬處罰、處分的檢察意見。

        第七十條(國家機關不履職的責任) 國家機關不履行本法規定的義務的,由其上級機關或者國家人工智能主管部門責令改正;對直接負責的主管人員和其他直接責任人員依法給予處分。

        國家機關工作人員玩忽職守、濫用職權、徇私舞弊,尚不構成犯罪的,依法給予處分。

        依法不構成行政執法過錯的情形,不追究有關工作人員的行政執法責任。

         

        第七章 附則

        第七十一條(定義) 本法下列用語的含義:

        (一) 人工智能,是指以一定自主程度運行,服務于特定的目標,能夠通過預測、推薦或決策等方式影響物理或虛擬環境的自動化系統,包括數據、特征、模型、服務提供接口和所嵌入的終端設備等;

        (二) 人工智能研發者,是指僅從事算法設計、訓練數據標注、特征提取、模型訓練和優化、測試部署等人工智能研究和開發活動的個人、組織;

        (三) 人工智能提供者,是指出于商業目的提供人工智能或者為其提供相關技術支持的個人、組織,或者無論是否出于商業目的,面向公眾提供人工智能或者為其提供相關技術支持的個人、組織;

        (四) 人工智能使用者,是指依照人工智能的性能和用途對其加以利用的個人、組織。

        第七十二條(施行日期) 本法自 年 月 日起施行。

        第七十三條(負面清單公開制度) 國家人工智能主管機關應當不晚于本法實施之日前六個月公開人工智能負面清單,并在定期更新后及時公開。

        上一篇:

        廣州:鼓勵民營企業積極參與人工智能應用場景建設

        下一篇:

        公安部:關于公開征集公共安全行業專業標準化技術委員會委員的通知

        在線咨詢{
        下載
        加入協會
        回到頂部
        国产高潮流白浆喷水免费|国产91麻豆免费观看|色偷偷人人澡久久超碰|亚洲国产精品58页

        <ruby id="z38ss"></ruby>
      4. <th id="z38ss"><pre id="z38ss"><rt id="z38ss"></rt></pre></th>
          1. <em id="z38ss"><acronym id="z38ss"><input id="z38ss"></input></acronym></em>
            <progress id="z38ss"></progress>
          2. <span id="z38ss"></span>