本刊記者 徐明皎

“AI會傷害人類嗎?”“AI時代，我們的生活會更好還是更壞?”隨著人工智能的快速迭代，類似疑問一直盤桓不去。

2022年底，生成式人工智能驚艷問世，如何把握人工智能的應用邊界和適用場景，顯得更為迫切，因而也備受各界關注和熱議。通過法律約束，在促進產業(yè)發(fā)展的同時守住安全邊界，逐漸成為共識。

目前，“人工智能健康發(fā)展”方面的立法已列入全國人大常委會今年的預備審議項目。不少學者也開始關注立法技術問題。

人工智能迭代帶來挑戰(zhàn)

AI助手、自動駕駛、虛擬戀人……人工智能在為社會經(jīng)濟發(fā)展賦能、豐富人們精神世界的同時, 也對現(xiàn)有的法律秩序提出了挑戰(zhàn)。

“人工智能的發(fā)展促進了當今世界科技進步的同時，也帶來了很多安全風險，要從技術與法規(guī)兩方面加以應對?！苯衲?月，中國工程院院士，中國科學院計算技術研究所研究員、學術委員會主任孫凝暉在十四屆全國人大常委會專題講座上表示。

“互聯(lián)網(wǎng)虛假信息泛濫、偽造視頻、偽造新聞、生成不雅圖片等?！睂O凝暉在講座上列舉了多項人工智能帶來的安全風險。

人工智能帶來的風險，遠非以往的技術革命所能比擬?！斑^去的技術都是工具，而人工智能不再是簡單的工具，而且滲透到社會生產和生活的方方面面?！敝袊茖W技術大學計算機科學與技術學院教授陳小平曾向本刊記者表示。

有關人工智能的算法歧視、信息泄露等風險問題，學界已早有關注。生成式人工智能的出現(xiàn)，將風險問題推到了一個新階段。伴隨著技術的加速迭代，圖生文不再稀奇，文生圖、圖生視頻已成為現(xiàn)實，對人工智能可能帶來負面效應的恐慌情緒也在加劇。

“處理好風險最有效的辦法，就是對于人工智能的開發(fā)、實驗、部署提前做好制度安排，進行有目標、可信任的控制?！痹诒本┖娇蘸教齑髮W法學院院長龍衛(wèi)球教授看來，人工智能發(fā)展到ChatGPT階段，與歷史上其他技術迭代比較，其可能帶來的技術風險、社會風險和倫理風險等負效應前所未有，應對也相當困難?！胺墒亲钣辛α亢托实霓k法?！饼埿l(wèi)球表示。

亟需完善人工智能法律體系

2023年7月，國家互聯(lián)網(wǎng)信息辦公室聯(lián)合國家發(fā)展和改革委員會等部門發(fā)布《生成式人工智能服務管理暫行辦法》，成為我國現(xiàn)階段促進生成式人工智能健康發(fā)展和規(guī)范應用的主要規(guī)范。

此前，國家互聯(lián)網(wǎng)信息辦公室等部門于2022年發(fā)布《互聯(lián)網(wǎng)信息服務算法推薦管理規(guī)定》《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》，對人工智能的應用進行規(guī)范。

另外，民法典、網(wǎng)絡安全法、數(shù)據(jù)安全法、個人信息保護法等也在信息和數(shù)據(jù)處理安全方面作出了規(guī)定。

不過，在不少業(yè)內人士看來，我國人工智能立法存在非體系化、碎片化問題，需要從頂層設計的維度進一步完善人工智能法律體系?！柏叫杈腿斯ぶ悄芑顒又贫ㄒ徊磕軌蛞?guī)制其風險的人工智能法?！饼埿l(wèi)球表示。

清華大學法學院教授申衛(wèi)星在2024中國數(shù)字經(jīng)濟發(fā)展與法治建設論壇的主旨演講上，曾就人工智能立法問題表示，網(wǎng)絡安全法、數(shù)據(jù)安全法、個人信息保護法以及三個部門規(guī)章構成了未來我國人工智能法出臺的前提和基礎。

2023年6月，國務院辦公廳印發(fā)《國務院2023年度立法工作計劃》，明確提出“預備提請全國人大常委會審議人工智能法草案”。今年5月，國務院辦公廳印發(fā)《國務院2024年度立法工作計劃》，“人工智能法草案”再次列入預備提請全國人大常委會審議項目。

去年年底通過的《全國人大常委會2024年度立法工作計劃》在預備審議項目中列明，“網(wǎng)絡治理和人工智能健康發(fā)展等方面的立法項目”由有關方面抓緊開展調研和起草工作，視情安排審議。

立法須兼顧產業(yè)發(fā)展與安全需求

“立法不易，人工智能技術龐雜、系統(tǒng)復雜、風險類型多樣?！痹邶埿l(wèi)球看來，人工智能不同階段特點不同，立法需面對不同產品服務或場景應用的巨大差異，“需認真研究規(guī)律，合理判斷風險點和治理路徑，形成可控規(guī)制體系和策略”。

2023年8月，中國社會科學院發(fā)布《人工智能法示范法1.0(專家建議稿)》(以下簡稱《專家建議稿》)。今年3月，在“AI善治論壇人工智能法律治理前瞻”專題研討會上，公布由7家研究機構攜手起草的《中華人民共和國人工智能法(學者建議稿)》(以下簡稱《學者建議稿》)。

《專家建議稿》《學者建議稿》都在總則中規(guī)定了安全、公平等原則，用一個章節(jié)聚焦在人工智能的發(fā)展與促進上，同時還用較大篇幅規(guī)定了人工智能開發(fā)者、提供者的義務。

《學者建議稿》起草組專家、中國政法大學數(shù)據(jù)法治研究院教授張凌寒撰文表示，我國身為人工智能產業(yè)中“領先的追趕者”，始終將兼顧發(fā)展與安全作為國內技術監(jiān)管的核心訴求。“我國人工智能立法的基本邏輯是一方面大力支持產業(yè)發(fā)展，另一方面又要兼顧切實的安全需求。”她在文中表示。

“將來是法律、倫理、政策以及技術標準形成一個多元共治的局面，才能夠綜合治理人工智能的發(fā)展，使它既能保證安全的情況下，為人類福利服務。”申衛(wèi)星表示。