編者按
　　隨著信息技術的迅猛發(fā)展，越來越多的新業(yè)態(tài)、新模式、新產(chǎn)品不斷涌現(xiàn)，也伴生個人信息遭侵犯、新技術新業(yè)態(tài)無序發(fā)展等問題，迫切需要加強法律的規(guī)制與保障。
　　中共中央近日印發(fā)的《法治中國建設規(guī)劃（2020－2025年）》明確提出，加強信息技術領域立法，及時跟進研究數(shù)字經(jīng)濟、互聯(lián)網(wǎng)金融、人工智能、大數(shù)據(jù)、云計算等相關法律制度，抓緊補齊短板。
　　本報今起開設“新技術領域立法”欄目，聚焦如何通過立法保障新業(yè)態(tài)新模式健康發(fā)展，敬請關注。

　　□ 法治日報全媒體記者　　蒲曉磊

　　近日，上海市浦東新區(qū)科技和經(jīng)濟委員會發(fā)布消息稱，截至2020年底，浦東人工智能企業(yè)約600家，涵蓋人工智能基礎層、技術層及應用層，相關產(chǎn)業(yè)規(guī)模預計達910多億元，以人工智能技術驅動社會經(jīng)濟高質量發(fā)展變革的效應逐步顯現(xiàn)。
　　浦東地區(qū)人工智能的蓬勃發(fā)展，是我國人工智能產(chǎn)業(yè)的一個縮影。中國信息通信研究院近日發(fā)布的數(shù)據(jù)顯示，2020年，我國人工智能產(chǎn)業(yè)規(guī)模大約3100億元人民幣，同比增長15%。
　　值得注意的是，伴隨著人工智能的快速發(fā)展，其“雙刃劍”的特性也愈發(fā)引人關注。人工智能在深刻改變?nèi)祟惿鐣?、改變世界的同時，其發(fā)展的不確定性也給個人隱私、經(jīng)濟安全、社會穩(wěn)定等領域帶來前所未有的新挑戰(zhàn)。
　　人工智能要實現(xiàn)健康發(fā)展，法治是不可或缺的堅實保障。清華大學法學院院長申衛(wèi)星建議，在大力發(fā)展人工智能的同時，高度重視其可能帶來的安全風險挑戰(zhàn)，加強前瞻預防與約束引導，最大限度降低風險、化解風險，從技術、倫理和法律三個路徑共同構建符合人工智能運作基本邏輯的規(guī)制體系，確保人工智能安全、可控發(fā)展。
在基層醫(yī)療等領域有特殊價值
　　得益于人工智能在近年來的迅猛發(fā)展，我國應對新冠肺炎疫情的能力有了進一步提升。在疫情期間，人工智能在基層醫(yī)療、教育教學、城市治理等多個領域凸顯特殊價值。
　　近日，北京市順義區(qū)發(fā)生局部聚集性疫情。如何破解疫情傳播鏈，成為疫情防控中的一項重要工作。在取得授權的前提下，人工智能技術團隊繪出患者流調軌跡地圖，幫助疾控人員迅速鎖定管控范圍。
　　2020年初，人工智能領域的智能語音機器人在進行社區(qū)疫情排查和防疫宣傳上就起到了很大作用。記者在科大訊飛海南自貿(mào)港人工智能翻譯服務中心看到，使用了語音技術的機器人，可以給人們打電話進行電話訪問，對人們的身體狀況等信息進行詢問，在電話訪問結束之后還可以自動生成統(tǒng)計報表，將相關信息直接提供給疫情防控有關部門。這項技術在湖北武漢“封城”期間就已得到廣泛應用，6小時即可完成100萬人的電話訪問。在全國推廣后，共完成了5900萬次的訪問和統(tǒng)計，極大地節(jié)省了隨訪時間。
　　全國人大代表、科大訊飛股份有限公司董事長劉慶峰說，人工智能在過去60多年的發(fā)展歷程里，一方面，在技術創(chuàng)新上，人工智能已經(jīng)實現(xiàn)了“讓機器能聽會說、能看會認”，正朝著“讓機器能理解、會思考”的方向發(fā)展；另一方面，在教育、醫(yī)療、社會治理、司法、翻譯、辦公等關系民生福祉的各行各業(yè)，人工智能也開始切切實實解決剛需應用。
　　“未來十年，人工智能將像水和電一樣進入每一個行業(yè)，深刻改變世界?！眲c峰說。
可能帶來重大風險和潛在威脅
　　在飛速發(fā)展的過程中，人工智能的“雙刃劍”特性也展現(xiàn)出來。
　　疫情防控工作中，人工智能在信息收集、資源調配、支持復工復產(chǎn)等領域展現(xiàn)了巨大能量。與此同時，人工智能也因為公民個人信息保護、老年人面臨“數(shù)字鴻溝”等問題而備受關注。
　　近年來，人工智能在廣泛應用于多個領域的同時，其對于個人隱私、社會公平、生命安全、科技倫理等方面的影響時常被關注。
　　申衛(wèi)星認為，人工智能技術的發(fā)展，不僅使得保護隱私和個人信息更具有挑戰(zhàn)性，也有著引發(fā)歧視和不公平對待等倫理風險、誘發(fā)壟斷阻礙經(jīng)濟發(fā)展、成為威脅國家和社會安全的突破口等風險。
　　“在人工智能的社會倫理上，人們?nèi)找姹粩?shù)據(jù)化和被算法化，算法在劣勢累計影響下所作出的推斷與決策結果將導致對少數(shù)群體或受保護群體的負面成見和刻板印象，故意或過失的錯誤應用和算法歧視引發(fā)對兒童、老年人、殘疾人、消費者等弱勢群體的不公平對待，對社會正義觀和實質結果提出了嚴峻挑戰(zhàn)?！鄙晷l(wèi)星舉例說。
　　數(shù)據(jù)信息采集應用可能侵犯公民權利，威脅隱私；算法偏好可能加劇社會偏見或歧視，威脅公平；機器深度學習難以理解人性和道德，無人駕駛汽車緊急避險等智能決策可能危及特定人群生命，威脅安全；人機交互式產(chǎn)品廣泛應用帶來的工作生活高度依賴，對人類情感體驗、家庭社會關系等帶來了一定沖擊，可能影響未來社會塑造，威脅倫理……全國政協(xié)曾在2020年9月至10月對人工智能進行專題調研，專題調研組了解到，我國人工智能發(fā)展勢頭迅猛，但發(fā)展機遇與風險并存，對人類社會發(fā)展也可能帶來重大風險和潛在威脅。
加快對應用基礎較好領域立法
　　為推動新一代人工智能健康發(fā)展，相關的法律制度正在加速構建。
　　2020年12月21日，全國人大常委會法工委發(fā)言人岳仲明介紹了2021年全國人大的重點立法工作。數(shù)據(jù)安全法、個人信息保護法等法律案2021年安排常委會會議繼續(xù)審議，爭取早日出臺。
　　盡管相關的立法工作正在提速，但與人工智能的發(fā)展速度相比，仍然顯得有些滯后。
　　西南政法大學高等研究院院長、人工智能法律研究院院長侯東德認為，當前，人工智能發(fā)展缺乏具有前瞻性、可操作性、指引性的法律法規(guī)，人工智能發(fā)展中涉及的個人信息保護、數(shù)據(jù)共享等問題也亟須立法明確。
　　值得注意的是，國務院在2017年7月印發(fā)的《新一代人工智能發(fā)展規(guī)劃》提出，重點圍繞自動駕駛、服務機器人等應用基礎較好的細分領域，加快研究制定相關安全管理法規(guī)，為新技術的快速應用奠定法律基礎。
　　申衛(wèi)星建議，對自動駕駛、自動化決策、精準醫(yī)療等領域分別進行立法，要區(qū)分不同行業(yè)和場景對人工智能技術進行規(guī)范。
　　中國法學會商法學研究會理事張韜認為，在人工智能發(fā)展過程中，數(shù)據(jù)占據(jù)著極為重要的地位。無論是解決“數(shù)據(jù)隱私”“算法歧視”等問題，還是針對自動駕駛、服務機器人等快速發(fā)展的領域進行立法，都需要對數(shù)據(jù)的收集、利用、使用等內(nèi)容作出細致規(guī)定。
　　上海眾人網(wǎng)絡安全技術有限公司董事長談劍鋒說，針對個人生物特征、醫(yī)療數(shù)據(jù)等唯一性、不可再生性的重要數(shù)據(jù)，必須提前設防。建議對此進行立法，對互聯(lián)網(wǎng)企業(yè)的信息采集進行嚴格的管理規(guī)定，只可針對企業(yè)產(chǎn)品的特性進行相關必要的數(shù)據(jù)采集，不得過度、無序、隨意地采集。同時，明確規(guī)范由誰來采集、如何采集等相關安全技術規(guī)范和流程標準，采取嚴格的安全防范措施。