大模型市場迎來快速發(fā)展 面臨新的安全風(fēng)險挑戰(zhàn)
2023全球數(shù)字經(jīng)濟大會人工智能高峰論壇在京舉行
法治網(wǎng)見習(xí)記者 哈建偉
7月2日，由北京市人民政府聯(lián)合工業(yè)和信息化部、國家網(wǎng)信辦、商務(wù)部、中國科協(xié)共同主辦的“2023全球數(shù)字經(jīng)濟大會人工智能高峰論壇”在京舉行。與會嘉賓圍繞當(dāng)下最具熱度的大模型技術(shù)發(fā)展路徑及應(yīng)用場景等話題展開討論，并就如何應(yīng)對大模型發(fā)展面臨的安全風(fēng)險挑戰(zhàn)進(jìn)行了探討。
大模型火爆帶動人工智能產(chǎn)業(yè)高速發(fā)展
隨著ChatGPT掀起大模型的發(fā)展熱潮，人工智能產(chǎn)業(yè)風(fēng)頭更勁，迄今已有80余個大模型公開發(fā)布。大模型產(chǎn)品正不斷向政務(wù)、金融、文創(chuàng)、醫(yī)療等行業(yè)拓展，產(chǎn)業(yè)鏈上下游創(chuàng)業(yè)熱潮不斷高漲。
目前，包括北京市在內(nèi)的全國多地正在以大模型作為人工智能發(fā)展突破口，搶占行業(yè)和市場發(fā)展新高點。“我們將不斷加快優(yōu)質(zhì)資源要素配置，有效整合創(chuàng)新資源，積極營造創(chuàng)新生態(tài)，夯實人工智能產(chǎn)業(yè)的發(fā)展基礎(chǔ)。”北京市經(jīng)濟和信息化局黨組書記、局長姜廣智表示，北京市已發(fā)布的通用人工智能產(chǎn)業(yè)創(chuàng)新伙伴名單中，有十余家算力伙伴計劃提供不少于4000P的低成本優(yōu)質(zhì)算力，供北京市人工智能中小企業(yè)開展大模型訓(xùn)練和推理。共10個伙伴開放了18個將近500T的高質(zhì)量數(shù)據(jù)集，供大模型企業(yè)訓(xùn)練使用，應(yīng)用伙伴全面覆蓋各行各業(yè)。
同時，北京市通用人工智能大模型應(yīng)用場景需求榜單發(fā)布，共涉及32個項目，涵蓋智慧政務(wù)、智慧辦公等14類場景。
“北京市政務(wù)服務(wù)管理局將在場景推進(jìn)、數(shù)據(jù)供給、模型訓(xùn)練、算力保障等方面積極推進(jìn)，推動大模型技術(shù)在政務(wù)服務(wù)領(lǐng)域落地應(yīng)用并盡快取得突破?！北本┦姓?wù)服務(wù)管理局副局長朱琴表示。
大模型的快速發(fā)展面臨著新的安全風(fēng)險挑戰(zhàn)
當(dāng)下，大語言模型引領(lǐng)創(chuàng)新浪潮席卷全球。相比于傳統(tǒng)人工智能模型，大語言模型掌握了更強的語言能力，能理解、有邏輯、會推理、有創(chuàng)作、有情感，具有更強的泛化和遷移能力。大語言模型在很多任務(wù)上已經(jīng)達(dá)到甚至超過人類的水平，使得通用人工智能的市場前景更加明朗。但與此同時，伴隨著大模型等人工智能產(chǎn)業(yè)的快速發(fā)展，也面臨新的安全風(fēng)險挑戰(zhàn)。
360公司創(chuàng)始人周鴻祎認(rèn)為，目前企業(yè)級場景落地大模型面臨數(shù)據(jù)安全隱患、無法保障內(nèi)容可信等問題。
清華大學(xué)人工智能研究院副院長朱軍表示，AIGC特別是ChatGPT出現(xiàn)以后，數(shù)據(jù)泄露、利用AIGC技術(shù)進(jìn)行詐騙、通過虛假內(nèi)容進(jìn)行黑產(chǎn)攻擊、代碼生成進(jìn)行網(wǎng)絡(luò)攻擊等人工智能安全問題越來越嚴(yán)重。
中國政法大學(xué)互聯(lián)網(wǎng)金融法律研究院院長李愛君表示，大模型、尤其是AIGC的快速發(fā)展，給人工智能安全、網(wǎng)絡(luò)安全帶來了新的挑戰(zhàn)?！艾F(xiàn)在最大的問題難點在于對責(zé)任主體的認(rèn)定難度越來越大”。
應(yīng)多維施策加大安全風(fēng)險防范治理力度
面對當(dāng)下安全風(fēng)險挑戰(zhàn)，朱軍認(rèn)為，應(yīng)針對算法原理、深度學(xué)習(xí)、深度神經(jīng)網(wǎng)絡(luò)等進(jìn)行研究，發(fā)展更加安全可靠的人工智能框架。同時，提升對對抗攻擊、角色扮演、誤導(dǎo)欺騙的識別和防御、數(shù)據(jù)投毒等問題的安全評測能力。
周鴻祎表示，大模型產(chǎn)業(yè)化需要遵循“安全、可信、可控”三個原則。他表示，安全方面，要注意網(wǎng)絡(luò)安全、數(shù)據(jù)安全、算法安全和生成內(nèi)容安全?？尚乓龅剿阉鞒C正、知識矯正、對齊訓(xùn)練，解決“幻覺”知識模糊等問題?？煽胤矫妫荒荞R上向大模型開放API、函數(shù)，要采取監(jiān)控審計手段，把大模型“關(guān)在籠子里”。
“我們已啟動金融、電信、教育、法律、電力、汽車、傳媒、政務(wù)等行業(yè)大模型標(biāo)準(zhǔn)的編制工作，圍繞技術(shù)能力、服務(wù)能力、應(yīng)用場景等方面形成評價指標(biāo)，全面評估行業(yè)大模型的綜合水平?！敝袊畔⑼ㄐ叛芯吭涸朴嬎闩c大數(shù)據(jù)研究所副所長魏凱說道。
李愛君認(rèn)為，要客觀評估大模型技術(shù)發(fā)展對人類生活的影響，進(jìn)一步加強數(shù)據(jù)底座安全意識，在數(shù)據(jù)層面進(jìn)行規(guī)范治理，強化責(zé)任主體意識，提升整體安全水平。“同時，進(jìn)一步完善相關(guān)法律法規(guī)，為大模型等人工智能行業(yè)的健康發(fā)展保駕護(hù)航”。
編輯：遲明緒
京公網(wǎng)安備 11010502000576號