人民網(wǎng)訊：今年以來，國內(nèi)人工智能領域爆發(fā)“群模大戰(zhàn)”，業(yè)界三句話不離“大模型”；截至今年5月底，國內(nèi)10億參數(shù)規(guī)模以上的大模型已發(fā)布79個；與人“對話”、翻唱歌曲、編寫劇本、撰寫合同，生成式人工智能（AIGC）不斷刷新人類認知，照進現(xiàn)實生活……

生成式人工智能技術，是指具有文本、圖片、音頻、視頻等內(nèi)容生成能力的模型及相關技術。發(fā)展一路“狂飆”的同時，生成式人工智能應用也伴生了真假難辨、換臉詐騙等諸多亂象。

近日，為促進生成式人工智能健康發(fā)展和規(guī)范應用，維護國家安全和社會公共利益，保護公民、法人和其他組織的合法權(quán)益，國家網(wǎng)信辦等七部門聯(lián)合公布《生成式人工智能服務管理暫行辦法》（以下簡稱《辦法》），自2023年8月15日起施行。

如何用好法治之“舵”、創(chuàng)新之“槳”，更好地釋放生成式人工智能創(chuàng)新活力，指引人工智能產(chǎn)業(yè)發(fā)展行穩(wěn)致遠？對此，人民網(wǎng)記者采訪了相關行業(yè)專家。

提出“不適用”場景 為創(chuàng)新發(fā)展留足空間

與今年4月發(fā)布的《生成式人工智能服務管理辦法（征求意見稿）》（以下簡稱《征求意見稿》）相比，《辦法》在規(guī)制對象上作出了調(diào)整。

《辦法》第二條明確提出了“不適用”場景，即“行業(yè)組織、企業(yè)、教育和科研機構(gòu)、公共文化機構(gòu)、有關專業(yè)機構(gòu)等研發(fā)、應用生成式人工智能技術，未向境內(nèi)公眾提供生成式人工智能服務的，不適用本辦法的規(guī)定?！?/p>

“此提法可以講是一個重大突破?！眰鞑?nèi)容認知全國重點實驗室研究員郭俊波指出，這說明《辦法》的目的是兼顧生成式人工智能的發(fā)展與安全，為生成式人工智能的研究與發(fā)展留足空間。

他同時指出，與《征求意見稿》相比，《辦法》依據(jù)的法律還增加了《中華人民共和國科學技術進步法》，更加突出了其目的是促進生成式人工智能健康發(fā)展和規(guī)范應用。

北京大成律師事務所高級合伙人肖颯也坦言，《辦法》提出“不適用”場景 ，讓規(guī)制對象目標更明確、針對性更強，體現(xiàn)出我國對生成式人工智能在研究與應用方面的支持和鼓勵。

此外，《辦法》在處罰措施方面也較為“柔和”?！掇k法》第二十一條提出，提供者違反本辦法規(guī)定的，由有關主管部門依照《中華人民共和國網(wǎng)絡安全法》等法律、行政法規(guī)的規(guī)定予以處罰；法律、行政法規(guī)沒有規(guī)定的，由有關主管部門依據(jù)職責予以警告、通報批評，責令限期改正；拒不改正或者情節(jié)嚴重的，責令暫停提供相關服務。

“第二十一條采用的是逐漸加重的處罰措施，允許服務提供者不斷完善修正，而不是簡單的‘一棍子打死’?！惫〔ㄕJ為，生成式人工智能的應用范圍極廣，充分“松綁”將有助于推動人工智能領域各組織機構(gòu)快速進行技術革新，并探索技術在各應用場景下的磨合與演進，進而促進生成式人工智能產(chǎn)業(yè)繁榮發(fā)展。

劃出“紅線”、明確“標識” 力保個人信息安全

前段時間，我國某地警方公布，有詐騙分子運用人工智能技術，通過換臉視頻與受害者進行視頻通話，十多分鐘內(nèi)詐騙受害者數(shù)百萬元。隨著人工智能與日常生活場景結(jié)合越來越密切，在此基礎上產(chǎn)生的隱私泄露、造謠詐騙等問題也不斷凸顯。對此，《辦法》將保護使用者的個人信息安全擺在了重要位置。

《辦法》第九條提出，生成式人工智能服務提供者應當依法承擔網(wǎng)絡信息內(nèi)容生產(chǎn)者責任，履行網(wǎng)絡信息安全義務。“這就將生成式人工智能服務提供者明確納入了網(wǎng)絡平臺責任的規(guī)制范圍內(nèi)，讓違規(guī)違法者無灰色地帶可躲?！毙わS說。

同時，《辦法》第十一條要求服務提供者不得收集非必要個人信息，不得非法留存能夠識別使用者身份的輸入信息和使用記錄，不得非法向他人提供使用者的輸入信息和使用記錄?！掇k法》第十四條提出，提供者發(fā)現(xiàn)違法內(nèi)容的，應當及時采取停止生成、停止傳輸、消除等處置措施并采取模型優(yōu)化訓練等措施進行整改。

而針對目前生成式人工智能內(nèi)容難以被分辨，甚至出現(xiàn)技術被濫用、誤用等問題，《辦法》明確服務提供者應當按照《互聯(lián)網(wǎng)信息服務深度合成管理規(guī)定》對相關生成內(nèi)容進行標識。

郭俊波提醒，“標識的作用在于警示和提醒用戶，該內(nèi)容是由AI生成的，但不能保證內(nèi)容的真實性?！毙わS則表示，“目前來看，標識人工生成、深度合成的內(nèi)容，是成本最低且有望從根本杜絕上述相關問題的方法。”

擴展公共訓練數(shù)據(jù) 指引行業(yè)發(fā)展行穩(wěn)致遠

伴隨全球生成式人工智能技術迭代，更“聰明”的大模型必將滲透進更多的產(chǎn)業(yè)領域和生活場景。當前，如何進一步抓住產(chǎn)業(yè)變革機遇，推動行業(yè)發(fā)展行穩(wěn)致遠，備受各界關注。

國家網(wǎng)信辦有關負責人表示，《辦法》明確鼓勵生成式人工智能技術在各行業(yè)、各領域的創(chuàng)新應用，生成積極健康、向上向善的優(yōu)質(zhì)內(nèi)容，探索優(yōu)化應用場景，構(gòu)建應用生態(tài)體系。

“當前我國生成式人工智能技術處于追趕階段，不發(fā)展是最大的不安全。”郭俊波指出，《辦法》提出“對生成式人工智能服務實行包容審慎和分類分級監(jiān)管”，將加速國內(nèi)生成式人工智能技術落地。以國內(nèi)龐大的用戶數(shù)量為依托，國內(nèi)生成式人工智能有望迅速積累真實數(shù)據(jù)，帶動對技術的迭代與優(yōu)化，促進人工智能的創(chuàng)新和發(fā)展。

值得注意的是，在促進產(chǎn)業(yè)發(fā)展方面，《辦法》具體提出，“鼓勵生成式人工智能算法、框架、芯片及配套軟件平臺等基礎技術的自主創(chuàng)新，平等互利開展國際交流與合作，參與生成式人工智能相關國際規(guī)則制定?！蓖瑫r，《辦法》還提出“推動公共數(shù)據(jù)分類分級有序開放，擴展高質(zhì)量的公共訓練數(shù)據(jù)資源?！?/p>

“這體現(xiàn)出國家對生成式人工智能發(fā)展持看好的態(tài)度?！痹谛わS看來，數(shù)據(jù)壁壘以及龐大的公共數(shù)據(jù)閑置，是妨礙生成式人工智能發(fā)展的兩個關鍵性問題?！掇k法》實施后，將有望大幅擴充人工智能訓練數(shù)據(jù)庫，極大促進我國人工智能應用的深度與廣度。

郭俊波坦言，大模型時代，訓練一個動輒上千億參數(shù)的模型需要海量算力資源，加之長期以來中文領域開放的高質(zhì)量數(shù)據(jù)集在數(shù)量上落后于英文，限制了以中文為語料的人工智能技術水平的進一步提升?！掇k法》的出臺，有助于推動算力、數(shù)據(jù)等人工智能底層基礎資源的開放共享、提量增質(zhì)。

“預計下一步，監(jiān)管部門還將會針對某些特定領域，如醫(yī)療、金融等，根據(jù)行業(yè)法規(guī)，對其領域的生成式人工智能做出相應規(guī)范?！惫〔ㄕf。