2023年4月,國(guó)家互聯(lián)網(wǎng)信息辦公室發(fā)布了《生成式人工智能服務(wù)管理暫行辦法(征求意見(jiàn)稿)》,旨在促進(jìn)生成式人工智能(AIGC)技術(shù)的健康發(fā)展與規(guī)范應(yīng)用。對(duì)于從事計(jì)算機(jī)信息技術(shù)咨詢服務(wù)的專業(yè)人士而言,這不僅是一份監(jiān)管文件,更是一張理解未來(lái)技術(shù)應(yīng)用合規(guī)框架的路線圖。以下將從咨詢服務(wù)的專業(yè)視角,對(duì)該辦法的核心要點(diǎn)進(jìn)行梳理與解讀。
一、 核心目標(biāo):發(fā)展與安全并重
《辦法》開(kāi)宗明義,其首要目標(biāo)是“促進(jìn)生成式人工智能健康發(fā)展和規(guī)范應(yīng)用”。這體現(xiàn)了“在發(fā)展中規(guī)范,在規(guī)范中發(fā)展”的總體思路。對(duì)于技術(shù)咨詢服務(wù)而言,這意味著在為客戶規(guī)劃AIGC技術(shù)路線、設(shè)計(jì)應(yīng)用方案時(shí),必須將“安全可控”與“創(chuàng)新賦能”置于同等重要的位置,幫助客戶建立兼顧效能與合規(guī)的技術(shù)治理體系。
二、 適用范圍界定:聚焦“向公眾提供服務(wù)”
《辦法》明確了其規(guī)范對(duì)象是“利用生成式人工智能技術(shù)向中華人民共和國(guó)境內(nèi)公眾提供生成文本、圖片、音頻、視頻等內(nèi)容的服務(wù)”。這為咨詢服務(wù)提供了清晰的界定:
- 若客戶的業(yè)務(wù)是研發(fā)底層模型供自身使用或定向合作,其合規(guī)重點(diǎn)可能更偏向數(shù)據(jù)安全與算法倫理內(nèi)部治理。
- 若客戶的業(yè)務(wù)是面向公眾提供AIGC工具或集成服務(wù)(如營(yíng)銷文案生成、設(shè)計(jì)素材生成、智能客服等),則必須全面適用本辦法的各項(xiàng)要求。咨詢服務(wù)需要據(jù)此為客戶提供差異化的合規(guī)策略。
三、 服務(wù)提供者的主體責(zé)任:全鏈條合規(guī)義務(wù)
《辦法》為服務(wù)提供者設(shè)定了一系列貫穿訓(xùn)練、運(yùn)行、服務(wù)全鏈條的義務(wù),這是咨詢服務(wù)需要協(xié)助客戶構(gòu)建的核心合規(guī)框架:
- 數(shù)據(jù)來(lái)源合規(guī):訓(xùn)練數(shù)據(jù)必須合法,不得侵犯知識(shí)產(chǎn)權(quán),并需采取有效措施保障個(gè)人信息權(quán)益。咨詢服務(wù)應(yīng)協(xié)助客戶建立數(shù)據(jù)來(lái)源審核與版權(quán)治理機(jī)制。
- 內(nèi)容安全與算法透明:必須采取有效措施防止生成歧視性、虛假有害信息。鼓勵(lì)提升生成內(nèi)容的準(zhǔn)確性與可靠性。這意味著在技術(shù)方案中需內(nèi)置內(nèi)容過(guò)濾、事實(shí)核查等安全層,并對(duì)算法機(jī)制有一定程度的可解釋性設(shè)計(jì)。
- 用戶權(quán)益保護(hù):明確要求提供者保護(hù)用戶輸入信息和使用記錄,不得非法留存、泄露。需建立用戶身份認(rèn)證機(jī)制,并為用戶提供投訴舉報(bào)渠道。咨詢服務(wù)可幫助設(shè)計(jì)相應(yīng)的數(shù)據(jù)生命周期管理方案與用戶服務(wù)體系。
- 標(biāo)識(shí)義務(wù):生成內(nèi)容需進(jìn)行標(biāo)識(shí)。這對(duì)于所有集成AIGC功能的應(yīng)用(如寫作助手、設(shè)計(jì)軟件)都是必須履行的程序性要求,需要在產(chǎn)品設(shè)計(jì)中予以實(shí)現(xiàn)。
四、 對(duì)計(jì)算機(jī)信息技術(shù)咨詢服務(wù)的影響與機(jī)遇
- 新增專業(yè)服務(wù)需求:客戶將迫切需要咨詢服務(wù)來(lái)解讀法規(guī)、進(jìn)行合規(guī)差距分析、設(shè)計(jì)并實(shí)施合規(guī)技術(shù)方案(如數(shù)據(jù)治理、內(nèi)容安全過(guò)濾系統(tǒng)、用戶權(quán)益保護(hù)機(jī)制)。這開(kāi)辟了全新的“技術(shù)+合規(guī)”咨詢服務(wù)市場(chǎng)。
- 技術(shù)方案設(shè)計(jì)升級(jí):未來(lái)的AIGC應(yīng)用解決方案,必須將監(jiān)管要求作為核心架構(gòu)要素。咨詢服務(wù)需要從單純的技術(shù)選型與實(shí)施,轉(zhuǎn)向提供“技術(shù)-業(yè)務(wù)-合規(guī)”一體化的綜合解決方案。
- 風(fēng)險(xiǎn)咨詢價(jià)值凸顯:幫助客戶評(píng)估AIGC應(yīng)用的法律風(fēng)險(xiǎn)、倫理風(fēng)險(xiǎn)與社會(huì)風(fēng)險(xiǎn),制定風(fēng)險(xiǎn)緩解預(yù)案,將成為高價(jià)值的專業(yè)服務(wù)。
- 促進(jìn)產(chǎn)業(yè)生態(tài)優(yōu)化:《辦法》鼓勵(lì)采用安全可信的芯片、工具、算力和數(shù)據(jù)資源。咨詢服務(wù)可借此引導(dǎo)客戶構(gòu)建更自主可控、安全可信的技術(shù)棧,推動(dòng)產(chǎn)業(yè)鏈的健康發(fā)展。
五、 行動(dòng)建議
對(duì)于信息技術(shù)咨詢服務(wù)提供者及他們的客戶,當(dāng)前階段應(yīng):
- 深入學(xué)習(xí)與研究:組織團(tuán)隊(duì)精研《辦法》條文,關(guān)注其正式發(fā)布版本及后續(xù)配套細(xì)則。
- 開(kāi)展合規(guī)自查:對(duì)現(xiàn)有或計(jì)劃中的涉及AIGC的業(yè)務(wù)項(xiàng)目進(jìn)行全面的合規(guī)評(píng)估。
- 規(guī)劃合規(guī)架構(gòu):將數(shù)據(jù)治理、算法審核、內(nèi)容安全、用戶保護(hù)等要求,提前融入技術(shù)架構(gòu)與產(chǎn)品設(shè)計(jì)藍(lán)圖。
- 建立協(xié)同機(jī)制:在企業(yè)內(nèi)部,推動(dòng)技術(shù)研發(fā)、法務(wù)、風(fēng)控、業(yè)務(wù)部門的協(xié)同工作模式,以共同應(yīng)對(duì)AIGC帶來(lái)的綜合挑戰(zhàn)。
《生成式人工智能服務(wù)管理暫行辦法(征求意見(jiàn)稿)》的出臺(tái),標(biāo)志著我國(guó)AIGC領(lǐng)域進(jìn)入了“有序創(chuàng)新”的新階段。對(duì)于計(jì)算機(jī)信息技術(shù)咨詢行業(yè)而言,這不僅是必須遵循的規(guī)范,更是驅(qū)動(dòng)服務(wù)升級(jí)、創(chuàng)造新價(jià)值的重要機(jī)遇。主動(dòng)理解、適應(yīng)并幫助客戶駕馭這一監(jiān)管框架,將是專業(yè)服務(wù)者在人工智能時(shí)代構(gòu)建核心競(jìng)爭(zhēng)力的關(guān)鍵所在。
如若轉(zhuǎn)載,請(qǐng)注明出處:http://www.irgx.cn/product/74.html
更新時(shí)間:2026-02-09 08:41:16