中新經(jīng)緯6月12日電 據(jù)“網(wǎng)信上海”微信號(hào)12日消息，為貫徹落實(shí)中央網(wǎng)信辦“清朗?整治AI技術(shù)濫用”工作部署，4月下旬以來(lái)，上海市委網(wǎng)信辦聚焦6類突出問(wèn)題深入開(kāi)展第一階段專項(xiàng)行動(dòng)?，F(xiàn)向社會(huì)公布階段性工作成果：lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　全面清理整治違規(guī)AI產(chǎn)品和信息lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　上海市委網(wǎng)信辦指導(dǎo)小紅書(shū)、嗶哩嗶哩、拼多多等15家重點(diǎn)網(wǎng)站平臺(tái)，集中清理“一鍵脫衣”、未經(jīng)授權(quán)的人臉或人聲克隆編輯、未備案等違規(guī)AI產(chǎn)品、商品及相關(guān)營(yíng)銷、炒作、推廣、教程信息。小紅書(shū)、嗶哩嗶哩主動(dòng)發(fā)布專項(xiàng)行動(dòng)治理公告，開(kāi)通了有害AI內(nèi)容的舉報(bào)受理處置渠道；星野開(kāi)展智能體全面排查清理。各重點(diǎn)網(wǎng)站和AI平臺(tái)共攔截清理相關(guān)違法違規(guī)信息82萬(wàn)余條，處置違規(guī)賬號(hào)1400余個(gè)，下線違規(guī)智能體2700余個(gè)。經(jīng)整治，網(wǎng)絡(luò)違規(guī)AI信息顯著減少。lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　上海市委網(wǎng)信辦深化大模型合規(guī)指導(dǎo)服務(wù)中心作用，指導(dǎo)各類提供生成式人工智能服務(wù)的主體落實(shí)合規(guī)義務(wù)，強(qiáng)化安全評(píng)估，迄今已完成82款大模型備案，87款應(yīng)用登記。對(duì)3款未履行備案或登記程序提供服務(wù)且存在風(fēng)險(xiǎn)的應(yīng)用，依法約談并給予行政處罰。lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　提升AI平臺(tái)安全風(fēng)控能力lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　上海市委網(wǎng)信辦指導(dǎo)重點(diǎn)AI平臺(tái)加強(qiáng)技術(shù)源頭治理，深化自查自糾，加強(qiáng)訓(xùn)練語(yǔ)料管理機(jī)制，加強(qiáng)新版本新應(yīng)用上線、API接入應(yīng)用的安全管理，用好大模型能力持續(xù)提升安全水平，建立健全與業(yè)務(wù)規(guī)模相適應(yīng)的風(fēng)控機(jī)制。組織專業(yè)機(jī)構(gòu)對(duì)8家企業(yè)14款A(yù)I類應(yīng)用開(kāi)展了巡查測(cè)試，對(duì)部分重點(diǎn)平臺(tái)開(kāi)展現(xiàn)場(chǎng)檢查和上門指導(dǎo)，發(fā)現(xiàn)并督導(dǎo)整改優(yōu)化內(nèi)容審核、意圖識(shí)別等安全措施的薄弱環(huán)節(jié)。通過(guò)系統(tǒng)性排查和閉環(huán)整改，上海重點(diǎn)AI平臺(tái)和重點(diǎn)平臺(tái)AI應(yīng)用的合規(guī)性、安全可控性持續(xù)增強(qiáng)。lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　強(qiáng)化重點(diǎn)領(lǐng)域AI安全管理lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　針對(duì)關(guān)乎人民群眾“生命線”“錢袋子”和“未成年人保護(hù)”等社會(huì)高度關(guān)注的AI應(yīng)用，上海市委網(wǎng)信辦會(huì)同市衛(wèi)健委、金融監(jiān)管等主管部門，對(duì)申請(qǐng)備案、登記的垂域模型和應(yīng)用加強(qiáng)審核和業(yè)務(wù)指導(dǎo)，對(duì)33款已完成備案、登記提供醫(yī)療健康、金融、教育、情感陪伴服務(wù)的AI應(yīng)用開(kāi)展督導(dǎo)檢查，要求完善行業(yè)領(lǐng)域安全審核和控制機(jī)制，加強(qiáng)專業(yè)知識(shí)庫(kù)和檢索增強(qiáng)能力建設(shè)，提升輸出準(zhǔn)確性，防范虛假、誤導(dǎo)、誘導(dǎo)沉迷對(duì)患者、投資者、未成年人帶來(lái)的不良影響。lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　聯(lián)合市衛(wèi)健委，指導(dǎo)上海人工智能實(shí)驗(yàn)室舉辦了醫(yī)療大模型開(kāi)源評(píng)測(cè)社區(qū)上線發(fā)布會(huì)和上海網(wǎng)絡(luò)安全博覽會(huì)“醫(yī)學(xué)人工智能安全”論壇，面向全市各醫(yī)療機(jī)構(gòu)、醫(yī)療服務(wù)企業(yè)開(kāi)展AI安全宣貫和合規(guī)指導(dǎo)，依托上海市醫(yī)療大模型應(yīng)用檢測(cè)驗(yàn)證中心對(duì)16家機(jī)構(gòu)20個(gè)AI醫(yī)療場(chǎng)景開(kāi)展評(píng)估，結(jié)合模型安全性評(píng)價(jià)和業(yè)務(wù)驗(yàn)證，強(qiáng)化行業(yè)規(guī)范和倫理審查，指導(dǎo)安全加固，引導(dǎo)規(guī)范應(yīng)用。lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　強(qiáng)化AIGC標(biāo)識(shí)示范和全鏈條治理lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　上海市委網(wǎng)信辦將高標(biāo)準(zhǔn)落實(shí)《人工智能生成合成內(nèi)容標(biāo)識(shí)辦法》及配套強(qiáng)制性國(guó)家標(biāo)準(zhǔn)作為專項(xiàng)治理的關(guān)鍵抓手，切實(shí)保障公眾知情權(quán)。先后組織開(kāi)展了4場(chǎng)面向大模型企業(yè)、重點(diǎn)網(wǎng)站平臺(tái)、應(yīng)用企業(yè)的法規(guī)宣貫和專題交流，覆蓋企業(yè)400余家，深入解讀標(biāo)識(shí)要求和技術(shù)路徑，推動(dòng)企業(yè)從“要我落實(shí)”轉(zhuǎn)向“我要落實(shí)”。指導(dǎo)成立AIGC標(biāo)識(shí)生態(tài)聯(lián)盟，上海人工智能安全治理實(shí)驗(yàn)室聯(lián)合重點(diǎn)大模型企業(yè)、網(wǎng)站平臺(tái)，合力推進(jìn)標(biāo)識(shí)互認(rèn)、能力共享與標(biāo)準(zhǔn)協(xié)同。lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　圍繞“制作-傳播”環(huán)節(jié)，指導(dǎo)重點(diǎn)網(wǎng)站平臺(tái)加快配備顯式與隱式標(biāo)識(shí)功能，不斷提升AIGC內(nèi)容、AI高風(fēng)險(xiǎn)行為的檢測(cè)識(shí)別和治理能力。通過(guò)政策指導(dǎo)、生態(tài)協(xié)同與技術(shù)落地，稀宇科技、階躍星辰、通義、小紅書(shū)、嗶哩嗶哩、Soul等已基本完成顯式標(biāo)識(shí)規(guī)范上線，加快開(kāi)發(fā)上線隱式標(biāo)識(shí)和傳播鏈互認(rèn)驗(yàn)證，小紅書(shū)牽頭編制圖片模態(tài)元數(shù)據(jù)標(biāo)識(shí)實(shí)踐指南，上海標(biāo)識(shí)工作取得階段性成效。lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com

　　上海市委網(wǎng)信辦表示，將持續(xù)深化專項(xiàng)行動(dòng)，統(tǒng)籌技術(shù)治理、制度建設(shè)和生態(tài)優(yōu)化，強(qiáng)化對(duì)重點(diǎn)問(wèn)題、平臺(tái)、環(huán)節(jié)的常態(tài)化監(jiān)管，推動(dòng)智能向善。第二階段將聚焦AI造謠、低俗內(nèi)容等7類突出問(wèn)題加大整治力度，維護(hù)良好網(wǎng)絡(luò)生態(tài)。(中新經(jīng)緯APP)lyE即熱新聞——關(guān)注每天科技社會(huì)生活新變化gihot.com