亚洲国产精品一区二区美利坚,一女被多男玩喷潮视频,在线观看免费a∨网站,中文字幕 一区二区三区,亚洲区欧美区综合区自拍区

專訪呼娜英:AI安全“隱形戰(zhàn)場”上,如何破解全鏈條風(fēng)險?

4個月前 來源: 觀看:34

  中新經(jīng)緯2月18日電 (孫慶陽)“人工智能的安全與可用性面臨全鏈條、多維度交織的復(fù)雜風(fēng)險挑戰(zhàn),需通過國際合作、技術(shù)創(chuàng)新和標(biāo)準(zhǔn)制定來應(yīng)對?!苯?,中國信息通信研究院人工智能研究所高級業(yè)務(wù)主管呼娜英在巴黎人工智能(AI)行動峰會后接受中新經(jīng)緯專訪時表示,未來五到十年,人工智能技術(shù)將持續(xù)深化,增強(qiáng)語言大模型能力是重點(diǎn)方向。同時,多模態(tài)模型有望加速突破,提升圖文理解和跨模態(tài)交互能力。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英 受訪者供圖jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  網(wǎng)絡(luò)和框架是AI系統(tǒng)安全的根基jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  在最近的巴黎人工智能(AI)行動峰會上,AI安全性和可用性成為了全球AI產(chǎn)業(yè)人士的共同關(guān)注焦點(diǎn)。呼娜英指出,當(dāng)前AI在安全性和可用性方面面臨的是全鏈條、多維度相互交織的復(fù)雜風(fēng)險挑戰(zhàn)。隨著人工智能模型復(fù)雜度和規(guī)模的不斷提升,其訓(xùn)練、部署、應(yīng)用等關(guān)鍵環(huán)節(jié)中面臨的數(shù)據(jù)安全、網(wǎng)絡(luò)安全、框架安全、模型算法安全以及應(yīng)用平臺安全問題日益突出。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  在基礎(chǔ)設(shè)施方面,網(wǎng)絡(luò)安全和框架安全關(guān)乎整個AI系統(tǒng)的穩(wěn)定運(yùn)行根基。以DeepSeek為例,R1模型在剛剛上線提供服務(wù)后,便遭到大規(guī)模DDoS(分布式阻斷服務(wù))攻擊,導(dǎo)致服務(wù)中斷,用戶無法正常訪問。在數(shù)據(jù)方面,訓(xùn)練數(shù)據(jù)被“投毒”(通過惡意注入虛假或誤導(dǎo)性的數(shù)據(jù)來污染模型的訓(xùn)練數(shù)據(jù)集),以及訓(xùn)練使用敏感行業(yè)數(shù)據(jù)、個人隱私數(shù)據(jù)等,一旦數(shù)據(jù)被“投毒”,訓(xùn)練出的模型將產(chǎn)生偏差,做出錯誤決策,而敏感數(shù)據(jù)的不當(dāng)使用則可能引發(fā)嚴(yán)重的法律風(fēng)險和社會信任危機(jī)。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  在模型算法層面,以大模型為代表的生成式模型面臨嚴(yán)峻的越獄攻擊、提示詞注入攻擊等威脅,模型容易在用戶惡意操作下輸出違法有害或侵害權(quán)益的信息。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  此外,模型的“幻覺”(模型生成的不真實(shí)、編造或與上下文不一致的內(nèi)容)問題突出,也成為了制約人工智能產(chǎn)業(yè)化落地的重要因素。在應(yīng)用層面,人工智能技術(shù)容易被濫用和誤用,比如利用圖像生成技術(shù)偽造虛假新聞圖片誤導(dǎo)公眾,或在自動化決策系統(tǒng)中因算法偏見導(dǎo)致對特定群體的不公平對待,這些行為嚴(yán)重擾亂了正常的社會秩序與市場環(huán)境。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  如何顯著提升AI系統(tǒng)安全性?jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英強(qiáng)調(diào),全球均在探索風(fēng)險管理的可行路徑,針對人工智能風(fēng)險開展有效的“識別、評估、應(yīng)對”方案一定程度上成為共識。其中,最重要的一環(huán)是對于安全問題的檢測技術(shù)和防護(hù)手段。在檢測方面,一是形成對于開源框架、源代碼以及網(wǎng)絡(luò)等軟硬件基礎(chǔ)設(shè)施的漏洞挖掘技術(shù),精準(zhǔn)定位潛在隱患。特別是開源框架、代碼中存在的未被發(fā)現(xiàn)的漏洞,極易被利用實(shí)施大規(guī)模的攻擊和勒索。如去年年初,人工智能開源框架Ray被發(fā)現(xiàn)存在漏洞,并被攻擊人員利用攻擊數(shù)百個集群。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  二是形成數(shù)據(jù)“投毒”檢測技術(shù),用于守護(hù)訓(xùn)練數(shù)據(jù)的純凈性,防范通過訓(xùn)練的方式,在模型中埋入后門。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  三是建立大模型等模型算法漏洞自動化測試技術(shù),掃描算法中的薄弱環(huán)節(jié),快速生成測試報告。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  四是基于現(xiàn)有的自動化滲透技術(shù)能力,形成面向人臉識別、智能體等人工智能典型應(yīng)用的自動化滲透技術(shù)產(chǎn)品,模擬黑客攻擊,全方位探測應(yīng)用平臺的安全漏洞,充分發(fā)掘人工智能各方面的安全風(fēng)險。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英還指出,在防護(hù)層面,需要探索軟硬件基礎(chǔ)設(shè)施的漏洞自動化修復(fù)技術(shù),自動修復(fù)受損代碼,降低安全風(fēng)險。此外,還可以探索實(shí)踐模型漏洞自動化微調(diào)和加固技術(shù),對模型進(jìn)行自動化優(yōu)化,增強(qiáng)其抵御攻擊的能力,保障人工智能系統(tǒng)穩(wěn)定、安全地運(yùn)行。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  中國智慧引領(lǐng)未來AI治理新格局jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英認(rèn)為,推動人工智能安全治理合作依然是勢不可擋的,也是確有必要的。人工智能的開發(fā)、部署和使用具有全球化特征,人工智能技術(shù)的應(yīng)用與影響并非局限于某一地區(qū)或國家,而是深刻影響全球社會、經(jīng)濟(jì)和政治秩序。為人類共同未來建立務(wù)實(shí)可行的國際對話與合作機(jī)制,需要多方努力。未來,國際社會應(yīng)在聯(lián)合國框架下凝聚各方共識,依托國際標(biāo)準(zhǔn)化組織深化技術(shù)標(biāo)準(zhǔn)協(xié)同,務(wù)實(shí)推進(jìn)人工智能安全治理工作。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  一直以來,中國在全球人工智能治理領(lǐng)域積極作為并推動加強(qiáng)國際合作。例如,中國信通院積極參與國際標(biāo)準(zhǔn)制定,發(fā)起《人工智能安全承諾》促進(jìn)行業(yè)自律,下一步將依托工業(yè)和信息化部人工智能技術(shù)標(biāo)準(zhǔn)委員會,持續(xù)完善國內(nèi)標(biāo)準(zhǔn)體系,推動安全測試、風(fēng)險評估、可信要求等技術(shù)規(guī)范轉(zhuǎn)化為國際共識,促進(jìn)技術(shù)標(biāo)準(zhǔn)和指引的深入實(shí)踐與應(yīng)用。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英預(yù)測,未來五到十年內(nèi),人工智能技術(shù)將持續(xù)深化演進(jìn)。一方面,增強(qiáng)語言大模型能力仍是技術(shù)升級的重點(diǎn)方向之一,推理或?qū)@得更多關(guān)注和資源投入。另一方面,多模態(tài)模型有望加速突破,從以語言大模型為骨干的多模態(tài)模型,向原生多模態(tài)模型演變,提升圖文理解和跨模態(tài)交互能力。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英認(rèn)為,在安全與可用性方面,以下趨勢值得關(guān)注:在風(fēng)險識別方面,隨著人工智能技術(shù)日益融入經(jīng)濟(jì)社會發(fā)展各領(lǐng)域全過程,其安全風(fēng)險面不斷擴(kuò)大,對人工智能安全風(fēng)險識別方法論的研究將不斷完善,從而催生更加敏捷、精準(zhǔn)的安全風(fēng)險識別機(jī)制。在風(fēng)險應(yīng)對方面,對算法模型毒性、魯棒性、公平性等方面的評測技術(shù)工具研究將不斷加強(qiáng),將人工智能基礎(chǔ)設(shè)施、算法模型、上層應(yīng)用以及產(chǎn)業(yè)鏈等方面作為評估重點(diǎn),并在機(jī)制方案上動態(tài)迭代、技術(shù)能力上持續(xù)提升,從而有效防范和應(yīng)對治理風(fēng)險。(中新經(jīng)緯APP)jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  中新經(jīng)緯版權(quán)所有,未經(jīng)授權(quán),不得轉(zhuǎn)載或以其他方式使用。jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

責(zé)任編輯:張芷菡jA3即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

本文鏈接:http://m.enbeike.cn/news-4-2427-0.html專訪呼娜英:AI安全“隱形戰(zhàn)場”上,如何破解全鏈條風(fēng)險?

聲明:本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn),不代表本站觀點(diǎn),本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅,請大家謹(jǐn)防詐騙!若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。

上一篇:楊立釩:DeepSeek“逆襲”電商,成本地部署“黑馬”

下一篇:國家發(fā)改委:對民企反映的困難問題將精準(zhǔn)施策助企紓困

為你推薦
新華社北京1月21日電(記者張辛欣、張曉潔)工業(yè)和信息化部副部長張?jiān)泼髟?1日國新辦舉行的“中國經(jīng)濟(jì)高質(zhì)量發(fā)展成效”系列新聞發(fā)布會上表示,我國已有570多家工業(yè)企業(yè)入圍全球研...
01-22
  中新經(jīng)緯1月20日電 題:數(shù)字經(jīng)濟(jì)將引領(lǐng)產(chǎn)業(yè)合作新模式  作者 朱巖 清華大學(xué)互聯(lián)網(wǎng)產(chǎn)業(yè)研究院院長  數(shù)字經(jīng)濟(jì)步入高速發(fā)展快車道。2024年7月黨的二十屆三中全會明確了...
01-21
1 月 23 日消息,阿維塔 06 的實(shí)車圖在網(wǎng)上曝光,這款定位中型車的新車預(yù)計將在今年第二季度正式上市。從曝光的照片來看,阿維塔 06 提供了多種大膽的配色方案,包括紫色、...
01-24
“若前方無路,我便踏出一條路;若天理不容,我便扭轉(zhuǎn)這乾坤?!彪娪啊赌倪?》開年“王炸”,讓人看到了哪吒打破命運(yùn),勇敢做自己,最終活出自我的過程。新年剛過,國內(nèi)車市異?!伴_卷”,...
02-06
  1、《難哄》溫以凡經(jīng)歷了父親重病去世,母親改嫁,自己在大伯家過著寄人籬下的生活,還被大伯的親戚猥褻欺負(fù)?! ?、這些不幸的經(jīng)歷都對溫以凡的性格產(chǎn)生了很大的影響,她變...
02-15
近期,《白色橄欖樹》風(fēng)靡全網(wǎng),播出后反響熱烈。網(wǎng)友們對這部劇的討論熱度不斷攀升,紛紛在各大論壇上展開熱議,許多人想了解其中的具體內(nèi)容和劇情細(xì)節(jié)。今天將詳...
02-19
  “在基本醫(yī)?,F(xiàn)有的甲乙分類基礎(chǔ)上,我們正在研究制定丙類藥品目錄,這是完善我國醫(yī)療保障藥品...
01-21
這里是《21健訊Daily》,歡迎與21世紀(jì)經(jīng)濟(jì)報道新健康團(tuán)隊(duì)共同關(guān)注醫(yī)藥健康行業(yè)最新事件!政策動向國家醫(yī)保局預(yù)設(shè)“互聯(lián)網(wǎng)首診”價格項(xiàng)目日前,...
01-24
  大眾網(wǎng)記者 楊濤報道  日前,第十七屆山東省職業(yè)院校技能大賽高職組“健身指導(dǎo)”賽項(xiàng)結(jié)果出爐,青島港灣職業(yè)技術(shù)學(xué)院代表隊(duì)?wèi){借出色的團(tuán)隊(duì)表現(xiàn)和創(chuàng)新的活動設(shè)計,獲第6...
01-21
本報北京12月10日電 (記者閆伊喬)近日,教育部等七部門聯(lián)合印發(fā)《進(jìn)一步加強(qiáng)尊師惠師工作的若干措施》,進(jìn)一...
01-21
  近日,又有一家消費(fèi)金融公司收到監(jiān)管罰單?! 「鶕?jù)國家金融監(jiān)督管理總局四川監(jiān)管局開出的罰...
01-22
  償付能力是對保險公司各類風(fēng)險的綜合判斷,償付能力監(jiān)管是預(yù)警和監(jiān)測保險業(yè)風(fēng)險的重要抓手。...
01-23
雙子男是一個善于交際、機(jī)智聰明的星座,他們通常能夠與人輕松相處并保持積極的態(tài)度。然...
01-22
獅子座男生通常具有自信、熱情和領(lǐng)導(dǎo)力,他們喜歡被關(guān)注和贊美。如果你想吸引一個獅子座...
01-22
童裝搭配技巧? 童裝搭配文案?一、童裝搭配技巧?童裝怎么樣搭配!1,首先是看兒童的膚色選擇深淺,2,兒童的胖瘦選擇衣服,3,兒童的喜愛選擇,4顏色深淺錯開搭配,5舒適寬松二、童裝搭配文案?1....
02-07
橙色裙子怎么搭配圖片欣賞?一、橙色裙子怎么搭配圖片欣賞?淺橙色與白色搭配  淺橙色是橙色中加入了較多的白色,給人一種甜膩膩的感覺。與白色搭配,清新亮麗,美麗脫俗。更有陽光...
02-12
2月15日消息,字節(jié)跳動日前舉辦新一期的All Hands全員會,字節(jié)CEO梁汝波、CFO高準(zhǔn)、人力資源負(fù)責(zé)人華巍、電商業(yè)務(wù)負(fù)責(zé)人康澤宇、AI業(yè)務(wù)負(fù)責(zé)人朱文佳、TikTok CEO周受資與全體員...
02-15
2月17日消息,豬八戒網(wǎng)旗下江西八戒創(chuàng)新資源近日收到了“高新技術(shù)企業(yè)”證書紙質(zhì)件,標(biāo)志著該公司再次獲批高新技術(shù)企業(yè)。圖源:豬八戒網(wǎng)頭條公眾號江西八戒創(chuàng)新資源是豬八戒網(wǎng)企...
02-18
與生豬養(yǎng)殖龍頭牧原股份(002714.SZ,下稱“牧原”)合作16年的養(yǎng)殖戶常先云,準(zhǔn)備與牧原對簿公堂,并索賠約686.75萬元。常先云是河南省南...
02-07
2月27日消息,“渝新同行·渝路美好”中共重慶市委社會工作部與美團(tuán)合作啟動活動日前舉行,會上發(fā)布三個項(xiàng)目,包括新就業(yè)群體社會工作服務(wù)項(xiàng)目、“袋鼠寶貝之家”項(xiàng)目、美團(tuán)鄉(xiāng)村...
03-01
近日,流程工業(yè)一體化方案解決商廣東智子智能技術(shù)有限公司(以下稱“智子智能”)完成近億元融資,由達(dá)晨財智領(lǐng)投,蘇創(chuàng)投·國發(fā)創(chuàng)投跟投。據(jù)了解,本輪融資...
02-07
在全球經(jīng)貿(mào)環(huán)境遭遇寒流,多國貿(mào)易活動陷入低迷之際,中國外貿(mào)猶如一艘巨輪,破浪前行,展現(xiàn)出非凡的韌性和增長潛力。作為世界第二大經(jīng)濟(jì)體,中國外貿(mào)不僅是國內(nèi)經(jīng)濟(jì)增長的重要支柱,更...
02-09
雖然黑曜石希望玩家在《宣誓》的整個游戲過程中都能感受到成長,但該開發(fā)商也不希望這款角色扮演游戲“開局就給人糟糕的體驗(yàn)”。因此,其理念是通過游戲界面對攻...
02-02
2025年開年最成功的中世紀(jì)背景角色扮演游戲《天國:拯救2》,目前已在Steam平臺連續(xù)兩周登頂銷量榜榜首,在線峰值也突破了25萬人。 近日有玩家發(fā)現(xiàn)這款熱門游戲還...
02-13
據(jù)西安頭條2月5日消息,陜西省第十一屆人大常委會副主任,陜西省政府原副省長,陜西省總工會原主席黨組書記,著名作家白阿瑩同志因病醫(yī)治無效,于2025年2月5日9時56分在西安逝世,享年7...
02-06
今年以來,黃金價格持續(xù)呈現(xiàn)上漲趨勢。最近幾天,國際金價屢創(chuàng)新高,金飾品的價格也隨之上漲。現(xiàn)在黃金市場的整體情況怎么樣?記者第一時間來到黃金市場進(jìn)行探訪。在全國最大的黃金...
02-08
  科技日報記者 楊雪  1月8日,“2025環(huán)球時報年會——新質(zhì)生產(chǎn)力產(chǎn)業(yè)實(shí)踐洞見活動”在北京舉...
01-21
1月16日,記者從寧波華儀寧創(chuàng)智能科技有限公司獲悉,該公司研制的單細(xì)胞代謝物分析質(zhì)譜儀近日入選浙江省經(jīng)濟(jì)和信息化廳、浙江省財政廳印發(fā)的《2024年...
01-21
  近日,載有南美進(jìn)口水果的“演奏者”輪在大連集裝箱碼頭開啟卸船作業(yè),裝有4400噸新鮮車?yán)遄雍?00噸藍(lán)...
01-21
  2024年,我省全鏈條貫穿、全年無斷線,做實(shí)高校畢業(yè)生等青年群體就業(yè)服務(wù),人才回流態(tài)勢持續(xù)保持,全省城鎮(zhèn)...
01-23
返回

點(diǎn)擊右上角微信好友

朋友圈

點(diǎn)擊瀏覽器下方“”分享微信好友Safari瀏覽器請點(diǎn)擊“”按鈕

點(diǎn)擊右上角QQ

點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕