亚洲国产精品一区二区美利坚,一女被多男玩喷潮视频,在线观看免费a∨网站,中文字幕 一区二区三区,亚洲区欧美区综合区自拍区

專訪呼娜英:AI安全“隱形戰(zhàn)場”上,如何破解全鏈條風(fēng)險?

4個月前 來源: 觀看:35

  中新經(jīng)緯2月18日電 (孫慶陽)“人工智能的安全與可用性面臨全鏈條、多維度交織的復(fù)雜風(fēng)險挑戰(zhàn),需通過國際合作、技術(shù)創(chuàng)新和標(biāo)準(zhǔn)制定來應(yīng)對?!苯?,中國信息通信研究院人工智能研究所高級業(yè)務(wù)主管呼娜英在巴黎人工智能(AI)行動峰會后接受中新經(jīng)緯專訪時表示,未來五到十年,人工智能技術(shù)將持續(xù)深化,增強(qiáng)語言大模型能力是重點(diǎn)方向。同時,多模態(tài)模型有望加速突破,提升圖文理解和跨模態(tài)交互能力。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英 受訪者供圖F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  網(wǎng)絡(luò)和框架是AI系統(tǒng)安全的根基F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  在最近的巴黎人工智能(AI)行動峰會上,AI安全性和可用性成為了全球AI產(chǎn)業(yè)人士的共同關(guān)注焦點(diǎn)。呼娜英指出,當(dāng)前AI在安全性和可用性方面面臨的是全鏈條、多維度相互交織的復(fù)雜風(fēng)險挑戰(zhàn)。隨著人工智能模型復(fù)雜度和規(guī)模的不斷提升,其訓(xùn)練、部署、應(yīng)用等關(guān)鍵環(huán)節(jié)中面臨的數(shù)據(jù)安全、網(wǎng)絡(luò)安全、框架安全、模型算法安全以及應(yīng)用平臺安全問題日益突出。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  在基礎(chǔ)設(shè)施方面,網(wǎng)絡(luò)安全和框架安全關(guān)乎整個AI系統(tǒng)的穩(wěn)定運(yùn)行根基。以DeepSeek為例,R1模型在剛剛上線提供服務(wù)后,便遭到大規(guī)模DDoS(分布式阻斷服務(wù))攻擊,導(dǎo)致服務(wù)中斷,用戶無法正常訪問。在數(shù)據(jù)方面,訓(xùn)練數(shù)據(jù)被“投毒”(通過惡意注入虛假或誤導(dǎo)性的數(shù)據(jù)來污染模型的訓(xùn)練數(shù)據(jù)集),以及訓(xùn)練使用敏感行業(yè)數(shù)據(jù)、個人隱私數(shù)據(jù)等,一旦數(shù)據(jù)被“投毒”,訓(xùn)練出的模型將產(chǎn)生偏差,做出錯誤決策,而敏感數(shù)據(jù)的不當(dāng)使用則可能引發(fā)嚴(yán)重的法律風(fēng)險和社會信任危機(jī)。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  在模型算法層面,以大模型為代表的生成式模型面臨嚴(yán)峻的越獄攻擊、提示詞注入攻擊等威脅,模型容易在用戶惡意操作下輸出違法有害或侵害權(quán)益的信息。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  此外,模型的“幻覺”(模型生成的不真實(shí)、編造或與上下文不一致的內(nèi)容)問題突出,也成為了制約人工智能產(chǎn)業(yè)化落地的重要因素。在應(yīng)用層面,人工智能技術(shù)容易被濫用和誤用,比如利用圖像生成技術(shù)偽造虛假新聞圖片誤導(dǎo)公眾,或在自動化決策系統(tǒng)中因算法偏見導(dǎo)致對特定群體的不公平對待,這些行為嚴(yán)重擾亂了正常的社會秩序與市場環(huán)境。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  如何顯著提升AI系統(tǒng)安全性?F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英強(qiáng)調(diào),全球均在探索風(fēng)險管理的可行路徑,針對人工智能風(fēng)險開展有效的“識別、評估、應(yīng)對”方案一定程度上成為共識。其中,最重要的一環(huán)是對于安全問題的檢測技術(shù)和防護(hù)手段。在檢測方面,一是形成對于開源框架、源代碼以及網(wǎng)絡(luò)等軟硬件基礎(chǔ)設(shè)施的漏洞挖掘技術(shù),精準(zhǔn)定位潛在隱患。特別是開源框架、代碼中存在的未被發(fā)現(xiàn)的漏洞,極易被利用實(shí)施大規(guī)模的攻擊和勒索。如去年年初,人工智能開源框架Ray被發(fā)現(xiàn)存在漏洞,并被攻擊人員利用攻擊數(shù)百個集群。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  二是形成數(shù)據(jù)“投毒”檢測技術(shù),用于守護(hù)訓(xùn)練數(shù)據(jù)的純凈性,防范通過訓(xùn)練的方式,在模型中埋入后門。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  三是建立大模型等模型算法漏洞自動化測試技術(shù),掃描算法中的薄弱環(huán)節(jié),快速生成測試報告。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  四是基于現(xiàn)有的自動化滲透技術(shù)能力,形成面向人臉識別、智能體等人工智能典型應(yīng)用的自動化滲透技術(shù)產(chǎn)品,模擬黑客攻擊,全方位探測應(yīng)用平臺的安全漏洞,充分發(fā)掘人工智能各方面的安全風(fēng)險。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英還指出,在防護(hù)層面,需要探索軟硬件基礎(chǔ)設(shè)施的漏洞自動化修復(fù)技術(shù),自動修復(fù)受損代碼,降低安全風(fēng)險。此外,還可以探索實(shí)踐模型漏洞自動化微調(diào)和加固技術(shù),對模型進(jìn)行自動化優(yōu)化,增強(qiáng)其抵御攻擊的能力,保障人工智能系統(tǒng)穩(wěn)定、安全地運(yùn)行。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  中國智慧引領(lǐng)未來AI治理新格局F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英認(rèn)為,推動人工智能安全治理合作依然是勢不可擋的,也是確有必要的。人工智能的開發(fā)、部署和使用具有全球化特征,人工智能技術(shù)的應(yīng)用與影響并非局限于某一地區(qū)或國家,而是深刻影響全球社會、經(jīng)濟(jì)和政治秩序。為人類共同未來建立務(wù)實(shí)可行的國際對話與合作機(jī)制,需要多方努力。未來,國際社會應(yīng)在聯(lián)合國框架下凝聚各方共識,依托國際標(biāo)準(zhǔn)化組織深化技術(shù)標(biāo)準(zhǔn)協(xié)同,務(wù)實(shí)推進(jìn)人工智能安全治理工作。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  一直以來,中國在全球人工智能治理領(lǐng)域積極作為并推動加強(qiáng)國際合作。例如,中國信通院積極參與國際標(biāo)準(zhǔn)制定,發(fā)起《人工智能安全承諾》促進(jìn)行業(yè)自律,下一步將依托工業(yè)和信息化部人工智能技術(shù)標(biāo)準(zhǔn)委員會,持續(xù)完善國內(nèi)標(biāo)準(zhǔn)體系,推動安全測試、風(fēng)險評估、可信要求等技術(shù)規(guī)范轉(zhuǎn)化為國際共識,促進(jìn)技術(shù)標(biāo)準(zhǔn)和指引的深入實(shí)踐與應(yīng)用。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英預(yù)測,未來五到十年內(nèi),人工智能技術(shù)將持續(xù)深化演進(jìn)。一方面,增強(qiáng)語言大模型能力仍是技術(shù)升級的重點(diǎn)方向之一,推理或?qū)@得更多關(guān)注和資源投入。另一方面,多模態(tài)模型有望加速突破,從以語言大模型為骨干的多模態(tài)模型,向原生多模態(tài)模型演變,提升圖文理解和跨模態(tài)交互能力。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  呼娜英認(rèn)為,在安全與可用性方面,以下趨勢值得關(guān)注:在風(fēng)險識別方面,隨著人工智能技術(shù)日益融入經(jīng)濟(jì)社會發(fā)展各領(lǐng)域全過程,其安全風(fēng)險面不斷擴(kuò)大,對人工智能安全風(fēng)險識別方法論的研究將不斷完善,從而催生更加敏捷、精準(zhǔn)的安全風(fēng)險識別機(jī)制。在風(fēng)險應(yīng)對方面,對算法模型毒性、魯棒性、公平性等方面的評測技術(shù)工具研究將不斷加強(qiáng),將人工智能基礎(chǔ)設(shè)施、算法模型、上層應(yīng)用以及產(chǎn)業(yè)鏈等方面作為評估重點(diǎn),并在機(jī)制方案上動態(tài)迭代、技術(shù)能力上持續(xù)提升,從而有效防范和應(yīng)對治理風(fēng)險。(中新經(jīng)緯APP)F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

  中新經(jīng)緯版權(quán)所有,未經(jīng)授權(quán),不得轉(zhuǎn)載或以其他方式使用。F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

責(zé)任編輯:張芷菡F4i即熱新聞——關(guān)注每天科技社會生活新變化gihot.com

本文鏈接:http://m.enbeike.cn/news-4-2427-0.html專訪呼娜英:AI安全“隱形戰(zhàn)場”上,如何破解全鏈條風(fēng)險?

聲明:本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn),不代表本站觀點(diǎn),本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅,請大家謹(jǐn)防詐騙!若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系,我們將在第一時間刪除處理。

上一篇:楊立釩:DeepSeek“逆襲”電商,成本地部署“黑馬”

下一篇:國家發(fā)改委:對民企反映的困難問題將精準(zhǔn)施策助企紓困

為你推薦
福建即將迎來一所新院校。 近日,據(jù)教育部網(wǎng)站消息,擬同意設(shè)置北京科技職業(yè)大學(xué)、淄博職業(yè)技術(shù)大學(xué)、酒泉職業(yè)技術(shù)大學(xué)等14所學(xué)校。...
01-21
現(xiàn)代快報訊(記者劉偉娟文/攝)票價8.5元,行程4小時41分鐘,你會從南京硬坐到上海嗎?1月21日,現(xiàn)代快報記者從鐵路12306獲悉,部分硬座票“骨折價”,引起網(wǎng)友關(guān)注。鐵路12306顯示,南京到上...
01-22
1 月 23 日消息,小鵬汽車昨晚正式推送AI 天璣 5.5.0,支持“車位到車位”(先鋒版),并對智駕功能進(jìn)行了多項優(yōu)化。整理如下:“車位到車位”(先鋒版):地庫、閘機(jī)、園區(qū)、城市道...
01-23
  近期,國家發(fā)展改革委和財政部發(fā)布了《關(guān)于2025年加力擴(kuò)圍實(shí)施大規(guī)模設(shè)備更新和消費(fèi)品以舊換...
01-24
《難哄》穆承允說了什么?穆承允結(jié)局是什么?在《難哄》中,穆承允說過的話雖沒有大面積的詳細(xì)描寫,但有一些關(guān)鍵話語能體現(xiàn)他的人物特點(diǎn)和相關(guān)情節(jié)對溫以凡表達(dá)關(guān)...
02-19
最近幾天,《漫城》這部備受期待的新劇終于開播,熱度居高不下,在各大社交平臺上頻繁登上熱搜。劇中講述了禾蕊與白筱朵在繁華且充滿競爭的城市中的友情故事,以及...
02-20
這里是《21健訊Daily》,歡迎與21世紀(jì)經(jīng)濟(jì)報道新健康團(tuán)隊共同關(guān)注醫(yī)藥健康行業(yè)最新事件!政策動向國家藥監(jiān)局:簡化港澳已上市傳統(tǒng)口服中成藥內(nèi)...
01-22
21世紀(jì)經(jīng)濟(jì)報道記者林昀肖 實(shí)習(xí)生蘇洋 北京報道 2月6日,香雪制藥發(fā)布《關(guān)于被債權(quán)人申請預(yù)重整的提示性公告》(以下簡稱《提示性公告》)。其...
02-09
1月17日,教育部黨組在華北電力大學(xué)宣布了有關(guān)任免決定,汪慶華同志任華北電...
01-21
  大眾網(wǎng)記者 楊濤報道  11月19日,白俄羅斯共和國職業(yè)教育研究院校長戈盧博夫斯基?瓦萊里?尼古拉耶維奇副教授, 國際合作中心主任科列伊妮娜?奧爾加?瓦列耶夫娜一...
01-21
  兩年三度沖刺港交所上市,宜賓銀行(02596.HK)終于圓夢,但并未引起資本市場過多興趣?! 〉谝回?..
01-22
  中國證監(jiān)會1月22日消息,近日,中央金融辦等六部門聯(lián)合印發(fā)的《關(guān)于推動中長期資金入市工作的實(shí)...
01-24
摩羯座的男性通常被認(rèn)為是穩(wěn)重、踏實(shí)、有責(zé)任感的代表。他們注重事業(yè)和目標(biāo),對自己和周...
01-22
雙魚座的男生常常以試探女生的方式來表達(dá)他們對她們的喜歡。這種試探往往伴隨著一些虐...
01-22
魅力四射:那些讓人心動的女明星在娛樂圈,女明星總是以她們的美麗和才華吸引著無數(shù)人的目光。我們時常被她們的**閃耀**姿態(tài)和優(yōu)雅風(fēng)范所迷倒,仿佛她們就是從夢中走出的仙女,令人...
02-07
微胖女生穿搭? 女生穿搭技巧?一、微胖女生穿搭?微胖女生穿對了就不顯胖,首先排除緊身衣褲,可以配休閑襯衣搭配闊腿褲小白鞋,很時尚,還有就是運(yùn)動裝二、女生穿搭技巧?不成熟的小建議...
02-12
1月24日消息,國聯(lián)股份冷鏈多多數(shù)字云倉(寮步倉)開倉儀式近日在東莞市寮步鎮(zhèn)舉辦,標(biāo)志著冷鏈多多禽蛋產(chǎn)業(yè)鏈倉網(wǎng)布局在華南地區(qū)再落一子。涂多多高級副總裁、物流部總監(jiān)安珅,冷鏈...
02-07
劉強(qiáng)東:無論京東做多大,都將會把最實(shí)惠的價格帶給用戶。1.京東上線競價購物玩法劉強(qiáng)東認(rèn)準(zhǔn)一件事情,似乎無論發(fā)生什么,都會貫徹到底。自從2022年底京東零售內(nèi)部大會上,劉強(qiáng)東明確...
02-13
據(jù)中國鐵路公眾號消息,2025年鐵路春運(yùn)1月14日開始,至2月22日結(jié)束,為期40天,全國鐵路預(yù)計發(fā)送旅客5.1億人次,日均發(fā)送1275萬人次,節(jié)前客...
02-08
3月10日消息,攜程集團(tuán)與Visit Oman近日在2025年柏林國際旅游展(ITB Berlin 2025)上宣布達(dá)成戰(zhàn)略合作伙伴關(guān)系。此次合作,標(biāo)志著Visit Oman在提升本地旅游產(chǎn)品數(shù)字化分銷以及擴(kuò)大...
03-10
自去年底開始,黃金多頭優(yōu)勢逐漸退卻,國際現(xiàn)貨黃金價格經(jīng)歷幾次大跌后一度跌下2700關(guān)口,多空進(jìn)入漫長的震蕩周期,多頭始終無法找到再度沖高的時機(jī)。  北京時間1月21日,國際現(xiàn)貨...
01-24
自去年底開始,黃金多頭優(yōu)勢逐漸退卻,國際現(xiàn)貨黃金價格經(jīng)歷幾次大跌后一度跌下2700關(guān)口,多空進(jìn)入漫長的震蕩周期,多頭始終無法找到再度沖高的時機(jī)?! ”本r間1月21日,國際現(xiàn)貨...
01-24
一個好的肉鴿游戲可以是忙里偷閑的一份放松,令人重燃干勁;可以在深夜撫慰一個打工人焦躁不安的靈魂,讓人安然入睡,也可以是...味大,無需多鹽??傊@個世界需要更多...
01-25
《刺客信條:影》未發(fā)布的故事及角色細(xì)節(jié),通過一家成人卡通網(wǎng)站泄露了出去。 上周末,該游戲當(dāng)前尚未發(fā)布的藝術(shù)設(shè)定集掃描件被發(fā)布在一個成人動漫網(wǎng)站上,隨后被發(fā)行...
02-05
央視網(wǎng)消息:中國地震臺網(wǎng)正式測定:02月02日15時17分在西藏日喀則市定日縣(北緯28.43度,東經(jīng)87.52度)發(fā)生3.2級地震,震源深度10千米。...
02-02
總臺記者當(dāng)?shù)貢r間2月5日獲悉,當(dāng)天,日本埼玉縣八潮市道路塌陷事故現(xiàn)場,救援人員使用水下無人機(jī)在下水管道內(nèi)進(jìn)行調(diào)查時,在塌陷現(xiàn)場下游100米至200米左右的下水管道中,發(fā)現(xiàn)了疑似貨...
02-06
圖源:Pixabay 寒武紀(jì)(688256.SH)的股價還在震蕩,股民心情“過...
01-21
  原標(biāo)題:因平臺上的FaceApp違規(guī)收集數(shù)據(jù),蘋果和谷歌在巴西被罰款1900萬雷亞爾  IT之家1月9日...
01-21
  近日,一列滿載一汽商品車散件組裝件的集裝箱班列由長春興隆山抵達(dá)大連鐵路中心站,標(biāo)志著一汽(大連)通商...
02-14
注意了!2025年遼寧省事業(yè)單位集中面向社會公開招聘工作人員公告發(fā)布報名時間2025年2月19日9:00至2月25日...
02-18
SQL Error: select * from ***_ecms_news3 where id in(17,262,171,125,,177,282,194) limit 8
返回

點(diǎn)擊右上角微信好友

朋友圈

點(diǎn)擊瀏覽器下方“”分享微信好友Safari瀏覽器請點(diǎn)擊“”按鈕

點(diǎn)擊右上角QQ

點(diǎn)擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點(diǎn)擊“”按鈕