記者從國家安全部了解到，數(shù)字化時代，人工智能（AI）正逐漸滲透到千行百業(yè)和日常生活中，推動經(jīng)濟(jì)社會高質(zhì)量發(fā)展。值得注意的是，AI工具若被不法分子利用，會對我國關(guān)鍵數(shù)據(jù)、基礎(chǔ)設(shè)施、社會秩序造成損害，成為威脅國家安全的“隱形武器”。
虛假信息的“投毒者”
AI技術(shù)中的“深度偽造（Deepfake）”能力是“深度學(xué)習(xí)”與“偽造”的結(jié)合，人工智能的深度學(xué)習(xí)算法能夠進(jìn)行自動化的數(shù)據(jù)處理，從而實現(xiàn)圖片、音頻和視頻的智能模擬和偽造。該技術(shù)用于影視、游戲、廣告等行業(yè)，可創(chuàng)作出更多逼真、有趣的虛擬角色和場景，翻新娛樂體驗。然而，一旦被濫用或惡意使用，將給個人合法權(quán)益、社會穩(wěn)定和國家安全帶來諸多安全風(fēng)險和挑戰(zhàn)。國家安全機(jī)關(guān)工作發(fā)現(xiàn)，某境外反華敵對勢力通過深度偽造技術(shù)生成虛假視頻，企圖向境內(nèi)傳播，誤導(dǎo)輿論、制造恐慌，對我國家安全構(gòu)成威脅。
關(guān)鍵信息的“竊密者”
從簡單的文字生成，到復(fù)雜的多模態(tài)創(chuàng)作，生成式AI的強(qiáng)大學(xué)習(xí)能力令人矚目。AI的學(xué)習(xí)和決策過程依賴于大量的數(shù)據(jù)，決定了AI工具可能收集并存儲用戶輸入的信息。據(jù)公開報道，因開源庫發(fā)生故障，某境外AI模型的部分用戶可以看到其他活躍用戶聊天記錄中的標(biāo)題甚至是名字、支付地址等隱私信息，造成個人信息泄露。如果不注意防范，相關(guān)人員信息數(shù)據(jù)可能成為境外間諜情報機(jī)關(guān)實施拉攏策反、滲透破壞活動的指引，造成國家安全風(fēng)險隱患。
意識形態(tài)的“挑撥者”
AI算法注重知識的重組、創(chuàng)造和輸出，如果人為對其進(jìn)行有偏見性的數(shù)據(jù)導(dǎo)入和算法重構(gòu)，可能會演變?yōu)槠娦砸庾R形態(tài)輸出，成為境外反華敵對勢力煽風(fēng)點火的重要武器。特別是在社會熱點事件的前期，因事件自帶流量，在情況尚不明朗、公眾情緒累積時，AI生成的謠言往往“趁虛而入”，炮制虛假信息，誤導(dǎo)公共輿論，造成惡劣影響。國家安全機(jī)關(guān)工作發(fā)現(xiàn)，個別西方國家和境外勢力通過批量操縱賬號，在社交媒體大肆發(fā)布特定觀點或情感化內(nèi)容，妄圖利用性別對立、勞資糾紛等議題，對我國進(jìn)行滲透破壞、污蔑抹黑，進(jìn)而破壞社會穩(wěn)定。
國家安全機(jī)關(guān)提示
面對人工智能技術(shù)發(fā)展帶來的新機(jī)遇和新挑戰(zhàn)，需要前瞻研判相關(guān)風(fēng)險，提高國家安全意識和自我防范意識，共同筑牢維護(hù)國家安全的人民防線。
提高法治思維
近年來，我國出臺《生成式人工智能服務(wù)管理暫行辦法》等部門規(guī)章，發(fā)布《人工智能安全治理框架》等，在法治軌道上加強(qiáng)人工智能治理。公民應(yīng)主動學(xué)習(xí)相關(guān)法律知識，遵守相關(guān)產(chǎn)業(yè)標(biāo)準(zhǔn)、技術(shù)標(biāo)準(zhǔn)和行業(yè)規(guī)范，推動人工智能技術(shù)良性健康發(fā)展。
加強(qiáng)宣傳普及
多措并舉加強(qiáng)公眾對人工智能的認(rèn)識與理解，提高公眾對人工智能安全性的認(rèn)識，提升對信息的辨識與分析能力，讓公眾了解在使用AI技術(shù)過程中可能面臨的風(fēng)險，提高警惕意識、繃緊防范之弦。
增強(qiáng)辨別能力
對于人工智能生成的內(nèi)容，應(yīng)培養(yǎng)批判性思維，提高真?zhèn)涡畔⒌谋鎰e能力，未經(jīng)核實的內(nèi)容堅決不迷信、不轉(zhuǎn)發(fā)、不擴(kuò)散。使用AI工具時，切勿將個人隱私信息、重要成果、涉密或未公開文件上傳至AI平臺；限制AI工具權(quán)限，禁止非必要應(yīng)用獲取個人通訊錄、相冊、地理位置等關(guān)鍵信息。
廣大人民群眾如發(fā)現(xiàn)人工智能服務(wù)提供者和使用者有任何危害國家安全和利益的行為或線索，可通過12339國家安全機(jī)關(guān)舉報受理電話、網(wǎng)絡(luò)舉報平臺（www.12339.gov.cn）、國家安全部微信公眾號舉報受理渠道或者直接向當(dāng)?shù)貒野踩珯C(jī)關(guān)舉報。
（總臺央視記者 宋琎）
本文鏈接：http://m.enbeike.cn/news-4-11017-0.html誤導(dǎo)公共輿論、竊取關(guān)鍵信息 別讓AI助手成威脅國家安全的“隱形武器”
聲明：本網(wǎng)頁內(nèi)容由互聯(lián)網(wǎng)博主自發(fā)貢獻(xiàn)，不代表本站觀點，本站不承擔(dān)任何法律責(zé)任。天上不會到餡餅，請大家謹(jǐn)防詐騙！若有侵權(quán)等問題請及時與本網(wǎng)聯(lián)系，我們將在第一時間刪除處理。
點擊右上角
微信好友
朋友圈
點擊瀏覽器下方“
”分享微信好友Safari瀏覽器請點擊“
”按鈕
點擊右上角
QQ
點擊瀏覽器下方“”分享QQ好友Safari瀏覽器請點擊“”按鈕
