AI技術(shù)一旦被濫用或惡意使用，將給個人合法權(quán)益、社會穩(wěn)定和國家安全帶來諸多安全風(fēng)險和挑戰(zhàn)。國家安全機(jī)關(guān)工作發(fā)現(xiàn)，某境外反華敵對勢力通過深度偽造技術(shù)生成虛假視頻，企圖向境內(nèi)傳播，誤導(dǎo)輿論、制造恐慌，對我國家安全構(gòu)成威脅。
據(jù)公開報道，因開源庫發(fā)生故障，某境外AI模型的部分用戶可以看到其他活躍用戶聊天記錄中的標(biāo)題甚至是名字、支付地址等隱私信息，造成個人信息泄露。如果不注意防范，相關(guān)人員信息數(shù)據(jù)可能成為境外間諜情報機(jī)關(guān)實(shí)施拉攏策反、滲透破壞活動的指引，造成國家安全風(fēng)險隱患。
在社會熱點(diǎn)事件的前期，因事件自帶流量，在情況尚不明朗、公眾情緒累積時，AI生成的謠言往往“趁虛而入”，炮制虛假信息，誤導(dǎo)公共輿論，造成惡劣影響。國家安全機(jī)關(guān)工作發(fā)現(xiàn)，個別西方國家和境外勢力通過批量操縱賬號，在社交媒體大肆發(fā)布特定觀點(diǎn)或情感化內(nèi)容，妄圖利用性別對立、勞資糾紛等議題，對我進(jìn)行滲透破壞、污蔑抹黑，進(jìn)而破壞我社會穩(wěn)定。
面對人工智能技術(shù)發(fā)展帶來的新機(jī)遇和新挑戰(zhàn)，需要前瞻研判相關(guān)風(fēng)險，提高國家安全意識和自我防范意識，共同筑牢維護(hù)國家安全的人民防線。（人民日報）
國安機(jī)關(guān)提醒防范AI泄密風(fēng)險,AI泄密風(fēng)險,AI
