●文章摘要：
本文檔是由華為技術(shù)有限公司發(fā)布的AI安全白皮書。本白皮書主要目的是探討AI自身的安全，確保AI模型和數(shù)據(jù)的完整性與保密性，使其在不同的業(yè)務(wù)場景下，不會輕易地被攻擊者影響而改變判斷結(jié)果或泄露數(shù)據(jù)。不同于傳統(tǒng)的系統(tǒng)安全漏洞，機器學(xué)習(xí)系統(tǒng)存在安全漏洞的根因是其工作原理極為復(fù)雜，缺乏可解釋性。華為致力于AI安全的研究，旨在提供一個令用戶放心的AI應(yīng)用安全環(huán)境，為華為AI使能構(gòu)建智能世界的新時代愿景與使命做出貢獻。為了應(yīng)對AI安全的新挑戰(zhàn)，本白皮書提出了將AI系統(tǒng)部署到業(yè)務(wù)場景中所需要的三個層次的防御手段：攻防安全，對已知攻擊設(shè)計有針對性的防御機制；模型安全，通過模型驗證等手段提升模型健壯性；架構(gòu)安全，在部署AI的業(yè)務(wù)中設(shè)計不同的安全機制保證業(yè)務(wù)安全。
●關(guān)鍵詞：
AI；安全；攻防安全；模型安全；架構(gòu)安全
●作者簡介：
華為技術(shù)有限公司（2018年）
●文章來源：
摘編自網(wǎng)絡(luò)
●文章目錄：
一、邁向智能社會
二、AI安全面臨五大挑戰(zhàn)
三、AI安全典型攻擊方式
1、閃避攻擊
2、藥餌攻擊
3、后門攻擊
4、模型竊取攻擊
四、AI安全防御手段
1、AI安全攻防
2、AI模型安全
3、AI業(yè)務(wù)的安全結(jié)構(gòu)
五、攜手共建安全的智慧未來
●文章內(nèi)容：
4.88MB
