●文章摘要：

本文檔是由華為技術(shù)有限公司發(fā)布的AI安全白皮書。本白皮書主要目的是探討AI自身的安全，確保AI模型和數(shù)據(jù)的完整性與保密性，使其在不同的業(yè)務(wù)場景下，不會輕易地被攻擊者影響而改變判斷結(jié)果或泄露數(shù)據(jù)。不同于傳統(tǒng)的系統(tǒng)安全漏洞，機器學(xué)習(xí)系統(tǒng)存在安全漏洞的根因是其工作原理極為復(fù)雜，缺乏可解釋性。華為致力于AI安全的研究，旨在提供一個令用戶放心的AI應(yīng)用安全環(huán)境，為華為AI使能構(gòu)建智能世界的新時代愿景與使命做出貢獻。為了應(yīng)對AI安全的新挑戰(zhàn)，本白皮書提出了將AI系統(tǒng)部署到業(yè)務(wù)場景中所需要的三個層次的防御手段：攻防安全，對已知攻擊設(shè)計有針對性的防御機制；模型安全，通過模型驗證等手段提升模型健壯性；架構(gòu)安全，在部署AI的業(yè)務(wù)中設(shè)計不同的安全機制保證業(yè)務(wù)安全。

●關(guān)鍵詞：

AI；安全；攻防安全；模型安全；架構(gòu)安全

●作者簡介：

華為技術(shù)有限公司（2018年）

●文章來源：

摘編自網(wǎng)絡(luò)

●文章目錄：

一、邁向智能社會

二、AI安全面臨五大挑戰(zhàn)

三、AI安全典型攻擊方式

1、閃避攻擊

2、藥餌攻擊

3、后門攻擊

4、模型竊取攻擊

四、AI安全防御手段

1、AI安全攻防

2、AI模型安全

3、AI業(yè)務(wù)的安全結(jié)構(gòu)

五、攜手共建安全的智慧未來

●文章內(nèi)容：