2024年1月，人工智能(AI) 新銳巨頭OpenAI 公司的創(chuàng)始人兼 首席執(zhí)行官薩姆 · 奧爾特曼(Sam Altman)在世界達(dá)沃斯論壇上強(qiáng)調(diào)， AI 帶來的技術(shù)革命不同于以往，而是成為了一種“不可思議的提高 生產(chǎn)力的工具”。作為最具顛覆性的新興技術(shù)之一，AI 發(fā)展在為人類 社會經(jīng)濟(jì)發(fā)展帶來巨大紅利的同時，也引發(fā)了一系列現(xiàn)實(shí)危害和風(fēng)險 挑戰(zhàn)，主要包括數(shù)據(jù)竊取、隱私泄露、算法歧視、對抗攻擊等安全威 脅，它們不僅威脅著個人信息的保護(hù)，影響著企業(yè)的信譽(yù)和運(yùn)營安全， 甚至對國家安全也構(gòu)成了潛在的隱患，這些問題需要我們持續(xù)關(guān)注并 采取有效措施加以防范和解決。

當(dāng)前人工智能應(yīng)用系統(tǒng)的安全威脅是由于其網(wǎng)絡(luò)軟硬件運(yùn)行環(huán) 境和模型算法兩個層面存在的“內(nèi)生安全問題”所致。然而現(xiàn)有的人 工智能應(yīng)用系統(tǒng)安全防護(hù)模式和技術(shù)路線很少能跳出“盡力而為、問 題歸零”的慣性思維，傳統(tǒng)的對抗訓(xùn)練、挖漏洞、打補(bǔ)丁、封門補(bǔ)漏、 查毒殺馬乃至設(shè)蜜罐、布沙箱等層層疊疊的附加式防護(hù)措施，在引入 安全功能的同時不可避免地會引入新的內(nèi)生安全隱患。

為創(chuàng)造性破解人工智能應(yīng)用系統(tǒng)內(nèi)生安全難題，本藍(lán)皮書提出一種內(nèi)生安全賦能人工智能應(yīng)用系統(tǒng)構(gòu)建的方法，利用內(nèi)生安全機(jī)理中內(nèi)在的構(gòu)造效應(yīng)，從體制機(jī)理上管控或規(guī)避人工智能應(yīng)用系統(tǒng)面臨的破壞及威脅，進(jìn)而有效提升人工智能應(yīng)用系統(tǒng)在面對復(fù)雜多變安全環(huán)境時的應(yīng)對能力，為AI 技術(shù)的健康發(fā)展提供堅(jiān)實(shí)保障。

附件：人工智能應(yīng)用系統(tǒng)內(nèi)生安全藍(lán)皮書：內(nèi)生安全賦能系統(tǒng)構(gòu)建的方法和內(nèi)在的構(gòu)造效應(yīng),提升應(yīng)對能力