人工智能安全白皮書發(fā)布：這六大風(fēng)險(xiǎn)不可忽略
0
導(dǎo)讀：人工智能安全風(fēng)險(xiǎn)包括網(wǎng)絡(luò)安全風(fēng)險(xiǎn)、人工數(shù)據(jù)安全風(fēng)險(xiǎn)、安全算法安全風(fēng)險(xiǎn)、白皮布金華找小姐上門服務(wù)的辦法[微信1662+044-1662][提供外圍女上門服務(wù)快速安排面到付款不收定金信息安全風(fēng)險(xiǎn)、風(fēng)險(xiǎn)社會(huì)安全風(fēng)險(xiǎn)和國家安全風(fēng)險(xiǎn)六方面。忽略
Facebook數(shù)據(jù)泄露事件的人工主角劍橋分析公司通過關(guān)聯(lián)分析的方式獲得了海量的美國公民用戶信息，包括膚色、安全性取向、白皮布智力水平、風(fēng)險(xiǎn)性格特征、忽略宗教信仰、人工政治觀點(diǎn)以及酒精、安全煙草和毒品的白皮布使用情況，借此實(shí)施各種政治宣傳。風(fēng)險(xiǎn)
ForresterResearch預(yù)測統(tǒng)計(jì)，忽略金華找小姐上門服務(wù)的辦法[微信1662+044-1662][提供外圍女上門服務(wù)快速安排面到付款不收定金人工智能技術(shù)將在2025年之前取代美國7%的工作崗位，其中16%的美國工人將被人工智能系統(tǒng)取代。《未來簡史》作者尤瓦爾·赫拉利預(yù)言，二三十年內(nèi)超過50%工作會(huì)被人工智能取代。
……
人工智能在服務(wù)和賦能人類生產(chǎn)生活同時(shí)，也帶來了難以忽視的安全風(fēng)險(xiǎn)。
9月18日，2018世界人工智能大會(huì)安全高端對(duì)話在上海舉行，會(huì)上發(fā)布了《人工智能安全白皮書》（以下簡稱《白皮書》）。
《白皮書》由中國信息通信研究院安全研究所編制，該研究所始建于1957年，是工業(yè)和信息化部直屬科研事業(yè)單位。
《白皮書》稱，技術(shù)的進(jìn)步往往是一把“雙刃劍”，人工智能作為一種通用目的技術(shù)，為保障國家網(wǎng)絡(luò)空間安全、提升人類經(jīng)濟(jì)社會(huì)風(fēng)險(xiǎn)防控能力等方面提供了新手段和途徑。但同時(shí)，人工智能在技術(shù)轉(zhuǎn)化和應(yīng)用場景落地過程中，由于技術(shù)的不確定性和應(yīng)用的廣泛性，帶來沖擊網(wǎng)絡(luò)安全、社會(huì)就業(yè)、法律倫理等問題并對(duì)國家政治、經(jīng)濟(jì)和社會(huì)安全帶來諸多風(fēng)險(xiǎn)和挑戰(zhàn)。
《白皮書》項(xiàng)目組認(rèn)為，人工智能安全風(fēng)險(xiǎn)包括網(wǎng)絡(luò)安全風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)、算法安全風(fēng)險(xiǎn)、信息安全風(fēng)險(xiǎn)、社會(huì)安全風(fēng)險(xiǎn)和國家安全風(fēng)險(xiǎn)六方面。
從網(wǎng)絡(luò)安全風(fēng)險(xiǎn)看，人工智能學(xué)習(xí)框架和組件存在安全漏洞風(fēng)險(xiǎn)，可引發(fā)系統(tǒng)安全問題。《白皮書》指出，目前，國內(nèi)人工智能產(chǎn)品和應(yīng)用的研發(fā)主要是基于谷歌、微軟、亞馬遜、臉書、百度等科技巨頭發(fā)布的人工智能學(xué)習(xí)框架和組件。但是，由于這些開源框架和組件缺乏嚴(yán)格的測試管理和安全認(rèn)證，可能存在漏洞和后門等安全風(fēng)險(xiǎn)，一旦被攻擊者惡意利用，可危及人工智能產(chǎn)品和應(yīng)用的完整性和可用性，甚至有可能導(dǎo)致重大財(cái)產(chǎn)損失和惡劣社會(huì)影響。
同時(shí)，人工智能技術(shù)可提升網(wǎng)絡(luò)攻擊能力，對(duì)現(xiàn)有網(wǎng)絡(luò)安全防護(hù)體系構(gòu)成威脅與挑戰(zhàn)。
從數(shù)據(jù)安全風(fēng)險(xiǎn)看，一方面逆向攻擊可導(dǎo)致算法模型內(nèi)部的數(shù)據(jù)泄露，另一方面，人工智能技術(shù)可加強(qiáng)數(shù)據(jù)挖掘分析能力，加大隱私泄露風(fēng)險(xiǎn)。Facebook數(shù)據(jù)泄露事件即是典型案例。
從算法安全風(fēng)險(xiǎn)看，算法設(shè)計(jì)或?qū)嵤┯姓`可產(chǎn)生與預(yù)期不符甚至傷害性結(jié)果；算法潛藏偏見和歧視，導(dǎo)致決策結(jié)果可能存在不公；算法黑箱導(dǎo)致人工智能決策不可解釋，引發(fā)監(jiān)督審查困境；含有噪聲或偏差的訓(xùn)練數(shù)據(jù)可影響算法模型準(zhǔn)確性；此外，對(duì)抗樣本攻擊可誘使算法識(shí)別出現(xiàn)誤判漏判，產(chǎn)生錯(cuò)誤結(jié)果。
例如，使用Northpointe公司開發(fā)的犯罪風(fēng)險(xiǎn)評(píng)估算法COMPAS時(shí)，黑人被錯(cuò)誤地評(píng)估為具有高犯罪風(fēng)險(xiǎn)的概率兩倍于白人。
從信息安全風(fēng)險(xiǎn)看，智能推薦算法可加速不良信息的傳播，人工智能技術(shù)可制作虛假信息內(nèi)容，用以實(shí)施詐騙等不法活動(dòng)。
2017年，我國浙江、湖北等地發(fā)生多起犯罪分子利用語音合成技術(shù)假扮受害人親屬實(shí)施詐騙的案件，造成惡劣社會(huì)影響。
從社會(huì)安全風(fēng)險(xiǎn)看，人工智能產(chǎn)業(yè)化推進(jìn)將使部分現(xiàn)有就業(yè)崗位減少甚至消失，導(dǎo)致結(jié)構(gòu)性失業(yè)；人工智能特別是高度自治系統(tǒng)的安全風(fēng)險(xiǎn)可危及人身安全；人工智能產(chǎn)品和應(yīng)用會(huì)對(duì)現(xiàn)有社會(huì)倫理道德體系造成沖擊。
項(xiàng)目組對(duì)此舉例道，企業(yè)具有天生的資本逐利性，在利用用戶數(shù)據(jù)追求自身利益最大化時(shí)，往往忽視道德觀念，從而損害用戶群體的權(quán)益。例如：攜程、滴滴等基于用戶行為數(shù)據(jù)分析，實(shí)現(xiàn)對(duì)客戶的價(jià)格歧視；Facebook利用人工智能有針對(duì)性地向用戶投放游戲、癮品甚至虛假交友網(wǎng)站的廣告，從中獲取巨大利益。
從國家安全風(fēng)險(xiǎn)看，人工智能可用于影響公眾政治意識(shí)形態(tài)，間接威脅國家安全；還可用于構(gòu)建新型軍事打擊力量，直接威脅國家安全。
“當(dāng)前，人工智能技術(shù)發(fā)展呈現(xiàn)加速趨勢，由于其自身的學(xué)科交叉性和垂直應(yīng)用性，未來必將與傳統(tǒng)行業(yè)進(jìn)行深度融合。隨著人工智能技術(shù)的創(chuàng)新突破和應(yīng)用場景的日益增多，其安全風(fēng)險(xiǎn)也會(huì)動(dòng)態(tài)演進(jìn)，將越發(fā)具有泛在化、場景化、融合化等特點(diǎn)，對(duì)人類生產(chǎn)生活、國家政治經(jīng)濟(jì)等方方面面產(chǎn)生深遠(yuǎn)安全影響。”項(xiàng)目組寫道。
在《白皮書》中，項(xiàng)目組也提出了八條人工智能安全發(fā)展建議。
這些建議包括加強(qiáng)自主創(chuàng)新，突破共性關(guān)鍵技術(shù)；完善法律法規(guī)，制定倫理道德規(guī)范；健全監(jiān)管體系，引導(dǎo)產(chǎn)業(yè)健康發(fā)展；強(qiáng)化標(biāo)準(zhǔn)引領(lǐng)，構(gòu)建安全評(píng)估體系；促進(jìn)行業(yè)協(xié)作，推動(dòng)技術(shù)安全應(yīng)用；加大人才培養(yǎng)，提升人員就業(yè)技能；加強(qiáng)國際交流，應(yīng)對(duì)共有安全風(fēng)險(xiǎn)；加大社會(huì)宣傳，科學(xué)處理安全問題。
在9月18日的活動(dòng)上，2018世界人工智能大會(huì)安全高端對(duì)話與會(huì)專家組還發(fā)布了《人工安能安全發(fā)展上海倡議》，共同倡導(dǎo)人工智能安全發(fā)展要面向未來、以人為本、責(zé)任明晰、隱私保護(hù)、算法公正、透明監(jiān)督、和平利用和開放合作。
Facebook數(shù)據(jù)泄露事件的人工主角劍橋分析公司通過關(guān)聯(lián)分析的方式獲得了海量的美國公民用戶信息，包括膚色、安全性取向、白皮布智力水平、風(fēng)險(xiǎn)性格特征、忽略宗教信仰、人工政治觀點(diǎn)以及酒精、安全煙草和毒品的白皮布使用情況，借此實(shí)施各種政治宣傳。風(fēng)險(xiǎn)
ForresterResearch預(yù)測統(tǒng)計(jì)，忽略金華找小姐上門服務(wù)的辦法[微信1662+044-1662][提供外圍女上門服務(wù)快速安排面到付款不收定金人工智能技術(shù)將在2025年之前取代美國7%的工作崗位，其中16%的美國工人將被人工智能系統(tǒng)取代。《未來簡史》作者尤瓦爾·赫拉利預(yù)言，二三十年內(nèi)超過50%工作會(huì)被人工智能取代。
……
人工智能在服務(wù)和賦能人類生產(chǎn)生活同時(shí)，也帶來了難以忽視的安全風(fēng)險(xiǎn)。
9月18日，2018世界人工智能大會(huì)安全高端對(duì)話在上海舉行，會(huì)上發(fā)布了《人工智能安全白皮書》（以下簡稱《白皮書》）。
《白皮書》由中國信息通信研究院安全研究所編制，該研究所始建于1957年，是工業(yè)和信息化部直屬科研事業(yè)單位。
《白皮書》稱，技術(shù)的進(jìn)步往往是一把“雙刃劍”，人工智能作為一種通用目的技術(shù)，為保障國家網(wǎng)絡(luò)空間安全、提升人類經(jīng)濟(jì)社會(huì)風(fēng)險(xiǎn)防控能力等方面提供了新手段和途徑。但同時(shí)，人工智能在技術(shù)轉(zhuǎn)化和應(yīng)用場景落地過程中，由于技術(shù)的不確定性和應(yīng)用的廣泛性，帶來沖擊網(wǎng)絡(luò)安全、社會(huì)就業(yè)、法律倫理等問題并對(duì)國家政治、經(jīng)濟(jì)和社會(huì)安全帶來諸多風(fēng)險(xiǎn)和挑戰(zhàn)。
《白皮書》項(xiàng)目組認(rèn)為，人工智能安全風(fēng)險(xiǎn)包括網(wǎng)絡(luò)安全風(fēng)險(xiǎn)、數(shù)據(jù)安全風(fēng)險(xiǎn)、算法安全風(fēng)險(xiǎn)、信息安全風(fēng)險(xiǎn)、社會(huì)安全風(fēng)險(xiǎn)和國家安全風(fēng)險(xiǎn)六方面。
從網(wǎng)絡(luò)安全風(fēng)險(xiǎn)看，人工智能學(xué)習(xí)框架和組件存在安全漏洞風(fēng)險(xiǎn)，可引發(fā)系統(tǒng)安全問題。《白皮書》指出，目前，國內(nèi)人工智能產(chǎn)品和應(yīng)用的研發(fā)主要是基于谷歌、微軟、亞馬遜、臉書、百度等科技巨頭發(fā)布的人工智能學(xué)習(xí)框架和組件。但是，由于這些開源框架和組件缺乏嚴(yán)格的測試管理和安全認(rèn)證，可能存在漏洞和后門等安全風(fēng)險(xiǎn)，一旦被攻擊者惡意利用，可危及人工智能產(chǎn)品和應(yīng)用的完整性和可用性，甚至有可能導(dǎo)致重大財(cái)產(chǎn)損失和惡劣社會(huì)影響。
同時(shí)，人工智能技術(shù)可提升網(wǎng)絡(luò)攻擊能力，對(duì)現(xiàn)有網(wǎng)絡(luò)安全防護(hù)體系構(gòu)成威脅與挑戰(zhàn)。
從數(shù)據(jù)安全風(fēng)險(xiǎn)看，一方面逆向攻擊可導(dǎo)致算法模型內(nèi)部的數(shù)據(jù)泄露，另一方面，人工智能技術(shù)可加強(qiáng)數(shù)據(jù)挖掘分析能力，加大隱私泄露風(fēng)險(xiǎn)。Facebook數(shù)據(jù)泄露事件即是典型案例。
從算法安全風(fēng)險(xiǎn)看，算法設(shè)計(jì)或?qū)嵤┯姓`可產(chǎn)生與預(yù)期不符甚至傷害性結(jié)果；算法潛藏偏見和歧視，導(dǎo)致決策結(jié)果可能存在不公；算法黑箱導(dǎo)致人工智能決策不可解釋，引發(fā)監(jiān)督審查困境；含有噪聲或偏差的訓(xùn)練數(shù)據(jù)可影響算法模型準(zhǔn)確性；此外，對(duì)抗樣本攻擊可誘使算法識(shí)別出現(xiàn)誤判漏判，產(chǎn)生錯(cuò)誤結(jié)果。
例如，使用Northpointe公司開發(fā)的犯罪風(fēng)險(xiǎn)評(píng)估算法COMPAS時(shí)，黑人被錯(cuò)誤地評(píng)估為具有高犯罪風(fēng)險(xiǎn)的概率兩倍于白人。
從信息安全風(fēng)險(xiǎn)看，智能推薦算法可加速不良信息的傳播，人工智能技術(shù)可制作虛假信息內(nèi)容，用以實(shí)施詐騙等不法活動(dòng)。
2017年，我國浙江、湖北等地發(fā)生多起犯罪分子利用語音合成技術(shù)假扮受害人親屬實(shí)施詐騙的案件，造成惡劣社會(huì)影響。
從社會(huì)安全風(fēng)險(xiǎn)看，人工智能產(chǎn)業(yè)化推進(jìn)將使部分現(xiàn)有就業(yè)崗位減少甚至消失，導(dǎo)致結(jié)構(gòu)性失業(yè)；人工智能特別是高度自治系統(tǒng)的安全風(fēng)險(xiǎn)可危及人身安全；人工智能產(chǎn)品和應(yīng)用會(huì)對(duì)現(xiàn)有社會(huì)倫理道德體系造成沖擊。
項(xiàng)目組對(duì)此舉例道，企業(yè)具有天生的資本逐利性，在利用用戶數(shù)據(jù)追求自身利益最大化時(shí)，往往忽視道德觀念，從而損害用戶群體的權(quán)益。例如：攜程、滴滴等基于用戶行為數(shù)據(jù)分析，實(shí)現(xiàn)對(duì)客戶的價(jià)格歧視；Facebook利用人工智能有針對(duì)性地向用戶投放游戲、癮品甚至虛假交友網(wǎng)站的廣告，從中獲取巨大利益。
從國家安全風(fēng)險(xiǎn)看，人工智能可用于影響公眾政治意識(shí)形態(tài)，間接威脅國家安全；還可用于構(gòu)建新型軍事打擊力量，直接威脅國家安全。
“當(dāng)前，人工智能技術(shù)發(fā)展呈現(xiàn)加速趨勢，由于其自身的學(xué)科交叉性和垂直應(yīng)用性，未來必將與傳統(tǒng)行業(yè)進(jìn)行深度融合。隨著人工智能技術(shù)的創(chuàng)新突破和應(yīng)用場景的日益增多，其安全風(fēng)險(xiǎn)也會(huì)動(dòng)態(tài)演進(jìn)，將越發(fā)具有泛在化、場景化、融合化等特點(diǎn)，對(duì)人類生產(chǎn)生活、國家政治經(jīng)濟(jì)等方方面面產(chǎn)生深遠(yuǎn)安全影響。”項(xiàng)目組寫道。
在《白皮書》中，項(xiàng)目組也提出了八條人工智能安全發(fā)展建議。
這些建議包括加強(qiáng)自主創(chuàng)新，突破共性關(guān)鍵技術(shù)；完善法律法規(guī)，制定倫理道德規(guī)范；健全監(jiān)管體系，引導(dǎo)產(chǎn)業(yè)健康發(fā)展；強(qiáng)化標(biāo)準(zhǔn)引領(lǐng)，構(gòu)建安全評(píng)估體系；促進(jìn)行業(yè)協(xié)作，推動(dòng)技術(shù)安全應(yīng)用；加大人才培養(yǎng)，提升人員就業(yè)技能；加強(qiáng)國際交流，應(yīng)對(duì)共有安全風(fēng)險(xiǎn)；加大社會(huì)宣傳，科學(xué)處理安全問題。
在9月18日的活動(dòng)上，2018世界人工智能大會(huì)安全高端對(duì)話與會(huì)專家組還發(fā)布了《人工安能安全發(fā)展上海倡議》，共同倡導(dǎo)人工智能安全發(fā)展要面向未來、以人為本、責(zé)任明晰、隱私保護(hù)、算法公正、透明監(jiān)督、和平利用和開放合作。