人工智能和機(jī)器學(xué)習(xí)技術(shù)有可能會(huì)徹底改變世界，通過(guò)改變我們創(chuàng)造、消費(fèi)和使用信息的方式，迎來(lái)前所未有的進(jìn)步和創(chuàng)新。隨著人工智能技術(shù)變得越來(lái)越復(fù)雜，它們將改變行業(yè)、簡(jiǎn)化流程，甚至可能影響我們的生活方式。核行業(yè)也不例外，在核設(shè)施和輻射設(shè)施的許多流程和操作中，可以預(yù)期人工智能會(huì)帶來(lái)好處。

與此同時(shí)，人工智能的快速發(fā)展也帶來(lái)了大量風(fēng)險(xiǎn)。惡意行為者可能利用人工智能發(fā)起更先進(jìn)、更有針對(duì)性的攻擊，或利用人工智能破壞核設(shè)施和輻射設(shè)施中的網(wǎng)絡(luò)、系統(tǒng)和敏感信息的完整性。

對(duì)信息和計(jì)算機(jī)安全的好處

原子能機(jī)構(gòu)正在為人工智能帶來(lái)的變革做準(zhǔn)備，促進(jìn)該領(lǐng)域的國(guó)際合作，以確保所有國(guó)家能夠受益于各種機(jī)會(huì)，同時(shí)也在為減輕風(fēng)險(xiǎn)作準(zhǔn)備。原子能機(jī)構(gòu)正在通過(guò)技術(shù)會(huì)議和協(xié)調(diào)研究項(xiàng)目等機(jī)制，支持對(duì)人工智能技術(shù)的開(kāi)發(fā)、認(rèn)識(shí)和應(yīng)用，以及對(duì)抗惡意行為者的對(duì)策和防御。

也許人工智能在信息和計(jì)算機(jī)安全方面最顯著的優(yōu)勢(shì)是減少對(duì)人為分析和干預(yù)的依賴。人工智能賦能系統(tǒng)可以全天候運(yùn)行，以監(jiān)測(cè)網(wǎng)絡(luò)和系統(tǒng)的威脅。通過(guò)使這些任務(wù)自動(dòng)化，核安保專業(yè)人員便有時(shí)間專注于更具戰(zhàn)略性的任務(wù)，并在事件發(fā)生時(shí)更有效地應(yīng)對(duì)。

“人工智能可以快速識(shí)別威脅，并自動(dòng)向人類專家提供協(xié)調(diào)響應(yīng)活動(dòng)所需的信息，這種自適應(yīng)學(xué)習(xí)能力可以用來(lái)增強(qiáng)信息和計(jì)算機(jī)安全，”參加原子能機(jī)構(gòu)旨在支持加強(qiáng)計(jì)算機(jī)安全研究協(xié)調(diào)研究項(xiàng)目的美國(guó)佐治亞理工學(xué)院助理教授Fan Zhang說(shuō)，“它不會(huì)取代工作人員，而是建立資源和增加洞察能力，使早期檢測(cè)和應(yīng)對(duì)計(jì)算機(jī)安全問(wèn)題切實(shí)可行?！?/p>

通過(guò)利用先進(jìn)的機(jī)器學(xué)習(xí)算法，人工智能還可以通過(guò)識(shí)別計(jì)算機(jī)系統(tǒng)中的異常數(shù)據(jù)，幫助核設(shè)施和輻射設(shè)施加強(qiáng)對(duì)網(wǎng)絡(luò)攻擊的防御。人工智能輔助安保系統(tǒng)可以持續(xù)監(jiān)測(cè)和分析大量數(shù)據(jù)，以確定是否存在與設(shè)施正常運(yùn)行不符的活動(dòng)。網(wǎng)絡(luò)攻擊可能會(huì)提供虛假數(shù)據(jù)，惡意誤導(dǎo)核設(shè)施操作人員。在這種情況下，人工智能輔助系統(tǒng)可以用來(lái)提醒核電廠操作人員，即使是與正常運(yùn)行有最微小變化也會(huì)發(fā)出警報(bào)。通過(guò)提高態(tài)勢(shì)感知能力，人工智能還可以及早發(fā)現(xiàn)犯罪行為，并提示作出必要的事件響應(yīng)。

面對(duì)的挑戰(zhàn)

人工智能在核設(shè)施和輻射設(shè)施中提供的好處在很大程度上取決于人工智能的訓(xùn)練方式。人工智能的智能程度取決于它所使用的訓(xùn)練數(shù)據(jù)，如果沒(méi)有正確的輸入，人工智能可能會(huì)被操縱，從而給出錯(cuò)誤的讀數(shù)和結(jié)果。這仍是將人工智能用于核安保的一個(gè)重大障礙。即使人工智能技術(shù)最近取得了進(jìn)步，用它來(lái)替代人力也是不可行的。實(shí)物保護(hù)、材料衡算和控制以及直接測(cè)量這些確保核安保的基本活動(dòng)，需要人力投入。

理解人工智能模型如何以及為何作出某一決定或預(yù)測(cè)，是人工智能在核安保方面的另一個(gè)挑戰(zhàn)?！巴该鞫群涂山忉屝允侨祟惪衫斫馊斯ぶ悄芩鳑Q定或預(yù)測(cè)背后的推理，兩者均屬于人工智能模型的最重要問(wèn)題。理解這些模型如何得出結(jié)論往往具有挑戰(zhàn)性，這使得人們很難信任和確保其輸出的完整性，”原子能機(jī)構(gòu)核安保司信息管理處處長(zhǎng)Scott Purvis說(shuō)，“當(dāng)這些模型取代提供直接測(cè)量的傳感器并取代根據(jù)每個(gè)設(shè)施的獨(dú)特特征獲得的人類經(jīng)驗(yàn)時(shí)，尤其會(huì)出現(xiàn)問(wèn)題。除非事先對(duì)人工智能算法有全面深入的了解，認(rèn)識(shí)到所作決定的方式和原因，否則不可能對(duì)系統(tǒng)的完整性進(jìn)行任何保證。”

原子能機(jī)構(gòu)關(guān)于核安保方面的計(jì)算機(jī)安全導(dǎo)則包括人類制衡的最佳實(shí)踐，以指導(dǎo)設(shè)施意識(shí)到哪些過(guò)程可以通過(guò)人工智能實(shí)現(xiàn)自動(dòng)化，哪些過(guò)程至少在這種快速發(fā)展的新技術(shù)的風(fēng)險(xiǎn)為人們所認(rèn)知之前，應(yīng)繼續(xù)采取人為監(jiān)督。它們還提供一種重要資源，使各國(guó)能夠落實(shí)重要的計(jì)算機(jī)安全措施，以檢測(cè)、預(yù)防和應(yīng)對(duì)網(wǎng)絡(luò)攻擊。

此外，原子能機(jī)構(gòu)還制定了一個(gè)協(xié)調(diào)研究項(xiàng)目，以支持加強(qiáng)計(jì)算機(jī)安全研究。題為“加強(qiáng)核設(shè)施計(jì)算機(jī)安全事件分析”的這項(xiàng)協(xié)調(diào)研究項(xiàng)目匯集了13個(gè)國(guó)家的代表，致力于提高核設(shè)施的計(jì)算機(jī)安全能力，包括人工智能技術(shù)，以檢測(cè)表明有針對(duì)性網(wǎng)絡(luò)攻擊的異常情況。

人工智能技術(shù)使用中的對(duì)抗

人工智能已展露出造福人類和平利用核技術(shù)的潛力。隨著人工智能不斷用于增強(qiáng)核設(shè)施和輻射設(shè)施的流程和操作，人們也必須認(rèn)識(shí)到與更廣泛采用人工智能相關(guān)的風(fēng)險(xiǎn)。各組織必須保持強(qiáng)有力的計(jì)算機(jī)安全計(jì)劃，在受益于人工智能的同時(shí)，確保核安保。

這樣做，需要從根本上轉(zhuǎn)變對(duì)信任和敏感性的看法。必須考慮系統(tǒng)中的每一個(gè)潛在故障點(diǎn)，甚至是與系統(tǒng)設(shè)計(jì)無(wú)關(guān)的故障點(diǎn)。惡意行為者會(huì)利用人工智能創(chuàng)造更復(fù)雜的惡意軟件，自動(dòng)進(jìn)行網(wǎng)絡(luò)攻擊，利用模型中的偏差和漏洞，或通過(guò)模仿合法用戶行為繞過(guò)安全措施。防御者和攻擊者之間的這場(chǎng)裝備競(jìng)賽將需要不斷的創(chuàng)新和適應(yīng)。

更多地使用人工智能技術(shù)來(lái)加強(qiáng)核設(shè)施的計(jì)算機(jī)安全措施，會(huì)帶來(lái)極大的好處，包括加強(qiáng)威脅檢測(cè)、安全措施積極主動(dòng)、減少對(duì)人為干預(yù)的依賴以及加強(qiáng)事件響應(yīng)。通過(guò)在應(yīng)對(duì)風(fēng)險(xiǎn)的同時(shí)擁抱人工智能的好處，各組織可以在面對(duì)不斷變化的網(wǎng)絡(luò)威脅時(shí)顯著加強(qiáng)計(jì)算機(jī)安全。