在資安領(lǐng)域，人工智慧（AI）正引領(lǐng)一場(chǎng)巨大變革，依微軟今（20）日發(fā)布第六期《Cyber Signals》研究報(bào)告，便揭示攻擊威脅者如何運(yùn)用AI提升攻擊效率，并進(jìn)行身份欺詐；以及微軟與OpenAI及MITRE合作，透過AI的威脅偵測(cè)、行為分析、機(jī)器學(xué)習(xí)模型、零信任原則以及加強(qiáng)驗(yàn)證，保護(hù)自身免受這類網(wǎng)路威脅攻擊侵害。

微軟與 OpenAI 及MITRE 合作，透過 AI 的威脅偵測(cè)、行為分析、機(jī)器學(xué)習(xí)模型、零信任原則以及加強(qiáng)驗(yàn)證，保護(hù)免受網(wǎng)路威脅攻擊。

因應(yīng)目前AI既可協(xié)助企業(yè)組織，以高速擊敗網(wǎng)路攻擊，解決資安人才短缺問題，并推動(dòng)資安的創(chuàng)新和效率；攻擊威脅者也可藉此，提升攻擊效率及范圍。微軟則與OpenAI合作，揭露其觀察到有關(guān)追蹤國家型攻擊者的手法與路徑，正試圖使用大型語言模型（LLMs）來增強(qiáng)其正在進(jìn)行的網(wǎng)路攻擊的早期行動(dòng)。

同時(shí)公布微軟如何指導(dǎo)及采取行動(dòng)阻止的原則，以減輕因?yàn)閲倚统志霉敉{者、持久操縱者和使用AI平臺(tái)和API的網(wǎng)絡(luò)犯罪集團(tuán)帶來的風(fēng)險(xiǎn)，保護(hù)AI平臺(tái)和用戶。這些原則包括：識(shí)別和對(duì)惡意威脅行為者的行動(dòng)、通知其他AI服務(wù)供應(yīng)商的使用、與其他利害關(guān)系者合作及提升透明度。

因應(yīng)網(wǎng)路犯罪分子和國家支持的攻擊行為者正在尋求利用AI（包括LLMs），來提高攻擊的速度及范圍，并利用可以進(jìn)一步實(shí)現(xiàn)其目標(biāo)和攻擊及技術(shù)的平臺(tái)。微軟還與MITRE合作，將這些LLMs主題的戰(zhàn)術(shù)、技術(shù)和程序（TTPs）整合到 MITRE ATT&CK框架或MITRE ATLAS（人工智慧系統(tǒng)對(duì)抗性威脅情境）知識(shí)庫中，以幫助更廣泛的資安社群了解，和偵測(cè)LLMs在攻擊活動(dòng)中的新藍(lán)圖。

盡管攻擊威脅行為者的動(dòng)機(jī)和復(fù)雜程度各有不同，但在布署攻擊時(shí)，他們的共同任務(wù)包括偵察、編碼和協(xié)助學(xué)習(xí)及使用人類和機(jī)器語言。微軟采用了多種方法來保護(hù)自身免受這類網(wǎng)絡(luò)攻擊威脅的侵害，包括人工智慧的威脅偵測(cè)、行為分析、機(jī)器學(xué)習(xí)模型、零信任原則以及加強(qiáng)驗(yàn)證等。

針對(duì)企業(yè)組織，微軟也提出4大建議來應(yīng)對(duì)網(wǎng)路威脅：

1. 限制AI存取范圍，并持續(xù)評(píng)估應(yīng)用的合適與合規(guī)性。

2. 企業(yè)應(yīng)實(shí)施嚴(yán)格的輸入驗(yàn)證和清理，防范指令提示造成的風(fēng)險(xiǎn)。

3. 企業(yè)應(yīng)評(píng)估AI可與組織數(shù)據(jù)接觸的所有領(lǐng)域，要求整個(gè)AI供應(yīng)鏈保持透明度，包括透過第三方合作夥伴和供應(yīng)商，并透過零信任和數(shù)據(jù)治理計(jì)劃來降低風(fēng)險(xiǎn)。

4. 明確與員工溝通企業(yè)的AI使用和風(fēng)險(xiǎn)政策。

此外，因?yàn)锳I在資訊安全的作用是推動(dòng)多面向的創(chuàng)新，并提高防御效率。生成式AI也可以高速幫助資安防御者保護(hù)其組織，從強(qiáng)化攻擊威脅的偵測(cè)到簡化資安事件回應(yīng)來重塑資安。包括利用LLMs模型來分析大量數(shù)據(jù)，揭示網(wǎng)路攻擊威脅的模式和趨勢(shì)，為攻擊威脅情報(bào)提供有價(jià)值的背景資訊。從Microsoft Copilot for Security的用戶在所有任務(wù)上的準(zhǔn)確性提高了44%、速度提升了26%，皆突顯了將AI整合到資安防御中的重要性與效益。

如今AI賦予我們適應(yīng)并防御不斷變化的威脅，能夠即時(shí)偵測(cè)異常、快速回應(yīng)以阻絕風(fēng)險(xiǎn)，并根據(jù)組織的需求量身定制防御策略；還有助於解決全球400萬名資安專業(yè)人才的缺囗，并幫助防御者提高防御的速度與效率。微軟強(qiáng)調(diào)：「AI帶來新的能力，也帶來了新的風(fēng)險(xiǎn)。即不僅只是工具，而是資安領(lǐng)域的典范轉(zhuǎn)移，使我們能夠抵御復(fù)雜的網(wǎng)路攻擊威脅，并適應(yīng)動(dòng)態(tài)的攻擊威脅環(huán)境。」