2024 年的網(wǎng)絡(luò)安全問題可以用兩個字母來概括：AI（如果縮小到 gen AI，則為五個字母）。組織仍處于了解這項技術(shù)的風(fēng)險和回報的早期階段。盡管它可以改善數(shù)據(jù)保護、遵守合規(guī)性法規(guī)并實現(xiàn)更快的威脅檢測，但威脅行為者也在使用 AI 來加速他們的社會工程攻擊，并使用惡意軟件破壞 AI 模型。
2024 年，人工智能可能獲得了最多的關(guān)注，但它并不是組織必須應(yīng)對的唯一網(wǎng)絡(luò)威脅。憑證盜竊仍然是一個問題，使用被盜憑證的攻擊同比增長了 71%。技能短缺仍在繼續(xù)，公司在數(shù)據(jù)泄露后又損失了 176 萬美元?。隨著越來越多的公司依賴云，云入侵事件激增也就不足為奇了。
但過去一年網(wǎng)絡(luò)安全領(lǐng)域取得了積極進展。CISA 的Secure by Design 計劃與 250 多家軟件制造商簽約，以改善其網(wǎng)絡(luò)安全狀況。CISA 還推出了網(wǎng)絡(luò)事件報告門戶，以改善組織共享網(wǎng)絡(luò)信息的方式。
去年的網(wǎng)絡(luò)安全預(yù)測主要關(guān)注人工智能及其對安全團隊未來運作方式的影響。今年的預(yù)測也強調(diào)了人工智能，表明網(wǎng)絡(luò)安全可能已經(jīng)達到了安全和人工智能相互依存的程度，無論好壞。
以下是今年的預(yù)測：
影子人工智能無處不在（IBM 安全產(chǎn)品管理副總裁 Akiba Saeedi）
影子人工智能將比我們想象的更加普遍，也更加危險。企業(yè)每天都會在系統(tǒng)中部署越來越多的生成式人工智能模型，有時甚至在企業(yè)不知情的情況下部署。到 2025 年，企業(yè)將真正看到“影子人工智能”的規(guī)?！唇?jīng)批準(zhǔn)的人工智能模型，由未得到適當(dāng)管理的員工使用。影子人工智能對數(shù)據(jù)安全構(gòu)成重大風(fēng)險，2025 年成功應(yīng)對這一問題的企業(yè)將采用明確的治理政策、全面的員工培訓(xùn)以及認真的檢測和響應(yīng)。
身份的轉(zhuǎn)變（IBM 安全產(chǎn)品管理執(zhí)行總監(jiān) Wes Gyure）
隨著混合云和應(yīng)用現(xiàn)代化計劃的實施，企業(yè)對身份的看法將繼續(xù)發(fā)生變化。認識到身份已成為新的安全邊界，企業(yè)將繼續(xù)轉(zhuǎn)向“身份優(yōu)先”戰(zhàn)略，管理和保護對應(yīng)用程序和關(guān)鍵數(shù)據(jù)（包括新一代人工智能模型）的訪問。2025 年，該戰(zhàn)略的一個基本組成部分是構(gòu)建有效的身份結(jié)構(gòu)，即一套與產(chǎn)品無關(guān)的集成身份工具和服務(wù)。如果做得好，這將為安全專業(yè)人員帶來可喜的緩解，緩解多云環(huán)境激增和身份解決方案分散造成的混亂和風(fēng)險。
每個人都必須共同努力來應(yīng)對威脅（Sam Hector，IBM 安全全球戰(zhàn)略負責(zé)人）
網(wǎng)絡(luò)安全團隊將不再能夠孤立地有效管理威脅。生成式人工智能和混合云采用帶來的威脅正在迅速演變。與此同時，量子計算對現(xiàn)代公鑰加密標(biāo)準(zhǔn)構(gòu)成的風(fēng)險將變得不可避免。鑒于新的量子安全加密標(biāo)準(zhǔn)的成熟，人們將推動發(fā)現(xiàn)加密資產(chǎn)并加速加密管理的現(xiàn)代化。明年，成功的組織將是那些高管和多元化團隊共同制定和執(zhí)行網(wǎng)絡(luò)安全戰(zhàn)略、將安全融入組織文化的組織。
為后量子密碼標(biāo)準(zhǔn)做好準(zhǔn)備（Ray Harishankar，IBM 院士，IBM Quantum Safe）
隨著各組織在明年開始向后量子密碼學(xué)過渡，敏捷性對于確保系統(tǒng)為持續(xù)轉(zhuǎn)型做好準(zhǔn)備至關(guān)重要，尤其是隨著美國國家標(biāo)準(zhǔn)與技術(shù)研究所 (NIST) 繼續(xù)擴展其后量子密碼學(xué)標(biāo)準(zhǔn)工具箱。NIST 最初的后量子密碼學(xué)標(biāo)準(zhǔn)向世界發(fā)出信號，現(xiàn)在是時候開始走向量子安全了。但同樣重要的是加密敏捷性的需求，確保系統(tǒng)能夠快速適應(yīng)新的加密機制和算法，以應(yīng)對不斷變化的威脅、技術(shù)進步和漏洞。理想情況下，自動化將簡化和加速這一過程。
數(shù)據(jù)將成為人工智能安全的重要組成部分（IBM 安全軟件開發(fā)副總裁 Suja Viswesan）
數(shù)據(jù)和人工智能安全將成為可信賴人工智能的重要組成部分?！翱尚刨嚾斯ぶ悄堋蓖ǔ１唤忉尀橥该?、公平和保護隱私的人工智能。這些都是關(guān)鍵特征。但如果人工智能及其驅(qū)動數(shù)據(jù)不安全，那么所有其他特征都會受到損害。到 2025 年，隨著企業(yè)、政府和個人與人工智能的互動越來越頻繁，風(fēng)險也越來越大，數(shù)據(jù)和人工智能安全將被視為可信賴人工智能配方中更重要的一部分。
組織將繼續(xù)學(xué)習(xí)人工智能的優(yōu)勢與威脅的對比（Mark Hughes，IBM 網(wǎng)絡(luò)安全服務(wù)全球執(zhí)行合伙人）
隨著人工智能從概念驗證階段逐漸成熟到大規(guī)模部署，企業(yè)獲得了生產(chǎn)力和效率提升的好處，包括自動化安全和合規(guī)任務(wù)以保護其數(shù)據(jù)和資產(chǎn)。但組織需要意識到人工智能正被用作威脅行為者破壞長期安全流程和協(xié)議的新工具或渠道。企業(yè)需要采用人工智能的安全框架、最佳實踐建議和防護措施并快速適應(yīng)——以應(yīng)對人工智能快速發(fā)展帶來的好處和風(fēng)險。
更好地了解人工智能輔助威脅與人工智能驅(qū)動威脅（Troy Bettencourt，IBM X-Force 全球合作伙伴兼負責(zé)人）
防范 AI 輔助威脅；為 AI 驅(qū)動的威脅做好規(guī)劃。AI 驅(qū)動的威脅和 AI 輔助威脅之間存在區(qū)別，包括組織應(yīng)如何考慮其主動安全態(tài)勢。迄今為止，AI 驅(qū)動的攻擊（如深度偽造視頻詐騙）一直受到限制；當(dāng)今的威脅仍然主要是 AI 輔助的——這意味著 AI 可以幫助威脅行為者創(chuàng)建現(xiàn)有惡意軟件的變體或更好的網(wǎng)絡(luò)釣魚電子郵件誘餌。為了應(yīng)對當(dāng)前的 AI 輔助威脅，組織應(yīng)優(yōu)先為自己的 AI 解決方案實施端到端安全性，包括保護用戶界面、API、語言模型和機器學(xué)習(xí)操作，同時注意防御未來 AI 驅(qū)動攻擊的策略。
這些預(yù)測傳達出一個非常明確的信息：了解人工智能如何幫助和傷害一個組織，對于確保您的公司及其資產(chǎn)在 2025 年及以后受到保護至關(guān)重要。
