在網路安全方面做好準備迎接 AI 的未來
如今，AI 已深入人心。以 OpenAI 的 ChatGPT 為代表的大型語言模型 (LLM) 激發了我們的想像力：我們正目睹生成式 AI 在建立創新解決方案方面所展現的全新可能性。
作為安全專業人員，我們正在思考網路罪犯如何使用 AI 來建立新型攻擊並強化現有方法。同時，我們也在探討防禦性 AI 的應用，並探索使用 AI 更好地偵測和抵禦威脅的方法。
儘管如此，還是有太多組織只關注 AI 現在或短期內可以做什麼。很少有人能夠預見到 AI 在 5 年、10 年或 20 年後可能對我們的業務和生活產生的巨大影響。不過，我們需要設想這樣的未來，因為要做 好充分的準備，我們必須現在就開始規劃。
瞭解當下，展望未來
AI 仍然是一項尚未成熟的技術。儘管機器學習 (ML) 更加成熟，但其應用仍處於早期階段。如今，各組織主要在收集資料並進行基礎分析。一些組織正在嘗試使用 LLM 產生文字，或使用融入 AI 的設計工具創作獨特的插畫。但真正的 AI 推斷尚未實現：即使某些供應商聲稱可以，模型也無法從即時資料中得出結論或產生有意義的見解。
當我們嘗試將 AI 與機器學習 ML 應用於產生文字或影像之外的任務時，這種缺乏推斷能力的問題就變得非常明顯。在我攻讀資料科學與機器學習碩士學位期間，我們曾進行一個專案，試圖預測哪些棒球選手會入選名人堂。我們所建立的模型發現，最具預測力的指標是「擊球次數」——也就是一名選手在整個職業生涯中擊球的次數。簡單來說，職業生涯越長、擊球次數越多，入選名人堂的可能性就越高。
這是一個有趣的結果，但模型本身無法從中得出任何深入的見解。模型無法告訴我們，為什麼「擊球次數」可能是最佳的預測指標。然而，我們人類卻能理解：要擁有一段長時間的職業生涯，並累積大量的擊球次數，你必須是一位優秀的球員。而且，當你擁有大量擊球次數時，你自然也更容易擊出一定數量的安打與全壘打。
當模型開始理解語 意並具備推斷能力時，我們才會看到 AI 帶來更具顛覆性的影響。
考慮到 AI 的發展速度之快，推斷能力可能會在我們還未完全意識到之前就已經實現。想想看，LLM 在過去幾年中取得了多大的進步。它們已經從僅能提供基本的文字補全功能，發展到能夠支援強大的基於文字的對話，不僅能處理長篇提示詞、接受視覺輸入，還能在不同會話之間保持上下文連貫性。與此同時，運算能力的持續提升，也讓這些模型能夠更快地擷取並從越來越多的資料中學習，進而幫助它們產生更優質、更準確的輸出結果。
未來二十年，AI 與其他先進技術很可能會大幅重塑我們的世界。舉例來說，擁有私家車的人可能會變少，因為我們能夠按需召喚全自動駕駛汽車。雜貨購物、家務清潔、草坪修剪等日常事務，也可能會因技術進步而變得更高效、更便捷。
沒錯，未來 AI 確實有可能改變我們現在的許多工作崗位。以科技產業為例，未來我們可能不再需要親自撰寫程式碼。然而，我們仍然需要專業人才來理解如何設計符合商業需求的 AI 解決方案、如何管理這項技術，以及如何確保它的安全性。
踏出長期策略的第一步
如何在今天開始製定策略，以幫助組織在未來實現 AI 價值的最大化？
瞭解技術 ：建立長期 AI 戰略的第一步是充分瞭解該技術，這樣才能有效地加以運用。您不必成為資料科學或 ML 方面的專家，但作為一位安全領導者，您應該瞭解攻擊者是如何運用 AI 的，以及您的團隊可以如何應用 AI 來預測並防禦這些威脅。
同時，您也應該開始思考，您的組織要如何彙整資料集——這是 AI 與 ML 能夠有效運作的基礎。然後，您需要保護這些彙整資料集的安全性。規劃支援企業使用案例：目前，一些企業急於採用 AI，以至於一開始就專注於選擇最優秀的 ML 模型，然後才試圖尋找可以解決的商業問題。但正確的做法應該是先明確需要解決的商業問題。以企業需求為導向，而非以技術為出發點，這一點至關重要。
哪些類型的商業問題適合由 AI 來解決？許多重複性高的工作（例如會議摘要整理或初始客戶服務請求的回覆）已經能夠由 AI 自動處理。
未來，組織可以在更多場景中運用 AI 與 ML，讓模型能夠從實際經驗與外部輸入中持續學習。舉例來說，在銀行業，詐騙防範團隊可以採用 AI 技術，透過分析實際發生的詐騙案例與結果，來提升詐騙偵測的準確性。此外，各個產業的行銷團隊也能利用 AI 來簡化內容創作流程：他們可以輸入寫作偏好與風格，並提供回饋意見，讓模型根據這些輸入不斷學習，進而改善後續結果。
作為安全領導者，我們需要開始規劃這些以及其他業務使用案例。我們 需要找到方法，幫助業務團隊將 AI 融入其工作流程，以解決業務問題，同時又不損害合規性和安全性。
實現安全現代化
為了迎接 AI 的未來，我們需要實現安全現代化——而且我們必須立即開始。許多安全團隊仍在沿用過去 15 年或 20 年以來的運作方式。他們被動地應對最新威脅，並部署多個單點解決方案來修補漏洞。但這種方法導致了我們現在的處境：每天都有越來越多的外洩事件發生。我們需要減少對「下一款偉大單點產品」的迷戀，而應該更加專注於我們的核心使命——保護我們的客戶、員工以及企業本身。
安全團隊的應對步伐相對滯後，而攻擊者卻在迅速推進他們的技術。在不遠的將來，我們將看到更多嘗試繞過網路安全 AI 模型的行為，這些攻擊會利用那些未被納入模型訓練範圍的資料來實施繞過。我們還將看到由 AI 驅動的惡意程式碼能夠從防禦方法中學習，並快速修改其攻擊方式。
為了實現安全現代化，我們必須重新思考：我們需要哪些工具？需要哪些技能？以及我們應該如何開展工作？展望未來 5 年、10 年甚至 20 年的發展方向，將有助於我們釐清今天該採取哪些行動。以下是關於啟動現代化的四項建議：
實施正確的技術和工具：要實現安全現代化，就必須採 用先進的工具。組織需要能夠自動預測並偵測新型 AI 驅動威脅的技術。如今，如果我們發現某個新的 IP 位址試圖透過 VPN 連接至 Cloudflare，我們的 SOC 團隊可能必須手動撰寫一條靜態規則來阻止該存取。但這樣做只是針對單一問題進行處理，而非從根本上解決更廣泛的威脅。
未來，我們很可能會採用內建 AI 與 ML 能力的工具，這些工具能夠自動識別並緩解這類威脅。
此外，具備 AI 能力的工具還能幫助我們簡化合規流程。例如，當新法規出台時，這些工具可能會自動建議調整控制措施或政策，從而確保企業持續符合最新法規要求。彌補技能缺口：由於 AI 將接管部分基礎性任務，IT 與安全團隊將需要更多具備高階技能的人才。IT 團隊需要具備資料科學、ML 和神經網路專業知識的人才。
與此同時，IT 與業務團隊也將需要具備領域專業知識的人才。舉例來說，如果您希望運用 AI 來提升醫療決策品質，就必須與醫療專業人員合作。資料科學本質上應該是電腦科學、數學和統計學，以及領域知識三者的交集。
安全團隊則需要能夠解讀 AI 模型所產生結果的人才，並根據這些結果來調整策略或政策，以應對不斷演變的威脅。我見過最常見的錯誤之一，就是單純聽取模型的輸出結果，卻不理解其背後的真正含義。記得那個關於棒球名人堂的例子嗎？如果我們只聽從模型的結論（擊球次數是預測誰能進入名人堂的最佳指標），年輕球員可能會誤以為他們只需要專注於累積最多的擊球次數。但事實上，他們應該專注於提升自身技能，才能擁有一段長期且傑出的職業生涯。調整營運模式：安全團隊也必須改變他們的營運方式。未來我們是否仍需要一支 250 人規模、遍布全球的 SOC，並且全年無休地運作？或許我們仍然需要全天候營運，但我們很可能能夠透過電腦來完成許多原本由人類執行的任務，從而讓人力可以專注於更高價值的任務。
我們有可能在未來 5 到 10 年內實現一個「自主 SOC」——這意味著我們現在就應該開始制定一套營運計畫，明確它將如何運作。由於安全環境的複雜性，我們需要這樣一段準備時間。光是保障這些環境的安全就已經非常困難，再將 AI 納入其中，挑戰將會更大。
如果我們能夠透過自主 SOC 節省一些時間，那麼我們也需要投入更多時間來維護資料的完整性，並持續確保符合法規要求。隨著我們在內部越來越多地使用 AI 模型，我們需要管理和控制的資料量也將大幅增加。我們必須清楚資料存放的位置，確保其準確性，並能夠保障其機密性。
目前關於 AI 治理的討論很多，但其中最重要的因素仍然是資料。全球已經有眾多法律規範了我們可以如何以及在哪裡使用和儲存資料。安全團隊必須確保他們所屬的組織能夠持續遵守資料主權法以及資料隱私相關規定。如果 IT 團隊改變 AI 模型的執行位置，例如將資料從雲端遷移回內部部署環境，合規工作可能會變得更加困難。開始整合技術合作夥伴：當您使用來自眾多供應商的解決方案時，彙總資料並產生所需的 AI 驅動見解可能會變得非常困難。我們的 IT 與安全環境本已十分複雜，若還需管理眾多不同的解決方案，無疑會增加額外負擔。為長遠計，您應該開始整合所使用的解決方案。與四到五家核心合作夥伴合作，遠比試圖從 50 個不同的來源管理資料要簡單得多。
展望未來，規劃現在
AI 已經到來，但其對我們的工作和生活的影響才剛初露鋒芒。身為安全領導者，我們必須立即著手規劃，以應對即將到來的變革。透過制定適當的長期策略，我們將能夠更好地支持企業內部將 AI 應用於企業目標，運用 AI 來強化網路安全防線，並有效抵禦由 AI 驅動的新型威脅。
立即瞭解 Cloudflare 如何幫助您的組織開始在 Cloudflare 的全球網路上建置和部署 AI 應用程式，並探索如何借助 Cloudflare 的全球連通雲實現面向 AI 未來的網路安全現代化。
Cloudflare 就影響當今技術決策者的最新趨勢和主題發表了一系列文章，本文為其一。
深入探討這個主題。
閱讀面向 CISO 的《AI 安全指南》，瞭解如何在網路安全方面為 AI 的未來做好準備。
作者
——Cloudflare 資安長 Grant Bourzikas (@rantbourzikas)
重點
閱讀本文後，您將能夠瞭解：
現在就開始規劃對於保護 AI 未來的重要性
制定長期策略的 2 個首要步驟
有關網路安全現代化的四項建議