X10
免費閱讀10 次瀏覽

Cloudflare CTO Dane Knecht:AI 引爆漏洞末日,也是解方;一千名實習生與 agent 時代的網路經濟

站長

Cloudflare CTO Dane Knecht:AI 引爆漏洞末日,也是解方;一千名實習生與 agent 時代的網路經濟

在 Cloudflare Connect 現場,No Priors 主持人 Sarah Guo 和 Cloudflare CTO Dane Knecht 坐下來聊 AI 代理人時代的資安。Sarah Guo 一開場就先開玩笑:Knecht 這個姓唸起來就像 Connect,簡直是為 Cloudflare 的價值主張量身打造。Dane Knecht 笑說內部早就在開玩笑,明年乾脆把大會改名,但真正的主題很嚴肅:AI 正在引發一場資安危機,而解方同樣是 AI。

一年像十年:從「讓大家用 AI」到「AI 資安是什麼」

Dane Knecht 形容過去一年像是把十年壓縮成一年。Cloudflare 的使命十五年來沒變,就是打造更好的網際網路,但優先順序一直在換。一年前大家關心的是怎麼讓每個人都用上 AI、怎麼輕鬆部署 agent;就像多數技術轉型一樣,資安原本是事後才想到的事,現在突然變成每家公司都在搶著回答的問題。

這有兩面:一是怎麼避免 AI 把公司資料外洩,二是怎麼擋住外面的人闖進來。他觀察到最近三到六個月,通報的漏洞數量呈指數成長。以前 Log4j 或 Shellshock 等級的事件大概一年一次,每次 Cloudflare 都全員動員,不只保護企業客戶,也保護所有免費用戶,因為他們把這視為公共財。現在這種等級的事件幾乎每週都有,只是很多沒有公開。

他預期接下來 18 個月,大多數團隊的時間都會花在資安上,Cloudflare 當天的主題演講就提到超過 50% 的工程時間會投入資安。但他不認為這會永遠持續:AI 總有一天會掃過大部分的程式碼,找出大部分的 bug 和偷懶的捷徑。

他舉了一個當天正在網路上發酵的例子:一把保護 TLS 與 WebPKI 的金鑰,產生時用的隨機種子竟然就是數字 4。密碼學靠的是隨機性,這也是 Cloudflare 辦公室裡擺著一整面熔岩燈牆來產生亂數的原因。種子只是一個 4,就注定會被逆向工程出來。AI 不用睡覺,不像過去那位獨自做紅隊測試的工程師,而且不只模型變強,搭配模型的工具與人類使用前沿模型的方法也一起進步。

攻擊者是誰?高中生和他們的 agent

Sarah Guo 問,這些攻擊背後是國家級駭客,還是腳本小子?Dane Knecht 的答案出乎意料:最近幾個重大漏洞,很多不是國家發現的,而是高中生。Sarah Guo 立刻幫他們取了新名字:「agent kiddies」。這些人以前就玩 CTF 資安競賽,現在把 agent 指向某個領域讓它去挖,還能拿到金額可觀的漏洞賞金。過去只有國家才擁有的能力,現在交到了一般大眾手上。

不必悲觀到要把一切斷網

Sarah Guo 說,這是她十五年來第一次聽到嚴肅的技術人士說「重要的東西乾脆全部實體隔離」,甚至預期關鍵基礎設施與政府服務終究會倒。Dane Knecht 沒那麼悲觀。他認為人類很能適應,需要時也能動得很快;每到這種時刻,平常的競爭對手都會放下競爭,一起保護關鍵基礎設施。

更具體的理由是,過去五到十年產業從「城堡加護城河」式的邊界防護,轉向零信任架構。不再是「這間辦公室完全隔離」,而是每台裝置、每條資料流各自以不同方式保護,這讓很多公司處在比較有利的位置。

先補 70 年的軟體,再改寫開發流程

Sarah Guo 提到,她上週在 No Priors 訪問 Greg Brockman 時,他預估 2027 年企業花在資安 token 上的錢會和花在工程上的一樣多。是什麼會推動這個轉變?Dane Knecht 的回答很直接:緊急狀況。未來 18 個月,資安支出會被往前拉,同時投入紅隊攻擊測試與防禦。之後新軟體的生產力會大幅提升,因為資源會回到開發上。

他說現在要補的是 70 年累積下來的軟體,有一部分只是追進度。往後看,軟體開發生命週期,或說 agent 開發生命週期,都必須改變。就像現在能用 AI 做紅隊測試,未來資安會內建在流程的每一步,軟體會隨時間變得更安全。

減少攻擊面,但 AI 天生愛寫長

談到怎麼一開始就寫出安全的軟體,Dane Knecht 回到第一原則:減少攻擊面。漏洞能藏的地方越少越好,所以要不斷問「能不能更簡單、程式碼能不能更少」,再加上形式化驗證、更安全的程式語言與執行環境。問題是早期的 AI 很囉嗦,喜歡製造複雜度。Sarah Guo 也心有戚戚焉,她常常得叫模型「用十分之一的複雜度再試一次」。

Dane Knecht 認為這得在每一層解決:訓練寫程式的工程師,資安團隊仍要當第二雙眼睛,也要建立流程。Cloudflare 內部有一份叫 Codex 的文件,彙整各團隊的 RFC,寫明在 Cloudflare 怎麼打造安全、高可用的軟體,最後濃縮成 agent 能遵守的「十誡」,用在每一個審查環節。前線有 agent 大量產出程式碼,工廠深處則由工程師負責效能與資安測試,對抗式的審查不能少。

混亂的中間期:人和 agent 擠在同一條軌道上

agent 帶來的網路流量成長,超出多數人的預期。Dane Knecht 說,我們正處在「混亂的中間期」:人類和 agent 走在同一套為人類設計的網路上,agent 要解析給人看的網頁,效率很差。人會逛網站、看廣告、參與既有的經濟模式;agent 卻能在同樣時間讀一千個網頁,這很好,但需要新的經濟模式來支撐。

Sarah Guo 問,會不會分成人類網路和機器網路?他認為會,內容應該用各自適合的方式送到人和 agent 面前,而不是逼雙方在同一處相遇。現在很多公司在做「幫 agent 讀網頁」的翻譯層,其實只是在燒不必要的 token。網站本來就知道自己有哪些資料,API 也存在多年,只是 API 只涵蓋網路上一小部分資訊,而 agent 想理解一切。

他的設想很簡單:像 Substack 這樣的內容網站,本來就知道自己的廣告 CPM。agent 讀到網站時,可以決定要不要讀、要不要付這個 CPM 的價格。這需要每秒能處理數百萬筆小額支付的新金流。他自嘲微支付這件事講了好多年,永遠都是「再兩年就到了」,但這次 agent 可能真的會把它推上路,為內容創作者帶來新的經濟模式。

對於像 Instinct 和 Muse 這類個人 agent,Dane Knecht 認為很多業者還不確定生意最後會長什麼樣子。網際網路曾被說會殺死實體小店,結果小商家依然活得好好的,但確實有一部分人被取代,所以大家難免懷疑,第一反應就是封鎖。他舉 Amazon 不讓 agent 代客購物為例,認為這是混亂中間期裡各方在摸索出路、保留談判籌碼。他相信個人 agent 終究能像人一樣順暢完成任務,只是技術和商業模式都還沒完全跟上。

Monetization Gateway、Signals 與 HTTP 402

Cloudflare 推出了 Monetization Gateway,讓網站放在 Cloudflare 後面就能對內容收取小額費用,並提供給 agent 用的錢包與穩定幣來完成交易。另一個是和 OpenAI 合作的 Signals 專案,讓 agent 不必一再爬整個網路,而是主動得知哪些內容是新的。AI 實驗室省事,網站也不必一直被爬、替爬蟲付基礎設施成本。

他也很喜歡 Stripe 推出的 x402,因為它回到 HTTP 的 402 狀態碼。這個「需要付款」的代碼早在三十多年前就被預留,大家一直知道網路需要更好的付款管道,只是始終沒做出來,他認為 agent 會帶我們走到那一步。

至於內容創作者的成功長什麼樣子?他的答案是:不是創作者付錢給 Cloudflare,而是 Cloudflare 付錢給創作者,幫他們負擔基礎設施成本、支撐生計。上一代網路靠 YouTube、TikTok、X 擴大了創作者的數量,這一代有機會讓它再以指數級成長。

Cloudflare OS:最常用的是業務和行政團隊

Cloudflare 也推出了 Cloudflare OS,這原本是員工每天使用 AI 的內部平台。起點同樣是資安:他們擔心客戶與內部資料外洩,希望員工能用所有新的 AI 工具與模型,同時清楚掌握資料怎麼流動,也有良好的治理。另一個原因是,當 agent 越來越多,Cloudflare 需要教它們「在 Cloudflare 怎麼做事」。過去對人類靠的是內部大學、新人訓練和同事帶,現在得更明確地寫下來給 agent 看。

Sarah Guo 問,為什麼要把一個面向終端使用者的產品公開?Dane Knecht 說它本質上是一套參考架構。Cloudflare 的開發者平台從一個簡單的 serverless 運算元件,發展到超過 100 種工具,Cloudflare OS 示範怎麼完全建立在 Cloudflare 上,大家也可以 fork 一份,做自己公司的 OS。

最有意思的是,Cloudflare OS 最常被業務與行政團隊使用,比工程團隊還多。他們發現訓練是員工用 AI 的最大缺口,丟給人一個聊天介面,對很多人來說太像一張白紙。依照公司運作方式設計好的平台,讓人一進去就拿得到需要的資料、被一步步引導,很快就明白「這不是要取代我,是讓我把工作做得更好」。這場大會本身,行銷團隊就做了上百個內部工具,以前要找不同外包代理商,現在小團隊就能飛快推進。

AI 優先的重組:三個團隊變成一個工具

Cloudflare 在 5 月進行了重組,Dane Knecht 坦言這很難,要和一些同事道別,也是公司第一次這麼做,因為他們一向很小心不過度招募。這次是因為看到 AI 改變了一些團隊的工作方式,就像工廠產線,得重新設計。

他舉了一個例子:以前產品經理要寄信給一群客戶,得找 BI 團隊撈出名單、找行銷團隊設計信件與調整語氣、再找行銷營運團隊發送。不做出硬性改變,這個流程永遠不會被重新設計。現在的做法是一個工具:產品經理描述要寄給誰、寫好信,工具會改寫成 Cloudflare 的語氣,送給主管按核准就寄出。不是三個團隊變快,而是產品經理多了一項以前沒有的超能力。

由誰來改造流程?他說 Cloudflare 永遠有一千件想做的事,他們看重的是主動與當責,只要員工真心投入,前一百件裡的任何一件大概都值得做。去年初先把工具交給員工,看誰積極投入,很快就自然分出一群真正帶頭的人,所以這是由下而上推動的。

Token 預算:花太多會收到一封信

談到 token 預算,Sarah Guo 認為讓人類決定每個任務該用哪個模型其實很傻,應該要自動智慧分流,Dane Knecht 也完全同意。早期只能靠人工實驗:規劃階段用頂尖前沿模型,計畫定案後交給開源模型執行,最後再用前沿模型做審查與紅隊測試。他預期這會逐漸自動化,治理也會越來越完善。

Cloudflare 讓員工自由選用模型和工具,沒有 token 排行榜,也不鼓勵這種做法,員工的評量看的是做出了什麼、推出了什麼,不是用了多少。但他們會發提醒:一天用到 300 美元,你會收到一封「你知道嗎?」的信,多數人根本沒發現自己花了這麼多;到 500 美元會通知主管,到 1,000 美元會通知 VP。這種情況很少發生,而且大家通常很高興收到提醒。

一千名實習生

Dane Knecht 說,兩年前 Cloudflare 大約有 200 名實習生,那是第一批真正 AI 原生的人,把 AI 拿走他們大概沒辦法工作。Sarah Guo 驚呼「喔不,這樣好嗎?」他認為是好事,就像把 Google 拿走,他自己這十年也不知道該怎麼學東西。更關鍵的是,帶這些實習生的主管,導入 AI 的速度也變快了。

於是今年 Cloudflare 決定招募一千名實習生。Sarah Guo 確認了一下:「一家五千人的公司?」對,整年下來。他說實習生帶來大量點子,而 AI 讓更少的人就能更快實驗;更重要的是看他們怎麼用 AI:要填表單,第一個反應就是找 AI。他坦言自己還常常發現某件事一直在手動做,才想到「等等,這應該用 AI」,對多數人來說這還不是本能,需要時間。

Sarah Guo 分享,她經營的小型合夥事業團隊約十來人,平常總有一兩個實習生帶來點子和衝勁,最近還把一位大學實習生轉成正職,讓他直接休學。她認為對這些工具真正原生的人,比例確實該調高。Dane Knecht 也提到 Waterloo、Northeastern 的 co-op 建教合作制度,這類有真實工作經驗的人,多年後往往是公司最好的員工。

Sarah Guo 覺得很鼓舞人心:Cloudflare 不是畫一張總藍圖,把每個部門的流程都盤點一遍再重新設計,而是相信員工拿到用量資訊後會理性使用 token、招一大群實習生、相信高主動性的人會自己把流程變聰明。Dane Knecht 補充,今年 1 月他們開了一個 Agents at Cloudflare 的信箱,讓員工寄來想用 AI 處理的工作,回信會附上對應的 skill 檔。好一陣子大家都以為那是全自動的 AI,其實背後是一群實習生在幫忙寫 skill 檔。這種方式比請顧問公司來盤點每項工作更有效。

好奇心是基本要求

招募上,Cloudflare 一向最看重好奇心。Dane Knecht 說,如果一個人在私生活裡都不用 AI,那是很大的警訊,有好奇心的人怎麼可能不擁抱 AI?驅動力、好奇心、同理心這些特質,在下一批人身上會更重要。Sarah Guo 自稱永遠是所有產品和技術的搶先試用者,所以她認為反面就是恐懼與懷疑。Dane Knecht 也說,Cloudflare 服務的網站數量與免費服務的規模,用現成技術根本做不到,需要能發明新做法的人,而那從好奇心開始。

四五個紅隊,以及「不推出就是在等死」

如果一半的工程師要去修 70 年的漏洞,該怎麼做?Dane Knecht 說 Cloudflare 現在有一個紅隊,到年底大概會有四到五個,讓更多人以更具攻擊性的角度主動找漏洞。為什麼不是先把修補流程做好?他說流程永遠可以更好,但最好的改善往往來自危機。當漏洞多到工程團隊用平常流程處理不完,工程師「好的那種懶」就會發揮作用,把修補自動化。所以重點應該放在發現漏洞。

那資安和推出新功能怎麼取捨?他的答案是兩個都要。「不推出就是在等死」是 Cloudflare 的思考方式,所以不會凍結開發,可能犧牲的是成本優化之類的項目。做得對的話,有了 AI,兩件事都能做得更快。AI 引發了這場資安末日,也是能更快解決它的工具。

開源模型與資安民主化

開源還是封閉模型?Sarah Guo 整理了兩方說法:攻擊與防禦能力存在同一個模型裡,開放防禦模型就等於開放攻擊能力;但只把資安能力留在少數封閉的前沿模型,又無法把它交到所有需要防守的人手上。Dane Knecht 認為長期來看一切都會開放,因為壞人總會拿到,頂尖公司也會拿到,限制只會排除最需要它、卻沒有管道的一大群人。

最後,那些養不起四個紅隊、甚至從沒有紅隊的重要系統怎麼辦?他的第一個答案很直接:把網站和基礎設施放到 Cloudflare 後面,在 Cloudflare 上開發。像去年 React 那個重大漏洞,Cloudflare 的防護不只給有進階防火牆和 WAF 的付費客戶,而是給所有網站,因為他們把這視為提供的公用服務之一。就像 Cloudflare 創立前,全世界大概只有 3,000 個網站用得起大規模 CDN,現在有數億個網站都在用。讓資安與效能民主化,一直是 Cloudflare 的目標。

Sarah Guo 收尾時總結這集的兩個新詞:「agent kiddies」,以及漏洞末日(vulnpocalypse),還順便確認自己發音對不對,接著補上一句:但它是可以解決的。

這對讀者代表什麼

如果 Dane Knecht 的判斷沒錯,接下來一年半是資安的緊急期:漏洞發現的速度被 AI 推高,修補能力卻還沒跟上。對企業來說,零信任架構、減少攻擊面、把資安內建到開發流程,不再是加分題;對一般使用者來說,更新軟體、選擇有能力處理大型漏洞的服務商,比以往更重要。

另一條線是網路經濟模式的改寫。當 agent 成為主要讀者,靠廣告維生的內容網站需要新的收費方式,微支付和穩定幣可能第一次有了真正的使用場景。而 Cloudflare 自己的做法,用一千名實習生、token 用量提醒和由下而上的流程改造來推動 AI 轉型,也是很值得企業參考的組織實驗。

未來投資可以留意的方向

  • 資安支出前移:紅隊測試、漏洞掃描、修補自動化與零信任相關的資安公司,未來 18 個月可能迎來需求高峰。
  • 網路基礎設施與邊緣服務:Cloudflare 這類同時提供 CDN、WAF 與開發者平台的業者,在 agent 流量成長下的角色。
  • agent 支付與微支付:HTTP 402、x402、穩定幣錢包與內容收費閘道,是否真的形成規模化交易。
  • 內容授權與爬蟲經濟:AI 實驗室與內容網站之間的新分潤模式,以及創作者收入的變化。
  • 企業內部 AI 平台與治理:模型智慧分流、token 成本管理與資料治理工具。
  • 開源模型的資安應用:開源防禦能力普及後,中小企業與公共部門的資安服務市場。

來源(聽後整理)

延伸閱讀