夢晨 發(fā)自 凹非寺
量子位 | 公眾號 QbitAI
有多少龍蝦在互聯(lián)網(wǎng)上裸奔論文？
AI智能體帶著你的密碼和API密鑰暴露給全網(wǎng)論文。
Transformer作者 Illia Polosukhin看不下去了論文。出手從零重構(gòu)了安全版龍蝦： IronClaw。
功能
OpenClaw
IronClaw
核心語言
Type
Rust
憑證處理
直接暴露給AI智能體
加密存儲論文，LLM無法訪問
工具執(zhí)行
在主環(huán)境中運行
WASM沙箱隔離運行
部署環(huán)境
標準服務(wù)器
可信執(zhí)行環(huán)境（TEE）
數(shù)據(jù)隱私
存在泄露風險
本地加密論文，無遙測數(shù)據(jù)
IronClaw目前已在GitHub上開源，提供macOS、Linux和Windows的安裝包，支持本地部署，也支持通過云端托管論文。項目仍處于快速迭代階段，v0.15.0版本的二進制文件已可下載。
Polosukhin（以下簡稱菠蘿哥）還在Reddit論壇開貼回應(yīng)一切，關(guān)注度頗高論文。
展開全文
OpenClaw火了論文，但也“著火”了
菠蘿哥本人也是OpenClaw的早期使用者，并稱這是他等了20年的技術(shù)論文。
它已經(jīng)改變了我與計算交互的方式論文。
它已經(jīng)改變了我與計算交互的方式論文。
然而OpenClaw的安全狀況堪稱災(zāi)難，一鍵式遠程代碼執(zhí)行、提示注入攻擊、惡意技能竊取密碼，這些漏洞在OpenClaw的生態(tài)系統(tǒng)中被逐一曝光論文。
超過25000個公開實例在沒有充分安全控制的情況下暴露在互聯(lián)網(wǎng)上，被安全專家直接稱為「安全垃圾火災(zāi)（security dumpster fire）」論文。
問題的根源在于架構(gòu)本身論文。
當用戶將自己的郵箱Bearer Token交給OpenClaw時，會被直接送入LLM提供商的服務(wù)器論文。
菠蘿哥在Reddit上指出這意味著什么論文：
你所有的信息，甚至包括你沒有明確授權(quán)的數(shù)據(jù)，都可能被該公司的任何員工訪問到論文。這同樣適用于你雇主的數(shù)據(jù)。不是說這些公司有惡意，但現(xiàn)實就是用戶沒有真正的隱私。
你所有的信息，甚至包括你沒有明確授權(quán)的數(shù)據(jù)，都可能被該公司的任何員工訪問到論文。這同樣適用于你雇主的數(shù)據(jù)。不是說這些公司有惡意，但現(xiàn)實就是用戶沒有真正的隱私。
他表示，再多的便利也不值得拿自己和家人的安全與隱私去冒險論文。
用Rust從零重建一切
IronClaw是用 Rust語言對OpenClaw的完全重寫論文。
Rust的內(nèi)存安全特性能從根本上消除緩沖區(qū)溢出等傳統(tǒng)漏洞，這對于需要處理私鑰和用戶憑證的系統(tǒng)至關(guān)重要論文。
在安全架構(gòu)上，IronClaw建立了四層縱深防御論文。
第一層是Rust本身提供的內(nèi)存安全保證論文。
第二層是WASM沙箱隔離，所有第三方工具和AI生成的代碼都在獨立的WebAssembly容器中運行，即使某個工具是惡意的，其破壞范圍也被嚴格限制在沙箱之內(nèi)論文。
第三層是加密憑證保險庫，所有API密鑰和密碼都使用AES-256-GCM加密存儲，每一條憑證都綁定了策略規(guī)則，規(guī)定它只能用于特定域名論文。
第四層是可信執(zhí)行環(huán)境（TEE），利用硬件級別的隔離保護數(shù)據(jù)，即使是云服務(wù)提供商也無法訪問用戶的敏感信息論文。
這套設(shè)計中最關(guān)鍵的一點是： 大模型本身永遠接觸不到原始憑證論文。
只有當智能體需要與外部服務(wù)通信時，憑證才會在網(wǎng)絡(luò)邊界被注入論文。
菠蘿哥舉了一個例子，即使大模型被提示注入攻擊，試圖將用戶的Google OAuth令牌發(fā)送給攻擊者，憑證存儲層也會直接拒絕這個請求，記錄日志，并向用戶發(fā)出警報論文。
然而開發(fā)者社區(qū)還是不放心論文，畢竟OpenClaw有2000多個公開實例被攻擊，以及存在大量惡意技能，IronClaw一旦走紅會不會重蹈覆轍？
菠蘿哥的回應(yīng)是， IronClaw的架構(gòu)設(shè)計已經(jīng)從根本上堵住了OpenClaw的核心漏洞論文。憑證始終加密存儲且從不接觸LLM，第三方技能無法在主機上執(zhí)行腳本，只能在容器內(nèi)部運行。
即便通過CLI訪問，也需要用戶的系統(tǒng)鑰匙串來解密，拿到的加密密鑰本身沒有意義論文。
他同時表示，隨著核心版本趨于穩(wěn)定，團隊計劃進行紅隊測試和專業(yè)安全審查論文。
關(guān)于 提示注入這個業(yè)界公認的難題，菠蘿哥給出了更詳細的思路論文。
但他也承認， 提示注入不僅可能竊取憑證，還可能直接篡改用戶的代碼庫或通過通訊工具發(fā)送惡意消息論文。
應(yīng)對這類攻擊需要一套更智能的策略系統(tǒng)，能夠在不查看輸入內(nèi)容的情況下審查智能體的行為意圖，“還需要更多工作，歡迎社區(qū)貢獻”論文。
有人問到本地部署和云端部署的取舍論文。
菠蘿哥認為純本地方案存在明顯局限，設(shè)備關(guān)機時智能體就停止工作，移動端的能耗難以承受，復雜的長時間任務(wù)也無法運行論文。
他認為 機密云（confidential cloud）是目前的最優(yōu)折中方案，既能提供接近本地設(shè)備的隱私保障，又能解決「永遠在線」的問題論文。
他還提到一個細節(jié)：用戶可以設(shè)置策略，例如在跨境旅行時自動添加額外的安全屏障，防止未經(jīng)授權(quán)的訪問論文。
一個更大的野心
菠蘿哥并非普通的開源開發(fā)者論文。
2017年，他作為八位共同作者之一發(fā)表了「Attention Is All You Need」，其中提出的Transformer架構(gòu)奠定了當今所有大語言模型的基礎(chǔ)論文。
雖然在署名中他排最后，但論文中有一條腳注寫著「Equal contribution. Listing order is random.」排名純屬隨機論文。
但同年他從谷歌離職，創(chuàng)立 NEAR Protocol，致力于將AI與區(qū)塊鏈技術(shù)融合論文。
IronClaw背后是NEAR Protocol一個更大的戰(zhàn)略構(gòu)想： 用戶自有AI（User-Owned AI）論文。
在這個愿景中，用戶完全掌控自己的數(shù)據(jù)和資產(chǎn)，AI智能體在可信環(huán)境中代替用戶執(zhí)行任務(wù)論文。
NEAR已經(jīng)為此搭建了AI云平臺和去中心化GPU市場等基礎(chǔ)設(shè)施，IronClaw是這套體系的運行時層論文。
菠蘿哥甚至開發(fā)了一個 智能體互相雇傭的市場論文。
在NEAR的market.near.ai上，用戶可以將自己專業(yè)化的智能體注冊上線，隨著智能體積累聲譽，它將獲得更多高價值的任務(wù)論文。
當被問到普通人未來五年如何適應(yīng)AI時代時，菠蘿哥的建議是盡快采用AI智能體的工作方式，學會將完整的工作流程交給它自動化處理論文。
他的這種判斷并非近期才突然產(chǎn)生論文。
早在2017年創(chuàng)立NEAR AI時，菠蘿哥就在告訴所有人“未來你只需要和計算機對話，不再需要寫代碼”論文。
當時人們覺得他們瘋了，是在說胡話論文。
九年過去了，這件事正在變成現(xiàn)實論文。
“AI智能體是人類與線上一切交互的終極界面，”Polosukhin寫道，“但讓我們把它做得安全論文。”
GitHub地址論文：
參考鏈接論文：
[1]
