近日，“龍蝦”（OpenClaw）火遍全網(wǎng)。它是由外國程序員開發(fā)的一款開源的、可部署在本地電腦或服務(wù)器上的人工智能代理軟件，因其標(biāo)志為一只紅色的卡通龍蝦，故被稱為“?龍蝦?”。與僅用于對話的AI軟件不同，“龍蝦”通過整合多渠道通信能力與大語言模型，具備了持久記憶、主動執(zhí)行能力，是一款定制化的AI助手。

想象一下，你不再需要親自打開一個個軟件，只需對電腦輸入一句指令：“整理上周的會議記錄和郵件，按項目分類，并生成待辦清單發(fā)送至手機”，片刻之后任務(wù)便自動完成。這樣近乎科幻的場景，因“龍蝦”的出現(xiàn)已初步實現(xiàn)。因此，它的快速走紅不足為奇。從民間極客到產(chǎn)業(yè)巨頭再到地方政府，都對這一新生事物給予高度關(guān)注。

我們?yōu)檫@樣的技術(shù)躍遷感到振奮?！褒埼r”的出現(xiàn)，說明人工智能正從“聊天機器”邁向“執(zhí)行機器”，真正開始嵌入人們的生產(chǎn)生活。但在“養(yǎng)蝦”熱潮中，也需保持理性思考。

技術(shù)發(fā)展史一再表明，幾乎每一輪重大技術(shù)浪潮都會經(jīng)歷“過度期待”的階段。在圍繞“龍蝦”的討論中，也已經(jīng)出現(xiàn)類似跡象：有人將其視為“打工人的終極外掛”，有人將其包裝成“一人創(chuàng)業(yè)”的萬能工具，仿佛只要部署一個智能體，個人生產(chǎn)力就可以無限放大。然而，技術(shù)演示與產(chǎn)業(yè)成熟之間，往往隔著很長一段距離。能夠在極客圈驚艷亮相，并不意味著馬上就能在復(fù)雜的社會環(huán)境中穩(wěn)定運行。若將局部場景中的成功經(jīng)驗簡單外推，很容易把技術(shù)熱度誤讀為產(chǎn)業(yè)現(xiàn)實。

更重要的是，當(dāng)人工智能開始“動手”，風(fēng)險也隨之發(fā)生變化。過去，大模型主要帶來的是信息風(fēng)險，例如內(nèi)容失真、虛假信息等。但AI智能體不僅生成內(nèi)容，還能夠調(diào)用工具、訪問系統(tǒng)、執(zhí)行操作。換句話說，它不只是“說錯話”，還可能“做錯事”。 近日，工業(yè)和信息化部網(wǎng)絡(luò)安全威脅和漏洞信息共享平臺發(fā)布提示，“龍蝦”在部分配置環(huán)境中存在較高安全風(fēng)險，可能導(dǎo)致網(wǎng)絡(luò)攻擊或數(shù)據(jù)泄露。

當(dāng)一個智能體擁有持續(xù)運行能力、網(wǎng)絡(luò)訪問能力以及任務(wù)執(zhí)行能力時，它就像一個擁有鑰匙和權(quán)限的數(shù)字助手。一旦被誘導(dǎo)、劫持或惡意利用，其影響就不再只是“回答錯誤”，而可能是系統(tǒng)被入侵、數(shù)據(jù)被竊取甚至設(shè)備被控制。與此同時，技術(shù)熱潮往往也會吸引灰黑產(chǎn)業(yè)“搭便車”。近期已有安全研究發(fā)現(xiàn)，一些仿冒安裝包、惡意插件甚至木馬程序正借助“龍蝦”的熱度傳播。

這提醒我們，在技術(shù)創(chuàng)新的浪潮中，風(fēng)險并不會自動消失，反而往往與創(chuàng)新同步增長。因此，對這些新事物最理性的態(tài)度，既不是盲目追捧，也不是簡單否定，而是保持必要的清醒。越是技術(shù)拐點，越需要加入一份審慎。

與傳統(tǒng)生成式人工智能相比，智能體的核心特征在于“行動能力”。這意味著治理思路也需要同步升級——不僅要關(guān)注人工智能“說什么”，更要關(guān)注它“做什么、怎么做”，為“會動手”的智能體立規(guī)矩。

首先，將過程管理和倫理審查前移，為智能體裝上“剎車系統(tǒng)”。過去對生成式人工智能，大家最關(guān)心的是輸出內(nèi)容是否失真、失范；但到了智能體階段，真正關(guān)鍵的是任務(wù)執(zhí)行鏈條本身。它調(diào)用了哪些工具、訪問了哪些數(shù)據(jù)、擁有多大權(quán)限、關(guān)鍵節(jié)點有沒有人復(fù)核，這些都應(yīng)該成為治理重點。特別在醫(yī)療、金融、政務(wù)等高敏感領(lǐng)域，應(yīng)建立更嚴(yán)格的準(zhǔn)入與審查制度，為風(fēng)險設(shè)置硬邊界。

其次，以敏捷治理回應(yīng)技術(shù)快跑，扭轉(zhuǎn)“一步到位”的管理思路。智能體技術(shù)更新速度極快，插件生態(tài)、模型能力和應(yīng)用場景都在不斷變化。傳統(tǒng)的“規(guī)則先定、技術(shù)后走”模式很難適應(yīng)這種節(jié)奏。更現(xiàn)實的路徑是，通過監(jiān)管沙盒、風(fēng)險分級、動態(tài)備案、快速通報、漏洞協(xié)同修補等機制，合力形成“邊發(fā)展、邊評估、邊校正”的治理節(jié)奏，讓創(chuàng)新有空間，讓安全有底線。

再次，推動技術(shù)治理與制度治理協(xié)同發(fā)力，讓“安全設(shè)計”與“規(guī)則設(shè)計”同時“在線”。我們既要在技術(shù)層面嵌入身份認(rèn)證、權(quán)限控制、異常監(jiān)測、行為審計、安全沙箱等防護手段，把風(fēng)險盡量攔在系統(tǒng)內(nèi)部；也要在制度層面完善標(biāo)準(zhǔn)規(guī)范、責(zé)任認(rèn)定和行業(yè)指引，明確開發(fā)者、平臺和使用者之間的責(zé)任邊界。

更長遠(yuǎn)看，“龍蝦熱”真正提出的問題是：我們應(yīng)以何種姿態(tài)迎接 AI 智能體時代？不能只顧著看它跑得多快，也要思考如何為其劃跑道、設(shè)護欄、裝剎車，讓智能體真正成為可靠的助手。

作者：王振宇　李瑞（作者分別系中國科學(xué)院科技戰(zhàn)略咨詢研究院學(xué)部綜合研究支撐中心執(zhí)行副主任，中國科學(xué)院科技戰(zhàn)略咨詢研究院學(xué)部科學(xué)規(guī)范與倫理研究支撐中心助理研究員）