關(guān)注最近爆火的AI智能體“龍蝦”。這個(gè)近期出現(xiàn)的智能體，一時(shí)間讓很多人感到云里霧里，它強(qiáng)大的功能吸引很多人想去安裝，但漸漸暴露出的安全風(fēng)險(xiǎn)問(wèn)題，又讓人望而卻步。那么，“龍蝦”智能體到底是什么？我們又該如何確?！褒埼r”應(yīng)用的安全？帶著這些問(wèn)題，我們先去一個(gè)專(zhuān)門(mén)幫助安裝和培訓(xùn)“龍蝦”技能的社區(qū)，去感受一下那里學(xué)習(xí)了解“龍蝦”智能體的熱度。

　　總臺(tái)央視記者 張春玲：我現(xiàn)在就已經(jīng)來(lái)到了這樣的一個(gè)社區(qū)，在這里大家正在學(xué)習(xí)和體驗(yàn)小“龍蝦”智能體，我們多看一看他們?cè)谧鍪裁础?/p>

　　北京AI原點(diǎn)社區(qū) 學(xué)員：其實(shí)安裝“小龍蝦”的話(huà)，一個(gè)是說(shuō)可能平常自媒體的運(yùn)營(yíng)，可以看能不能用“小龍蝦”來(lái)提效，然后第二個(gè)，我們其實(shí)后面也想做一些給孩子用的學(xué)習(xí)的系統(tǒng)。

　　北京AI原點(diǎn)社區(qū) 學(xué)員：我使用還不是特別多，還得再探索一下，還不是特別的精通。

　　記者來(lái)到的AI原點(diǎn)社區(qū)，是北京市人工智能創(chuàng)新街區(qū)的一個(gè)線(xiàn)下空間。春節(jié)后，社區(qū)就上線(xiàn)了“龍蝦”安裝、交流和實(shí)戰(zhàn)分享等面向不同群體的各類(lèi)課程，像記者參加的這堂課，是屬于“龍蝦”的初級(jí)安裝課程，參與的很多是計(jì)算機(jī)小白，不少都是第一次接觸“龍蝦”智能體。雖然大家年齡不同、工作背景不同，但他們都有同一個(gè)期待，就是希望利用這種新的技術(shù)為自己的工作和生活賦能。

　　記者：能問(wèn)一下您今年多大了嗎？

　　北京AI原點(diǎn)社區(qū) 學(xué)員：我61。人工智能能夠發(fā)展這么快，完了讓我們趕上了，所以如果不被時(shí)代拋棄，就應(yīng)該來(lái)學(xué)人工智能。

　　“龍蝦”的火爆不僅體現(xiàn)在線(xiàn)下的社區(qū)活動(dòng)中，更直觀地反映在云端的監(jiān)測(cè)數(shù)據(jù)上。記者來(lái)到了一家提供了云端“龍蝦”服務(wù)的大模型公司，在這里，一條明顯的增長(zhǎng)曲線(xiàn)，反映出了春節(jié)后公眾體驗(yàn)“龍蝦”智能體的熱度。

　　大模型Kimi技術(shù)成員 付強(qiáng)：因?yàn)槲覀兪谴汗?jié)期間才發(fā)生的，所以在春節(jié)之后我們每周迎來(lái)了一個(gè)(“龍蝦”用戶(hù))超過(guò)100%的一個(gè)提升。我覺(jué)得云端的部署更多是對(duì)于更大眾化的人群來(lái)說(shuō)，它可以有一個(gè)簡(jiǎn)單的一鍵部署的方式，它的優(yōu)勢(shì)就在于它是24×7永遠(yuǎn)運(yùn)行，很好的網(wǎng)絡(luò)的條件，有很干凈的一個(gè)系統(tǒng)，盡量少涉及安全的問(wèn)題，我覺(jué)得不同的用戶(hù)可以根據(jù)自己的需要，你就可以完成一個(gè)云端的“龍蝦”的領(lǐng)養(yǎng)。

　　國(guó)產(chǎn)“龍蝦”創(chuàng)新加速 核心優(yōu)勢(shì)逐步顯現(xiàn)

　　看完了財(cái)經(jīng)老王的裝“龍蝦”的經(jīng)歷，的確“龍蝦”智能體目前存在的安全風(fēng)險(xiǎn)不可小覷。不過(guò)，目前在國(guó)內(nèi)，很多智能體研發(fā)團(tuán)隊(duì)已經(jīng)將自主開(kāi)發(fā)的“龍蝦”智能體應(yīng)用在工作和研發(fā)場(chǎng)景中，研發(fā)人員介紹，他們?yōu)椤褒埼r”搭建了獨(dú)立的網(wǎng)絡(luò)環(huán)境，配備了數(shù)據(jù)安全監(jiān)測(cè)系統(tǒng)和人類(lèi)監(jiān)護(hù)員，確保“龍蝦”每一步動(dòng)作都是經(jīng)過(guò)審核的。

　　在深圳市福田區(qū)民意速辦和智慧城市建設(shè)中心，幾位“政務(wù)龍蝦”數(shù)智員工近期完成上崗培訓(xùn)。這些上崗的“政務(wù)龍蝦”是由深圳企業(yè)同復(fù)旦科研團(tuán)隊(duì)聯(lián)合研發(fā)的國(guó)產(chǎn)“龍蝦”智能體。他們通過(guò)不斷學(xué)習(xí)訓(xùn)練，可以更加自主地協(xié)助工作人員在民意訴求上完成調(diào)研、分析。

　　深圳福田區(qū)民意速辦和智慧城市建設(shè)中心工作人員 鄭明霞：以這次的數(shù)據(jù)為例子，目前我給它可能相關(guān)數(shù)據(jù)有1萬(wàn)多條，如果1萬(wàn)多條數(shù)據(jù)我們?nèi)斯とシ治龅脑?huà)，可能需要2到3周的時(shí)間，但是如果給它(“龍蝦”智能體)一個(gè)指令，讓它(“龍蝦”智能體)去幫我們進(jìn)行分析，它可以把時(shí)間壓縮到4個(gè)小時(shí)，這樣子我們?nèi)斯ぞ涂梢匀ド钊氲貙?shí)際調(diào)研。

　　“龍蝦”作為能力全新升級(jí)的智能體，擁有自主學(xué)習(xí)、長(zhǎng)序記憶等能力，可以不斷積累經(jīng)驗(yàn)，越來(lái)越高效地完成更多任務(wù)。但作為一個(gè)政務(wù)“龍蝦”，最受關(guān)注的不僅僅是效率，更是安全，工作人員介紹，他們?yōu)椤褒埼r”搭建了獨(dú)立的網(wǎng)絡(luò)環(huán)境，還配備了數(shù)據(jù)安全監(jiān)測(cè)系統(tǒng)和人類(lèi)監(jiān)護(hù)員，確保它的每一步動(dòng)作都是經(jīng)過(guò)審核的。為了進(jìn)一步了解這個(gè)國(guó)產(chǎn)“龍蝦”的設(shè)計(jì)架構(gòu)，我們采訪了它的研發(fā)團(tuán)隊(duì)。

　　復(fù)旦大學(xué)計(jì)算與智能創(chuàng)新學(xué)院教授 肖仰華：我們首先在整個(gè)系統(tǒng)設(shè)計(jì)上做到一個(gè)極簡(jiǎn)的架構(gòu)，極簡(jiǎn)就意味著整個(gè)系統(tǒng)是安全可控可溯，我們差不多只用了3000多行的代碼就是實(shí)現(xiàn)了整個(gè)“龍蝦”系統(tǒng)。我們每一行代碼都經(jīng)得起逐行審查，就好比像OpenClaw(某開(kāi)源“龍蝦”應(yīng)用)將近50多萬(wàn)行代碼，好比是一個(gè)堆滿(mǎn)雜物的房間，它到底有什么樣的安全隱患，我們是不得而知的。極簡(jiǎn)架構(gòu)就從代碼的源頭上杜絕了這種代碼黑箱或者惡意代碼。我們也同時(shí)建立起了一個(gè)多層的防護(hù)體系。比如說(shuō)很多敏感操作，我們必須要求我們“龍蝦”系統(tǒng)經(jīng)過(guò)人類(lèi)確認(rèn)之后，它才能夠發(fā)起執(zhí)行。其次我們也有很多沙箱的隔離機(jī)制，我們的政務(wù)“龍蝦”系統(tǒng)它是跑在政務(wù)外網(wǎng)，與整個(gè)互聯(lián)網(wǎng)物理隔離，我們確保人不能做的AI也絕對(duì)不能做，這樣的話(huà)就可以不影響它的物理數(shù)據(jù)。

　　專(zhuān)家介紹“龍蝦”智能體是一種開(kāi)源架構(gòu)，在安全可靠的前提下，開(kāi)發(fā)各類(lèi)智能體產(chǎn)品，成為當(dāng)下人工智能技術(shù)團(tuán)隊(duì)研發(fā)的新趨勢(shì)。從工作系統(tǒng)管理到自動(dòng)化實(shí)驗(yàn)系統(tǒng)、自動(dòng)剪輯軟件等，一系列充滿(mǎn)實(shí)用性的功能正在走向現(xiàn)實(shí)。

　　“龍蝦”有多強(qiáng) 記者“剝蝦”帶您探內(nèi)核

　　“龍蝦”智能體一鍵部署的方式，效果令人驚嘆。那么，“龍蝦”智能體和我們使用過(guò)的大模型有什么不一樣？接下來(lái)就讓記者給我們剝開(kāi)這個(gè)“龍蝦”，看看它肚子里到底裝了些什么。

　　總臺(tái)央視記者 張春玲：我們要來(lái)看一看這個(gè)“龍蝦”和我們熟悉的大模型有什么不同。我們熟悉的大模型，它們邏輯推理能力特別強(qiáng)，學(xué)問(wèn)也特別多，但是就好像是“缸中之腦”。你如果跟大模型說(shuō)，你幫我整理一下電腦桌面，太亂了行不行，答案肯定是“不行”，而“龍蝦”應(yīng)用就好像是給大模型裝上了手腳，大模型負(fù)責(zé)來(lái)思考，而“龍蝦”負(fù)責(zé)各種執(zhí)行任務(wù)，

　　現(xiàn)在我就為大家舉個(gè)例子?，F(xiàn)在給“龍蝦”智能體布置了一個(gè)任務(wù)，做一份《2026年中國(guó)大宗交易分析報(bào)告》，并整理成PPT，發(fā)到我和同事的郵箱。“龍蝦”智能體快速整理了一份報(bào)告，并完成了自動(dòng)發(fā)送。

　　大家可能非常想知道，不管是云端的“龍蝦”還是本地的“龍蝦”，它的肚子里到底裝了些什么呢？接下來(lái)我就為大家剝開(kāi)看一下。

　　首先，每個(gè)“龍蝦”的體內(nèi)都有一個(gè)叫作身份(identity.md)的文件，這就好像你遞出的一張名片，上面寫(xiě)著你叫啥、你是誰(shuí)，這個(gè)所有的這些信息，都是“龍蝦”通過(guò)和你的對(duì)話(huà)過(guò)程當(dāng)中給自己總結(jié)的。

　　第二個(gè)重要文件叫作靈魂(soul.md)，這就好像是我們?nèi)说恼f(shuō)話(huà)做事的方式、性格、三觀等等。

　　第三個(gè)重要功能，也就是這一代“龍蝦”智能體一個(gè)非常大的技術(shù)的迭代，就是它擁有了長(zhǎng)期記憶的能力，這個(gè)功能主要源自“龍蝦”體內(nèi)一個(gè)叫作memory的文件。我們知道大模型的記憶力往往是不太好的，如果你跟它的對(duì)話(huà)時(shí)間維持得比較長(zhǎng)，前面的話(huà)就基本上會(huì)忘記了。但是“龍蝦”智能體就好像是隨身帶了一個(gè)小本本，把你說(shuō)過(guò)的話(huà)，做過(guò)的事跟它討論過(guò)的一些關(guān)鍵節(jié)點(diǎn)都會(huì)一一記錄下來(lái)，還有它踩過(guò)哪些坑、積累的哪些經(jīng)驗(yàn)，它也都會(huì)自己記錄下來(lái)，這樣在今后辦事的時(shí)候就會(huì)少走很多的彎路。

　　最后這一代“龍蝦”還有一個(gè)特別的心跳機(jī)制(heartbeat)，它不需要你主動(dòng)去提醒，只需要你給它設(shè)置好上下班的時(shí)間點(diǎn)，自己就醒了，然后自主地去檢查自己的工作有沒(méi)有完成，7×24小時(shí)都可以給你干活。

　　看完了“龍蝦”的五臟六腑，你會(huì)發(fā)現(xiàn)這些“龍蝦”不管是它們的身份、記憶，還有各種各樣的能力，都是在和你的交互過(guò)程中形成的，所以每個(gè)“龍蝦”都會(huì)有自己不同的能力和它的特長(zhǎng)。所有的事情取決的就是“龍蝦”的主人，也就是你。在人工智能的時(shí)代，我們的確要保持一種開(kāi)放和學(xué)習(xí)的態(tài)度，去不斷地了解這些新的人工智能應(yīng)用給我們生活帶來(lái)的改變。但是請(qǐng)注意，不要被網(wǎng)絡(luò)上那些嘈雜的噪聲帶來(lái)的焦慮所影響，也許這些焦慮就是“龍蝦”自己制造出來(lái)為主人賺錢(qián)的工具而已。

　　安全使用智能體 杜絕六個(gè)“蝦”操作

　　“龍蝦”智能體近期應(yīng)用的火熱，也產(chǎn)生了裝了又卸載的各種操作。那么，究竟該如何更好地安全操作這類(lèi)智能體？記者經(jīng)過(guò)學(xué)習(xí)后，為大家總結(jié)了六個(gè)千萬(wàn)不要做的“蝦操作”。一起來(lái)看看。

　　注意了！“龍蝦”課堂開(kāi)課了！通過(guò)我與網(wǎng)絡(luò)安全專(zhuān)家的深度暢聊，我總結(jié)出了我們?cè)陴B(yǎng)蝦過(guò)程當(dāng)中極有可能犯的六大“蝦”操作。

　　第一大“蝦”操作就是“蝦”裝。可能你覺(jué)得你自己裝了一個(gè)正經(jīng)“龍蝦”，不過(guò)不好意思，有可能你在網(wǎng)絡(luò)上搜索下載安裝運(yùn)行的“龍蝦”，或者通過(guò)朋友幫忙給你安裝的“龍蝦”是自帶病毒的假冒“龍蝦”，它們安裝了之后可以在你的電腦里肆意妄為，把你的個(gè)人信息泄露出去，或者把你的銀行賬戶(hù)密碼偷偷記住，最后導(dǎo)致你的個(gè)人財(cái)產(chǎn)的巨額損失，這個(gè)就是安裝過(guò)程當(dāng)中的引“蝦”入室。

　　第二大安全隱患，就是“蝦”用。也就是在使用過(guò)程當(dāng)中的引“蝦”入室，在全球最火的“龍蝦”應(yīng)用OpenClaw上，(截至錄制時(shí))一共有1.8萬(wàn)多個(gè)技能，其中有6000個(gè)技能已經(jīng)被官方標(biāo)注為風(fēng)險(xiǎn)極高的可疑技能，還有16個(gè)是惡意技能已經(jīng)被官方下架了。通俗點(diǎn)說(shuō)，技能就是“龍蝦”使用過(guò)程當(dāng)中的一個(gè)說(shuō)明書(shū)，指導(dǎo)它怎么干活的。我們可以看到由于OpenClaw是一個(gè)開(kāi)源架構(gòu)，因此大家就會(huì)把自己訓(xùn)練好的“龍蝦”技能上傳到這樣的一個(gè)開(kāi)源平臺(tái)上，與所有的人共享，這里面就隱藏了很多惡意的技能，你的“龍蝦”如果在干活的時(shí)候抓來(lái)用，不小心就感染了。

　　第三大隱患，就是“蝦”找。“龍蝦”在執(zhí)行任務(wù)的過(guò)程中，難免會(huì)到各種網(wǎng)站上去下載一些軟件或者登錄一些網(wǎng)站，在不知不覺(jué)中可能就會(huì)下載了一些攜帶病毒的信息，導(dǎo)致自己中毒。

　　第四大隱患，“蝦”刪“蝦”發(fā)。我們知道“龍蝦”的鉗子就是一個(gè)干活的工具，但是這種技能也是在不斷地互動(dòng)當(dāng)中去提升的，同時(shí)“龍蝦”的能力也依賴(lài)于它背后的大模型，大模型現(xiàn)在都還會(huì)產(chǎn)生一些幻覺(jué)，難免導(dǎo)致“龍蝦”在執(zhí)行任務(wù)的時(shí)候不夠準(zhǔn)確，比如說(shuō)它可以往你的通訊錄里亂發(fā)一些消息，或者把你的一些重要的文件和信息刪除了，說(shuō)實(shí)話(huà)你也沒(méi)招。

　　第五大隱患就是“蝦”嘮，你可能跟“龍蝦”掏心掏肺，把你的隱私，還有各種銀行賬號(hào)密碼信息全都一股腦告訴它了，你就忘了，但是“龍蝦”卻一一記下來(lái)了，不小心就可能泄露你的一些重要的信息和數(shù)據(jù)。

　　最后，千萬(wàn)別“蝦”顯擺，你可能覺(jué)得你訓(xùn)練好了一個(gè)優(yōu)秀的“龍蝦”智能體，于是拉到群聊里，向你的朋友們顯示一下，看我的智能助手多厲害，可是你不知道“龍蝦”就等于是你的一個(gè)數(shù)字分身，可能在聊天的過(guò)程當(dāng)中，就把你的個(gè)人信息和秘密給拷取了。

　　記住這6大秘籍，確保你在“引蝦入室”的路上不抓瞎。

　　與時(shí)俱進(jìn) 技術(shù)+法規(guī)推動(dòng)智能體安全可控

　　以“龍蝦”為代表的智能體應(yīng)用，已經(jīng)快速迭代為人工智能應(yīng)用的新趨勢(shì)。我們應(yīng)該如何與時(shí)俱進(jìn)，從技術(shù)和政策上推動(dòng)這類(lèi)新智能技術(shù)安全可控的發(fā)展，專(zhuān)家們給出了建議。

　　針對(duì)現(xiàn)在“龍蝦”智能體技術(shù)的快速發(fā)展，網(wǎng)絡(luò)安全行業(yè)已經(jīng)快速跟進(jìn)，推出智能化的防護(hù)方案。

　　某網(wǎng)絡(luò)安全團(tuán)隊(duì)技術(shù)人員 陳杰：有一個(gè)在安全圈里面大家說(shuō)的一個(gè)口號(hào)，就是用機(jī)器的速度對(duì)抗機(jī)器的速度，用AI對(duì)抗AI，用AI做一個(gè)防控，或者是保護(hù)智能體的一個(gè)新的智能體，然后去監(jiān)控智能體，它從下載安裝執(zhí)行到最后磁盤(pán)操作文件操作發(fā)出去的東西。

　　人工智能在當(dāng)下呈現(xiàn)出技術(shù)加速迭代的趨勢(shì)，一些新技術(shù)的火爆時(shí)間短、傳播快、影響范圍廣。國(guó)內(nèi)各大模型公司紛紛上線(xiàn)“龍蝦”應(yīng)用，同時(shí)，我們也看到各地出臺(tái)政策鼓勵(lì)智能體技術(shù)發(fā)展，推動(dòng)一人公司等全新生態(tài)，都是在積極回應(yīng)和擁抱新的技術(shù)帶來(lái)的改變。

　　中國(guó)信息通信研究院人工智能研究所副總工程師 王蘊(yùn)韜：其實(shí)模型和應(yīng)用之間還是隔著一個(gè)交互的界面的，實(shí)際上以“龍蝦”為代表的智能體，也是把我們這個(gè)界面進(jìn)一步降低了使用的門(mén)檻，提高了使用效率，擴(kuò)寬了使用深度，而且提升了使用效率。因此的話(huà)我覺(jué)得這一輪從技術(shù)到產(chǎn)業(yè)到應(yīng)用的一個(gè)熱點(diǎn)，對(duì)于我們未來(lái)實(shí)現(xiàn)“AI+”的一個(gè)深入實(shí)施有一個(gè)很好的促進(jìn)作用。

　　專(zhuān)家也表示，各級(jí)單位在使用這類(lèi)應(yīng)用的同時(shí)要以安全為前提，避免帶來(lái)不必要的風(fēng)險(xiǎn)，相關(guān)政策法規(guī)也正在陸續(xù)研制出臺(tái)。

　　中國(guó)信息通信研究院人工智能研究所副總工程師 王蘊(yùn)韜：未來(lái)尤其對(duì)于數(shù)據(jù)方面的監(jiān)管，對(duì)于應(yīng)用場(chǎng)景的一個(gè)分級(jí)分類(lèi)，對(duì)于安全的通報(bào)，對(duì)于事前事中事后的這么一個(gè)監(jiān)管的話(huà)，可能都會(huì)很快提上議程。