「你今天養龍蝦了嗎？」最近社群媒體流行的這句問候語乍聽之下像個玩笑，卻是當前科技圈最熱門的現象之一。專家表示，新一代AI代理程式的出現，突破了過去生成式AI「光說不練」的限制，但當AI開始彼此合作，未來的風險可能變成「一群聰明的AI一起做傻事」，仍然不可不慎。
為何科技圈開始流行「養龍蝦」？
KPMG安侯企業管理股份有限公司董事總經理謝昀澤指出，有人將代理式AI比喻為一種會「自己找食物、自己工作」的數位生物，因此社群逐漸用「養龍蝦」來形容部署AI助手的行為。這些AI不只會回答問題，還能實際操作系統、執行任務，在企業環境中，如果運用得當，它們其實非常適合處理某些特定類型的數位工作。
謝昀澤說明，一般而言AI代理最適合四種特性明顯的任務：跨系統、全天候、高頻率與大數據。例如，企業可以讓AI代理在庫存與客服系統之間自動運作，從CRM系統讀取客戶資料，到ERP查詢庫存，再到郵件系統回覆客戶。過去這類流程往往需要員工在不同系統之間來回切換，而AI agent可以全天候動態接收指令，自動完成整個流程。
從加班龍蝦到棄養潮：AI代理的爆紅與亂象
然而，這股「養龍蝦」熱潮很快也出現了亂象。謝昀澤以自身經驗為例，原本只是要AI簡單蒐集一些旅遊景點資料，結果經過一晚「龍蝦自主加班」，AI不但開始分析旅遊趨勢、研究匯率變化、建立旅遊成本模型，最後甚至生成數十頁旅遊市場分析報告與風土人文白皮書。由於「勤奮」的AI agent持續呼叫大型付費語言模型服務，讓他的帳單迅速飆升。
除了AI過度「努力工作」，還出現更荒謬的產業鏈。在一些平台上，開始有人提供「龍蝦安裝服務」，幫忙部署AI agent、設定環境、調整參數，沒過多久，又有人推出「龍蝦卸載服務」。
謝昀澤分析，造成近期「龍蝦棄養潮」的主要原因，是許多AI代理在安裝過程中需要取得大量系統與帳號權限，讓使用者逐漸意識到巨大的資安威脅。
當AI開始「自作主張」 企業不可忽視的四大風險
在真正開始「養龍蝦」、發揮AI生產力之前，謝昀澤提醒企業應謹慎評估四大主要風險。首先是提示詞注入，也就是駭客在網站或文件中藏入惡意指令，誘導AI洩漏金鑰或機密資料。第二是指令誤判，AI可能誤解任務，例如錯誤刪除重要郵件或資料。
第三是外掛程式被投毒，部分AI插件可能暗藏惡意程式，讓電腦變成殭屍網路的一部分。最後則是漏洞被駭客利用，只要AI系統存在安全漏洞，就可能成為駭客入侵的入口。
謝昀澤指出，資安研究人員已經發現，駭客開始開發專門的「資訊竊取器（Info Stealer）」，只要掃描到未設防的AI代理，就能直接竊取API金鑰與系統憑證，駭客不僅可以盜刷模型費用，甚至能遠端控制整台電腦。一旦電腦被控制，駭客可能竊取企業文件、監控鍵盤輸入，甚至把這台電腦變成攻擊其他公司的跳板。
謝昀澤認為，代理式AI的應用將在今年迎來爆發式成長，但這股浪潮最後帶來的是「數位助理」還是「資安內鬼」，關鍵就在於企業對AI的治理能力。
他建議，一般使用者目前可以暫時保持觀望，因為目前許多代理式AI工具安裝移除與管理門檻仍高，而且資安問題仍難以完全掌控，不小心養到「毒龍蝦」的機率仍然偏高，與目前已經普及的生成式AI成熟度仍有很大差異；對於具備技術能力的開發者，則應在隔離測試環境與嚴格權限控管的條件下進行測試。
與此同時，產業界也開始嘗試建立更安全的AI代理平台，例如輝達近期推出的AI agent平台NemoClaw，以及微軟推動的Copilot Coworker概念，都是希望為快速發展的AI代理生態建立更安全的框架。這類平台被期待透過更嚴格的權限管理與安全機制，避免AI代理在企業環境中失控。
更多風傳媒獨家內幕：
