華爾街日報》個人AI智能體很好用，卻也有可能把你的銀行帳單發到工作群

沙恩·麥克（Shane Mac）自8月以來一直在使用一個個人AI智能體，一直沒出過問題。直到有一天，這位新創公司執行長收到他的一名員工發來的提醒：這是有關團隊Slack訊息的提醒，附有一張截圖。

擺在他面前的，是一張千真萬確的截圖：他的支票帳戶和儲蓄帳戶餘額、一項居家裝修工程的多項施工費用，以及Netflix和汽車保險的定期扣款，一項項都在上面。這些資訊是他的智能體發出來的。

資訊不再稀缺，能融會貫通才是真有料！
全新推出《華爾街日報》主題包，登入會員免費領！
☛立即領取

「我的心一下子沉了下去，」住在田納西州納希維爾的麥克說，「我原以為自己已經把個人用途和工作用途分開設定好了。」

麥克使用的是Grok Bot，這是SpaceXAI的「全天候運作智能體」。他授予它對自己銀行帳戶的唯讀存取權限，並把這個智能體命名為「Personal CFO」。他還另有一個串接工作Slack的Grok Bot智能體，命名為「Chief of Staff」。麥克追問，Personal CFO怎麼會把他的資訊發到公司Slack上。

機器人解釋了自己的行為，隨後做出了某種程度的道歉：「這怪我，」它說道。「私人財務資訊發錯了對象——就是這樣。」

個人AI智能體的能力讓人們驚豔，但他們又很快被拉回現實。近幾週，這類智能體迅速走紅，開始替用戶處理電子郵件往來、旅行行程等事務。

但一些用戶發現，這些助手與支撐它們的模型頗為相似：模型會產生幻覺、誤解指令，甚至自發實施網路犯罪行為；助手也可能表現得難以預測。

普通聊天機器人和智能體的區別在於，用戶通常會要求智能體完成具體任務，比如整理日程或安排預約。智能體隨後會把這條提示拆解成一系列步驟。為了方便起見，這些步驟往往不會逐一向它所服務的人類說明。

智能體通常知道，在下單購買或刪除檔案等重大操作前要請求許可；除此之外，它們可能有相當大的自主空間。一旦用戶的提示指令不明確，或者執行所請求操作的方式有多種，就可能引發混亂。

麥克的案例中，他的智能體把名稱相近的聊天群組混為一談。「它沒有處理好一條含糊的指令，」他在後續發文中寫道。他說，Grok Bot團隊告訴他，問題已經修復。

在舊金山工作的傳播專業人士安妮卡·本寧（Annica Benning）過去一個月左右一直在使用由規模不大但頗受關注的新創公司Instinct開發的智能體。用戶可以直接在iPhone的Messages App內與自己的Instinct智能體溝通。本寧用它網購、叫Uber、預訂航班。

她說，90%的時間裡它都能完美運行，然而最近它卻私自動手買了一套比基尼，讓她大吃一驚。她先前退了一件泳衣，並要求智能體從該網站找一些備選款給她看。智能體發來一個連結，讓她批准它選中的商品。她說自己從未批准過。可她還是收到了購買確認郵件。 （相關報導： 華爾街日報》我試用了Meta的Muse AI智能體：好用，也讓人脊背發涼 ｜ 更多文章 ）

「只要是用信用卡操作，它都會給你發批准連結，」她說。「但這次用的是店鋪購物金，不是信用卡，所以它能夠繞過確認連結。」

她沒能取消訂單。那件比基尼隨時會送到。她希望還能退貨。

幾週前在紐約旅行時，本寧讓Instinct處理她的晚餐預訂。

「它說：『我已經幫您預訂好了。』」她說。問題是，那天晚上她另有安排，而這個安排她的智能體是知道的。

本寧只好讓智能體取消預訂，並請餐廳不要收取每人50美元的爽約費。（餐廳通過她的智能體表示同意。）

住在奧斯汀的沙利尼·迪內什（Shalini Dinesh）原本就是Anthropic的Claude的忠實用戶；當Meta Muse的宣傳在網路上爆紅時，她決定嘗試一下，讓Muse協調兒子的13歲生日派對。

派對地點是一家漆彈場，因此這個助手給每位家長起草並發送了帶有免責聲明簽署表格的簡訊。簡訊中還說明了孩子們需要穿什麼服裝。

它還找到附近可以送餐的餐館，並把參加者的過敏情況納入考慮。它還挑選了適合孩子年齡和派對主題、可讓孩子們帶回家的禮品袋。

結果，它卻在看似最容易的一項任務上出了差錯：回覆確認名單。由於兩名受邀孩子名字中的名相同，智能體把他們合併成了一個孩子，名單上也只顯示一個孩子會來。好在迪內什能夠複核名單，糾正Muse。

「它識別的是精確關鍵詞，」她說。回覆必須是明確的肯定或否定，「『太好了，到時候見』這種答覆它是識別不了的。」

灣區新創公司Longevity Health創始人傑西·利維（Jesse Levey）曾嘗試讓Muse管理三個孩子的活動日程。他一開始把自己行事曆中普通一週的安排逐項輸入Muse，但隨後意識到，這會非常麻煩：各個隊伍使用的小眾App很多，共乘輪班安排又往往在聊天群組裡完成。

「我的孩子們參加滑雪隊，日程放在一個滑雪App裡，」他說。「簡訊、WhatsApp、電子郵件、行事曆，可能差不多有65個不同的App，它都必須能存取。」

最後，他問Claude，是否有更強大的智能體可以處理孩子們的日程，同時仍能兼顧他對隱私和安全的顧慮。

Claude的回答讓他意外：它建議找一名「家庭管家」，也就是一名兼職真人僱員，來處理「夏令營報名搶位、生病請假臨時應變以及任何系統都無法正確判斷的每週10次主觀裁量」。

（相關報導： 華爾街日報》我試用了Meta的Muse AI智能體：好用，也讓人脊背發涼 ｜ 更多文章 ）

Claude說，可以做一個AI版本，但「搭建它會佔用你數月精力」。