AI 狂潮下的真實缺口：為什麼「行動型 AI 助理」最後還是得靠真人救火？

CMoney 研究員

・ 2026 年 10 月 31 日

加入Google偏好

生成式 AI 席捲全球，但最新一波「AI 行動代理人」熱潮暴露核心缺陷：能推薦、不能完成；能上網、卻卡在打電話與現實判斷。從 Meta、OpenAI 到新創 Duckbill、Dazzle AI、Wajo AI，產業正集體走向「AI＋真人」的過渡模式，隱私與責任議題同步升溫。

MSFT -1.55%

NVDA -4.22%

生成式 AI 帶來的「全能數位管家」想像，正在遭遇殘酷現實考驗。當 Meta、OpenAI 等科技巨頭高喊 AI agents 能替你找鞋、比價帳單甚至預約醫生，真正落地的服務卻顯示：在涉及電話、細緻溝通與現實判斷時，AI 經常失靈，最後仍要真人接手善後。

在美國，新創 Duckbill、Dazzle AI、Wajo AI 等公司，已不再試圖讓純 AI 扛起所有任務，而是主動設計「人類在環」架構，將 AI 無法穩定處理的環節拆解給合約工完成。這種模式，被業者形容為「Uber 式外包」：AI 負責理解需求與流程，人類負責打電話、過關卡、做判斷，兩者協作，才勉強讓服務達到消費者可以接受的水準。

Duckbill 執行長 Meghan Joyce 指出，當前代理型 AI 尤其容易在「跨系統、跨管道」的真實任務碰壁，例如幫用戶打電話給客服談降價、在各大生活服務網站上預約清潔或醫療服務等。這類任務牽涉多方溝通、突發狀況與模糊規則，遠比單純填寫網頁表單複雜。Duckbill因此推出一套 API，專門讓其他 AI agent 服務在察覺自己「可能會失誤」時，把任務委派給經過背景查核的真人承包者。

前 Yahoo 執行長 Marissa Mayer 創立的 Dazzle AI，則用一個看似鬧劇的案例凸顯問題本質：一位重度使用者同時委託系統處理屋頂修繕、破窗維修與玻璃桌訂購，結果 AI 把「窗玻璃」與「桌面玻璃」混為一談，嘗試讓桌面玻璃去填窗洞。系統雖然很快將此異常標記並交給真人處理，幾秒鐘就化解，但 Mayer坦言，若完全交由模型自行探索，可能會「燒掉大量 token 卻仍解不出題」。

另一家新創 Wajo AI，甚至把人類導入到更細節的環節：幫 AI agent 代打電話、處理網站針對機器人設計的 CAPTCHA 驗證等。執行長 Shivani Poddar 直言，若要讓消費者真正依賴 AI 完成任務，「純 AI」根本不夠，必須是「AI 加人」的協同關係，否則當使用者發現代理人頻頻卡關，服務會很快被棄用。

然而，「人類在環」也帶來敏感的隱私與責任問題。AI 助理與使用者的對話內容，本質上高度個人化，從家庭裝潢到財務帳單都有可能涉及。若企業沒有充分告知，使用者恐怕難以接受陌生承包者介入自己的生活細節。Meta 內部員工就曾對公司以人類承包者測試 Muse AI 代打電話計畫提出隱私疑慮。雖然 Meta 表示這是產品開發過程的一環，目前正式對外服務並未使用真人代辦，但「究竟是 AI 還是人」這件事，已成為使用者信任的關鍵。

Duckbill 的做法，是對所有 1099 承包者進行完整背景查核，並大量從美國境內、同樣受雇於 Uber、DoorDash 等平台經濟的勞工中招募，部分則來自專門提供聯絡中心人力的企業。Mayer 則說，Dazzle 尋找的，是具備「極高謹慎度與審美與判斷力」的承包者，標準類似挑選個人助理，並強調資訊需能被妥善地「忘卻與分隔」。這些作法雖然緩解疑慮，但也突顯一個現實：當前的 AI agents，要想真的「幫人做事」，就不可避免地牽涉大量人力與治理成本。

從產業角度看，這樣的過渡模式其實反映了技術的尷尬現況。頂尖基礎模型在文本生成與網路搜尋上已相當成熟，能幫用戶整理選項、規劃方案，例如找出最適合的裝修承包商、整理各家有線電視費率，但一旦跨入需多步驟行動的世界——打電話排時間、應對客服話術、處理意外狀況——模型的「常識」和「持續性」就不足以支撐完整流程，只能依賴規則引擎與人類補位。

部分業者甚至認為，頻繁遭遇攻擊與錯誤，從長期看反而是好事。正如區塊鏈安全公司 Blockaid 執行長 Ido Ben-Natan 在談加密貨幣交易所遭 AI 強化攻擊時所言，隨著業界累積實戰經驗，安全防護會愈來愈成熟，最終「錢包」可能比傳統管道更安全。這種樂觀也延伸到 AI agents 領域：在一次又一次的失誤與修正中，產業有機會打造更堅固的流程與監管框架。

不過，風險並非只來自技術本身。當代理型 AI 被廣泛導入金融、電信等高敏感度產業後，責任歸屬將變得更加複雜：若 AI 亂改動用戶合約，或真人承包者誤傳關鍵資訊，究竟是模型開發商、平台營運商，還是外包公司該負責？目前，美國監管機關與企業仍多採「產品測試」與合約條款來界定義務，但隨著規模擴大，恐怕難以避免更具體的法律與標準出現。

展望未來，業界普遍認為，當前只是「過渡期」。Mayer 認為，在基礎模型持續演進之前，市場需要坦承現階段 AI 的能力邊界，把「真人在環」視作優點而非遮掩的秘密。Duckbill、Dazzle AI 等新創也嘗試用更透明的溝通，讓使用者理解：真正可靠的數位助理，不是魔法般的純機器，而是 AI 與人類分工合作的結果。

對投資人與產業決策者而言，這代表兩個重要問題仍待解答：第一，何時 AI 模型能在行動與常識層面取得足夠突破，讓人力比重實質下降？第二，在此之前，我們是否準備好接受一個「半機器、半人類」的新服務世界，並建立相應的隱私、責任與勞動規則？在 AI agents 仍需真人救火的現在，答案恐怕還沒那麼快到來。