update · TowCue 編輯團隊

Perplexity Mac 混合運算:AI 如何把敏感工作留在本機?

Perplexity Computer 開始把任務拆分給雲端模型與 Mac 本機模型,讓敏感檔案與個人資料盡量留在裝置端。本文解析這對隱私敏感 AI 工作流的實際意義。

原創編輯內容來源已核實最後檢視: 2026-09-05

快速解答

Perplexity 在 2026 年 9 月 1 日公布 Mac 版 Hybrid Compute(混合運算)。核心概念不是讓 AI 完全離線,而是把同一個任務拆給 雲端前沿模型Mac 本機模型處理。

研究、推理與規劃等需要較強模型或外部資訊的工作可交給雲端;私密檔案、應用程式內容與敏感個人資料則可盡量留在本機。Perplexity 表示,只有在任務需要且政策允許時,才把核准的內容升級到雲端模型。

TowCue 認為真正值得關注的不是「本機 AI 取代雲端」,而是另一個方向:AI 可以同時使用雲端能力與本機隱私,而路由層本身開始成為產品核心。

若要先理解更完整的判斷框架,可搭配 TowCue 的 工作用 AI 工具選擇指南AI Agent 最佳實務指南研究工作流工具選擇器

Perplexity 這次改了什麼?

Hybrid Compute 會依照工作內容決定每一步應該在哪裡執行。

需要大型模型、網路搜尋與重度推理的部分仍可使用雲端;較敏感的本地檔案與個人資訊則交由 Mac 上的模型處理。

Perplexity 同日在研究文章中介紹了 Lily,這是一個針對 Apple silicon 與 Qwen3.6-35B-A3B 最佳化的本機推理引擎。依 Perplexity 自己在 M5 Max、128 GB 統一記憶體 MacBook Pro 上的測試,Lily 在其測試範圍內平均達到 MLX-LM 1.23 倍的 prefill throughput1.35 倍的 decode throughput

這是廠商在單一硬體與模型配置上的測試,不能直接當成所有 Mac 的普遍效能數字。但它透露了一個重要方向:Perplexity 不只是增加「本機模式」,而是在努力讓本機執行快到足以成為日常混合工作流的一部分。

為什麼隱私邊界很重要?

AI 助理通常在取得更多脈絡後會更有用:文件、郵件、行事曆、檔案、瀏覽器內容、歷史對話與內部資料,都可能提高回答品質。

問題也正出在這裡:

  • 更多脈絡通常能提高實用性;
  • 更多脈絡也意味著更多資料可能被送往外部;
  • 純雲端架構常讓使用者只能在「上傳」與「不用這段資料」之間二選一;
  • 混合架構多了一個選項:敏感部分先在本機處理,只把必要且核准的內容送往雲端。

Perplexity 的 PII-TRACE 研究把這個問題說得更清楚。公司描述了一個本機隱私閘門,在資料離開裝置前偵測個人識別資訊。應用程式可以把相關輸入留在本機、遮蔽偵測到的片段,或在送往雲端前要求使用者明確批准。

這比籠統的「private AI」標籤更有判斷價值。真正應該問的是:每一步在哪裡執行?哪些資料真的跨過了裝置邊界?

最難的地方:隱私控制必須撐完整段長對話

對會執行數十輪工作的 AI Agent 來說,只在第一個 prompt 做一次隱私檢查並不夠。

電話、電子郵件、客戶編號或姓名可能在很早以前出現,之後又在另一輪對話重新出現。如果系統抓到第一次卻漏掉第五次,資料仍可能被送往雲端。

Perplexity 因此推出 PII-TRACE,專門評估長對話與多輪情境中的個資偵測一致性。這套 benchmark 包含 13,148 段合成使用者—助理對話,涵蓋 13 種語言、10 種書寫系統,以及九類個資,共標註 37,431 個識別資訊出現位置。

同時,Perplexity 也開發了 PII-Tracer,一個設計為本機執行的 0.6B 小型偵測模型。它提供路由訊號,讓應用程式判斷內容應該留在本機、先遮蔽,還是要求批准後才送往雲端。

TowCue 認為這才是 Hybrid Compute 最值得看的地方:混合 AI 的價值取決於路由層是否足夠可靠,能知道什麼資料不應離開裝置。

對知識工作者有什麼實際意義?

Hybrid Compute 最適合「私密本機資料 + 需要雲端模型能力」同時存在的工作。

例如:

  • 先整理私密資料夾,再到網路補充公開背景資訊;
  • 閱讀內部會議筆記後,結合外部資料產出市場簡報;
  • 在不整批上傳資料夾的情況下,搜尋本機文件;
  • 執行客戶、法律或財務工作流,只把必要的非敏感內容傳給雲端;
  • 讓 Agent 跨本機應用程式工作,同時把個人識別資訊留在裝置端。

這和「完全本機 AI」不同。全本機可以最大化資料留存,但通常會犧牲模型選擇、網路能力或前沿模型品質;Hybrid Compute 想同時保留兩邊的優點。

哪些人最值得關注?

經常處理敏感文件的專業工作者

研究、顧問、財務、法律與營運人員,常需要 AI 閱讀不適合隨意貼進雲端聊天框的資料。

本機優先的路由可以減少不必要的資料移動,但仍不能取代企業對資料保存、權限與合規政策的檢查。

使用大統一記憶體 Mac 的使用者

Perplexity 目前的本機最佳化明確以 Apple silicon 為重點,而且官方效能測試使用的是 M5 Max + 128 GB 統一記憶體。較小記憶體的 Mac 不應直接期待相同表現。

但方向非常清楚:Apple silicon 的統一記憶體架構正在讓「可用的本機模型 + 雲端前沿模型」變得更實際。

建立 AI Agent 的團隊

Agent 是混合架構最有價值、也最需要謹慎的場景。因為 Agent 比一般聊天會存取更多資料、持續更久,也可能直接操作檔案與應用程式。

如果 Agent 能讀檔案、使用 App 並保留記憶,那麼模型路由已經是安全架構的一部分。TowCue 的 AI Agent 最佳實務指南仍然適用:本機執行不代表可以省略權限、停止條件與人工檢查點。

哪些人不需要急著切換?

Hybrid Compute 不會自動成為每個任務的最佳答案。

如果你的工作本來就是公開資料、敏感度低,而且完全雲端化,本機路由可能只增加複雜度。若每一步都要求最強模型能力,交給較小的本機模型也可能降低部分任務品質。

此外,「本機處理」也不能等同於「沒有風險」。本機 Agent 仍然可以讀取敏感檔案、誤操作,或者取得過大的系統權限。

真正應該評估的不是本機 AI 在概念上是否更安全,而是這套系統是否提供一條 清楚、可執行、可驗證的資料邊界

如何低風險測試 Hybrid Compute?

如果你的 Mac 已能使用 Perplexity Computer,可以先測試隱私路由,而不是立即把真實敏感資料交給它。

  1. 準備一個只包含合成或非敏感資料的測試資料夾。
  2. 要求 Computer 結合本機文件與公開網路資料完成一個任務。
  3. 觀察哪些步驟留在本機,以及什麼情況會要求雲端升級。
  4. 在文件中放入明顯是測試用的假電話與假電子郵件。
  5. 確認系統是否依預期將資訊留在本機、遮蔽或要求批准。
  6. 通過後,再導入一個範圍很小、結果可逆的真實工作流。
  7. 對路由錯誤保留人工 fallback。

這與 TowCue 在 工作用 AI 工具選擇指南中的原則一致:先驗證工作流邊界,而不只是看模型輸出是否漂亮。

TowCue 觀點

下一個重要的 AI 架構競爭,可能不是「本機 vs. 雲端」,而是 本機 + 雲端,以及誰能把路由做得更可信

雲端模型仍然在複雜推理上具有優勢;本機模型則已開始有能力承擔私密脈絡、輕量推理與裝置端操作。真正有價值的產品,是能把兩者連起來,又不需要把全部資料送到同一個地方。

Perplexity 的 Mac Hybrid Compute 是這種架構從技術實驗走向使用者產品的一個明顯案例。

對隱私敏感的知識工作來說,這值得持續關注。但真正的驗收標準不是「on-device」這個詞,而是使用者能否在長時間、多步驟、混亂的真實工作中,理解並信任那條資料路由邊界。

研究來源

研究來源

把情報變成可複用的 Cue

延伸決策指南