update · TowCue 編輯團隊
Perplexity Mac 混合運算:AI 如何把敏感工作留在本機?
Perplexity Computer 開始把任務拆分給雲端模型與 Mac 本機模型,讓敏感檔案與個人資料盡量留在裝置端。本文解析這對隱私敏感 AI 工作流的實際意義。
快速解答
Perplexity 在 2026 年 9 月 1 日公布 Mac 版 Hybrid Compute(混合運算)。核心概念不是讓 AI 完全離線,而是把同一個任務拆給 雲端前沿模型與 Mac 本機模型處理。
研究、推理與規劃等需要較強模型或外部資訊的工作可交給雲端;私密檔案、應用程式內容與敏感個人資料則可盡量留在本機。Perplexity 表示,只有在任務需要且政策允許時,才把核准的內容升級到雲端模型。
TowCue 認為真正值得關注的不是「本機 AI 取代雲端」,而是另一個方向:AI 可以同時使用雲端能力與本機隱私,而路由層本身開始成為產品核心。
若要先理解更完整的判斷框架,可搭配 TowCue 的 工作用 AI 工具選擇指南、AI Agent 最佳實務指南與 研究工作流工具選擇器。
Perplexity 這次改了什麼?
Hybrid Compute 會依照工作內容決定每一步應該在哪裡執行。
需要大型模型、網路搜尋與重度推理的部分仍可使用雲端;較敏感的本地檔案與個人資訊則交由 Mac 上的模型處理。
Perplexity 同日在研究文章中介紹了 Lily,這是一個針對 Apple silicon 與 Qwen3.6-35B-A3B 最佳化的本機推理引擎。依 Perplexity 自己在 M5 Max、128 GB 統一記憶體 MacBook Pro 上的測試,Lily 在其測試範圍內平均達到 MLX-LM 1.23 倍的 prefill throughput 與 1.35 倍的 decode throughput。
這是廠商在單一硬體與模型配置上的測試,不能直接當成所有 Mac 的普遍效能數字。但它透露了一個重要方向:Perplexity 不只是增加「本機模式」,而是在努力讓本機執行快到足以成為日常混合工作流的一部分。
為什麼隱私邊界很重要?
AI 助理通常在取得更多脈絡後會更有用:文件、郵件、行事曆、檔案、瀏覽器內容、歷史對話與內部資料,都可能提高回答品質。
問題也正出在這裡:
- 更多脈絡通常能提高實用性;
- 更多脈絡也意味著更多資料可能被送往外部;
- 純雲端架構常讓使用者只能在「上傳」與「不用這段資料」之間二選一;
- 混合架構多了一個選項:敏感部分先在本機處理,只把必要且核准的內容送往雲端。
Perplexity 的 PII-TRACE 研究把這個問題說得更清楚。公司描述了一個本機隱私閘門,在資料離開裝置前偵測個人識別資訊。應用程式可以把相關輸入留在本機、遮蔽偵測到的片段,或在送往雲端前要求使用者明確批准。
這比籠統的「private AI」標籤更有判斷價值。真正應該問的是:每一步在哪裡執行?哪些資料真的跨過了裝置邊界?
最難的地方:隱私控制必須撐完整段長對話
對會執行數十輪工作的 AI Agent 來說,只在第一個 prompt 做一次隱私檢查並不夠。
電話、電子郵件、客戶編號或姓名可能在很早以前出現,之後又在另一輪對話重新出現。如果系統抓到第一次卻漏掉第五次,資料仍可能被送往雲端。
Perplexity 因此推出 PII-TRACE,專門評估長對話與多輪情境中的個資偵測一致性。這套 benchmark 包含 13,148 段合成使用者—助理對話,涵蓋 13 種語言、10 種書寫系統,以及九類個資,共標註 37,431 個識別資訊出現位置。
同時,Perplexity 也開發了 PII-Tracer,一個設計為本機執行的 0.6B 小型偵測模型。它提供路由訊號,讓應用程式判斷內容應該留在本機、先遮蔽,還是要求批准後才送往雲端。
TowCue 認為這才是 Hybrid Compute 最值得看的地方:混合 AI 的價值取決於路由層是否足夠可靠,能知道什麼資料不應離開裝置。
對知識工作者有什麼實際意義?
Hybrid Compute 最適合「私密本機資料 + 需要雲端模型能力」同時存在的工作。
例如:
- 先整理私密資料夾,再到網路補充公開背景資訊;
- 閱讀內部會議筆記後,結合外部資料產出市場簡報;
- 在不整批上傳資料夾的情況下,搜尋本機文件;
- 執行客戶、法律或財務工作流,只把必要的非敏感內容傳給雲端;
- 讓 Agent 跨本機應用程式工作,同時把個人識別資訊留在裝置端。
這和「完全本機 AI」不同。全本機可以最大化資料留存,但通常會犧牲模型選擇、網路能力或前沿模型品質;Hybrid Compute 想同時保留兩邊的優點。
哪些人最值得關注?
經常處理敏感文件的專業工作者
研究、顧問、財務、法律與營運人員,常需要 AI 閱讀不適合隨意貼進雲端聊天框的資料。
本機優先的路由可以減少不必要的資料移動,但仍不能取代企業對資料保存、權限與合規政策的檢查。
使用大統一記憶體 Mac 的使用者
Perplexity 目前的本機最佳化明確以 Apple silicon 為重點,而且官方效能測試使用的是 M5 Max + 128 GB 統一記憶體。較小記憶體的 Mac 不應直接期待相同表現。
但方向非常清楚:Apple silicon 的統一記憶體架構正在讓「可用的本機模型 + 雲端前沿模型」變得更實際。
建立 AI Agent 的團隊
Agent 是混合架構最有價值、也最需要謹慎的場景。因為 Agent 比一般聊天會存取更多資料、持續更久,也可能直接操作檔案與應用程式。
如果 Agent 能讀檔案、使用 App 並保留記憶,那麼模型路由已經是安全架構的一部分。TowCue 的 AI Agent 最佳實務指南仍然適用:本機執行不代表可以省略權限、停止條件與人工檢查點。
哪些人不需要急著切換?
Hybrid Compute 不會自動成為每個任務的最佳答案。
如果你的工作本來就是公開資料、敏感度低,而且完全雲端化,本機路由可能只增加複雜度。若每一步都要求最強模型能力,交給較小的本機模型也可能降低部分任務品質。
此外,「本機處理」也不能等同於「沒有風險」。本機 Agent 仍然可以讀取敏感檔案、誤操作,或者取得過大的系統權限。
真正應該評估的不是本機 AI 在概念上是否更安全,而是這套系統是否提供一條 清楚、可執行、可驗證的資料邊界。
如何低風險測試 Hybrid Compute?
如果你的 Mac 已能使用 Perplexity Computer,可以先測試隱私路由,而不是立即把真實敏感資料交給它。
- 準備一個只包含合成或非敏感資料的測試資料夾。
- 要求 Computer 結合本機文件與公開網路資料完成一個任務。
- 觀察哪些步驟留在本機,以及什麼情況會要求雲端升級。
- 在文件中放入明顯是測試用的假電話與假電子郵件。
- 確認系統是否依預期將資訊留在本機、遮蔽或要求批准。
- 通過後,再導入一個範圍很小、結果可逆的真實工作流。
- 對路由錯誤保留人工 fallback。
這與 TowCue 在 工作用 AI 工具選擇指南中的原則一致:先驗證工作流邊界,而不只是看模型輸出是否漂亮。
TowCue 觀點
下一個重要的 AI 架構競爭,可能不是「本機 vs. 雲端」,而是 本機 + 雲端,以及誰能把路由做得更可信。
雲端模型仍然在複雜推理上具有優勢;本機模型則已開始有能力承擔私密脈絡、輕量推理與裝置端操作。真正有價值的產品,是能把兩者連起來,又不需要把全部資料送到同一個地方。
Perplexity 的 Mac Hybrid Compute 是這種架構從技術實驗走向使用者產品的一個明顯案例。
對隱私敏感的知識工作來說,這值得持續關注。但真正的驗收標準不是「on-device」這個詞,而是使用者能否在長時間、多步驟、混亂的真實工作中,理解並信任那條資料路由邊界。
研究來源
- Perplexity Blog — Introducing Hybrid Compute on Mac(2026/09/01,官方部落格索引)
- Perplexity Research — PII-TRACE: Detecting Personal Data Before It Leaves a Device(2026/09/01)
- Perplexity Research — Optimizing On-Device Inference for Apple Silicon(2026/09/01)