Osaurus 將本地與雲端 AI 模型帶到你的 Mac

隨著 AI 模型逐漸成為商品化產品，新創公司正競相建立位於其上的軟體層。這個空間中一個有趣的參與者是 Osaurus，這是一個專為 Apple 設備設計的開放原始碼大型語言模型（LLM）伺服器，讓用戶可以在本地或雲端之間切換不同的本地 AI 模型，同時保持其文件和工具都在自己的硬體上。Osaurus 的概念來自於一個桌面 AI 副本的構想，名為 Dinoki，Osaurus 共創辦人 Terence Pae 描述為一種「AI 增強的 Clippy」。Dinoki 的客戶曾問他為何要購買這個應用程式，如果他們還是必須為 tokens 支付費用——這是由 AI 公司用來計算處理提示和產生回應的使用單位。這讓 Pae 更深入思考在本地執行 AI 的可能性。「這就是 Osaurus 的開始，」Pae 在與 TechCrunch 的電話採訪中表示，他之前曾在 Tesla 和 Netflix 擔任軟體工程師。他解釋說，這個想法是試圖在本地執行一個 AI 助手。「你可以在 Mac 上執行幾乎所有事情，例如瀏覽文件、存取瀏覽器、存取系統設定。我認為這會是將 Osaurus 定位為個人 AI 的一個很棒方式。」Pae 開始將這個工具作為一個開放原始碼專案公開開發，並在過程中逐步增加功能與修復錯誤。
圖片來源：Osaurus, Inc.
目前，Osaurus 可靈活連接到本地執行的 AI 模型或雲端服務商，例如 OpenAI 和 Anthropic。用戶可以自由選擇使用哪一種 AI 模型，並將 AI 體驗的其他方面，例如模型本身的記憶或文件與工具，保留在自己的硬體上。考慮到不同 AI 模型各有其優勢，這個系統的優點在於用戶可以切換到最符合其需求的 AI 模型。這種結構使 Osaurus 被稱為一種「控制層」——一種透過單一介面連接不同 AI 模型、工具與工作流程的控制層，類似 OpenClaw 或 Hermes 這類工具。然而，這些工具通常針對熟悉終端機的開發者，有時甚至會帶來安全問題與漏洞。Osaurus 則提供一個易於使用的介面，讓消費者使用，並透過在硬體隔離的虛擬沙盒中執行，來解決安全問題。這會限制 AI 的範圍，確保電腦與數據的安全。
圖片來源：Osaurus, Inc.
當然，將 AI 模型運行在本地電腦上的做法仍處於早期階段，因為這項技術對硬體與資源需求極高。要運行本地模型，系統至少需要 64GB 的 RAM。若要運行較大的模型，例如 DeepSeek v4，Pae 建議使用約 128GB RAM 的系統。但他相信，隨著時間推移，本地 AI 的需求將會降低。「我可以看到它的潛力，因為每瓦特的智能——這就是本地 AI 的衡量標準——正在顯著提升。它正在走自己的創新曲線。去年，本地 AI 還幾乎無法完成句子，但今天它已經可以執行工具、寫程式、存取瀏覽器，並從 Amazon 下單……它只是越來越強。」他說。
圖片來源：Osaurus, Inc.
目前，Osaurus 可以運行 MiniMax M2.5、Gemma 4、Qwen3.6、GPT-OSS、Llama、DeepSeek V4 等模型，還支援 Apple 的設備端基礎模型，以及 Liquid AI 的 LFM 系列設備端模型。在雲端，它可以連接到 OpenAI、Anthropic、Gemini、xAI/Grok、Venice AI、OpenRouter、Ollama 和 LM Studio。作為一個完整的 MCP（Model Context Protocol）伺服器，您可以讓任何 MCP 兼容的客戶端存取您的工具。此外，它還附贈超過 20 個原生插件，支援郵件、行事曆、視覺、macOS 使用、XLSX、PPTX、瀏覽器、音樂、Git、檔案系統、搜尋、取得等功能。最近，Osaurus 還新增了語音功能。根據其網站資料，自專案啟動近一年來，下載次數已超過 112,000 次。
這個應用程式與其他讓用戶在本地運行模型的工具，例如 Ollama、Msty、LM Studio 等競爭，但提供了不同的功能集，並自我定位為一個對非開發者更為友善的選擇。目前，Osaurus 的創辦人（包括共同創辦人 Sam Yoo）正在參與紐約的創業加速器 Alliance。他們也在考慮下一步，可能將 Osaurus 提供給企業使用，例如法律或醫療領域，這些領域在運行本地 LLM 時可以解決隱私問題。隨著本地 AI 模型的強大，團隊認為這可能會降低對 AI 數據中心的需求。「我們看到 AI 領域正在爆發式成長，其中 [雲端 AI 提供商] 必須透過數據中心與基礎設施來擴展規模，但我們認為人們還未真正看到本地 AI 的價值，」Pae 說。「他們不必依賴雲端，實際上可以在本地部署 Mac Studio，而且應該會使用遠少於雲端的電力。你仍然擁有雲端的效能，但你不需要依賴數據中心來運行 AI，」他補充道。