跳至內容
AI 新聞站
返回

Osaurus 將本地與雲端 AI 模型帶到你的 Mac

隨著 AI 模型日益普及,創業公司正競相開發上層軟體。Osaurus 是一款僅支援 Apple 裝置的開源大型語言模型(LLM)伺服器,允許使用者在本地或雲端之間切換不同模型,同時將檔案與工具保留在自有硬體上。該產品源於創辦人 Terence Pae 對桌面 AI 助手 Dinoki 的反思,後者因使用者需為 token 付費而引發對本地執行的關注。Pae 前身為 Tesla 與 Netflix 軟體工程師,他認為在 Mac 本地執行 AI 助手能實現檔案瀏覽、系統配置存取等功能,並透過開源專案逐步完善。

目前 Osaurus 可靈活連線本地模型或雲端服務商如 OpenAI、Anthropic、Gemini、xAI/Grok、Venice AI、OpenRouter、Ollama 及 LM Studio 等,支援 MiniMax M2.5、Gemma 4、Qwen3.6、GPT-OSS、Llama、DeepSeek V4 及 Apple 裝置基礎模型 Liquid AI 的 LFM 系列。作為完整的模型上下文協議(MCP)伺服器,它允許任何相容客戶端訪問工具,並內建超過 20 個原生外掛,涵蓋郵件、日曆、視覺、macOS 使用、Excel、PowerPoint、瀏覽器、音樂、Git、檔案系統、搜尋、下載等功能。近期版本更新增語音能力。自推出近一年以來,下載次數已超過 112,000 次。

與其他本地模型執行工具如 Ollama、Msty、LM Studio 相比,Osaurus 提供更友善的非開發者介面,並透過硬體隔離的虛擬沙箱解決安全疑慮。儘管本地執行需至少 64GB 記憶體,大型模型如 DeepSeek v4 建議 128GB,但 Pae 認為隨著每瓦特智慧提升,硬體需求將降低。目前 Osaurus 創辦人包括 Sam Yoo,正參與紐約加速器 Alliance,並考慮將產品推向法律與醫療等重視隱私的企業領域。團隊相信本地 AI 成長將減少對雲端資料中心的依賴,使用者可部署 Mac Studio 於現場,在保持雲端能力的同時大幅節省電力。


分享這篇文章:

上一篇
Runway 經過協助電影導演起家 現在想在 AI 領域與 Google 競爭
下一篇
陪審團在伊隆·馬斯克與山姆·奧特曼案中實際將決定什麼