Elloe AI 想成為 AI 的「免疫系統」，請至 Disrupt 2025 查看

Elloe AI 創辦人 Owen Sakawa 希望其平臺能成為人工智慧的「免疫系統」與「防毒軟體」，旨在為企業的大語言模型（LLM）增加一層防護機制，以檢測偏見、幻覺、錯誤、合規問題、誤導性資訊及不安全輸出。Sakawa 表示，人工智慧發展速度極快，若缺乏安全防護措施，可能脫離控制。Elloe AI 提供 API 或開發套件，作為部署在 LLM 輸出層之上的基礎設施模組，對每個回應進行事實核查。該系統包含三個關鍵層級：第一層將 LLM 回應與可驗證來源比對；第二層檢查輸出是否違反法規，如美國健康隱私法 HIPAA、歐盟資料保護法規 GDPR，或洩露個人隱私資訊（PII）；第三層則建立審計軌跡，記錄決策過程、來源及信心分數，供監管機構或外部人員分析。Sakawa 強調，Elloe AI 並非建立在另一個 LLM 之上，因為他認為用人工智慧檢查人工智慧如同「用膠帶貼另一處傷口」，其系統雖運用機器學習技術，但也包含人類參與，員工負責追蹤資料保護與使用者保護的新法規。Elloe AI 目前為 TechCrunch Disrupt 創業戰場比賽的二十強候選企業之一，該活動原定於十月二十七日至二十九日在舊金山舉行。