文章
所有發布的 AI 新聞與論文。
-
Elloe AI 想成為 AI 的「免疫系統」，請至 Disrupt 2025 查看
Elloe AI 創辦人 Owen Sakawa 希望其平臺能成為人工智慧的「免疫系統」與「防毒軟體」，旨在為企業的大語言模型（LLM）增加一層防護機制，以檢測偏見、幻覺、錯誤、合規問題、誤導性資訊及不安全輸出。Sakawa 表示，人工智慧發展速度極快，若缺乏安全防護措施，可能脫離控制。Elloe AI 提供 API 或開發套件，作為部署在 LLM 輸出層之上的基礎設施模組，對每個回應進行事實核查。該系統包含三個關鍵層級：第一層將 LLM 回應與可驗證來源比對；第二層檢查輸出是否違反法規，如美國健康隱私法 HIPAA、歐盟資料保護法規 GDPR，或洩露個人隱私資訊（PII）；第三層則建立審計軌跡，記錄決策過程、來源及信心分數，供監管機構或外部人員分析。Sakawa 強調，Elloe AI 並非建立在另一個 LLM 之上，因為他認為用人工智慧檢查人工智慧如同「用膠帶貼另一處傷口」，其系統雖運用機器學習技術，但也包含人類參與，員工負責追蹤資料保護與使用者保護的新法規。Elloe AI 目前為 TechCrunch Disrupt 創業戰場比賽的二十強候選企業之一，該活動原定於十月二十七日至二十九日在舊金山舉行。
-
Sam Altman 表示 OpenAI 將於 2028 年擁有資格的 AI 研究員
OpenAI 表示其深度學習系統正快速進步，能更快速解決複雜任務。執行長 Sam Altman 在週二直播中透露，內部目標是在 2026 年 9 月前達到內勤級研究助理水平，並在 2028 年實現完全自動化的合法 AI 研究者。此時間表與 OpenAI 正式轉型為公益公司（public benefit corporation）同日宣佈，此結構調整使其擺脫非營利組織限制，同時增加籌資機會。首席科學家 Jakub Pachocki 指出，該 AI 研究者能自主交付大型研究專案，並認為深度學習系統可能在十年內達到超級智慧，即能在大量關鍵行動上超越人類。為達成目標，OpenAI 著重於演演算法創新與大幅擴充套件「測試時運算量」，目前模型可處理約五小時時間範圍的任務並與人類競爭者並駕齊驅，但 Pachocki 認為此時間範圍將迅速延長，甚至為重大科學突破可動用整個資料中心的運算資源。Altman 強調，新結構能支援激進的研究時間表並維持負責任的 AI 發展承諾。根據新架構，非營利的 OpenAI Foundation 將持有 26% 股權並主導研究方向，同時承諾投入 250 億美元用於利用 AI 治療疾病及管理安全。此外，OpenAI 承諾在未來幾年內建設 30 吉瓦的基礎設施，這將產生 1.4 兆美元的財務義務，以支援科學進步。
-
超級教師正在為小學打造AI輔導老師 — 視頻於Disrupt 2025公開
家教是提升兒童教育成效最有力的工具之一，但美國極少兒童能享受到此服務。2023 年針對全國最大學校區的調查顯示，不到 10% 的學生接受家教，主要原因之一是費用高昂，許多家庭每月需支付數百至數千美元。前 Google 產品經理兼教育者 Tim Novikoff 創立了名為 Super Teacher 的創業公司，旨在改變這一現狀。該公司開發了一款針對小學生的 AI 驅動家教應用程式，月費為 15 美元，若選擇年度計劃則為 10 美元。Super Teacher 已獲得市場關注，Novikoff 表示約有 20,000 個家庭註冊，紐約、新澤西和夏威夷的公立學校已開始使用該應用程式。該公司曾成為 2025 年 TechCrunch Disrupt 在舊金山舉辦的活動 Top 20 最終候選名單之一。Novikoff 曾在新澤西的哈萊姆區及著名的 Stuyvesant 高中任教，他指出 Stuyvesant 學生幾乎都接受家教，而哈萊姆區學生則不然，兩者教育體驗差距顯著。他認為家教是教育介入最有效的手段，並致力於讓私人家教服務普及化。Super Teacher 的應用程式具備由 AI 生成聲音的動畫導師，引導學生進行互動課程，學生可透過語音與應用程式對話。與許多教育科技工具不同，Super Teacher 不使用大型語言模型來生成回應，而是採用確定性系統確保答案正確，避免大型語言模型可能產生的不準確問題。Novikoff 強調 AI 導師不會取代學校環境中的老師，僅視為老師可使用的工具，如同智慧黑板或計算機。該應用程式目前僅針對小學學生，Novikoff 希望未來能擴充套件至更小或更大年級的學生，並與更多美國學校區合作。Novikoff 曾創立 Fly Labs，該應用於 2015 年被 Google 收購。
-
Mappa 的 AI 語音分析幫助您找到最佳工作候選人，並將在 TechCrunch Disrupt 2025 展示其技術
即使經過審查履歷、投信函和麵試，選擇合適的候選人仍可能是一個充滿神秘感的過程。招聘經理常依賴自身偏見或直覺做決定，這使得招聘遠非精確科學。因此，Sarah Lucena 建立了 Mappa，這是一個由 AI 驅動的行為智慧平臺，旨在減少招聘中的猜測成分。Mappa 訓練了一個 AI 模型來檢測與特定特質相關的語音模式，例如溝通風格、同理心和自信。申請人只需回答 Mappa AI 代理提出的問題，平臺就會向招聘經理提供與職位特質相容的候選名單。Mappa 是 TechCrunch Disrupt 2025 在舊金山舉辦的 Startup Battlefield 前 20 強決賽候選者。Lucena 表示，Mappa 進入市場的目標是真正理解人，她將特質視為相容或不相容，而非好壞。Lucena 於 2023 年與兩位合夥人 Pablo Bérgolo 和 Daniel Moretti 共同創立了 Mappa，並在 Tim Draper 投資機構 Draper Associates 主導下籌資 340 萬美元完成種子輪。不到三年，該公司擴充套件至美國超過 130 家客戶，年複合營收超過 400 萬美元。Mappa 聲稱其最大優勢在於資料，公司建立了專門用於理解人類行為的高度精選資料集。雖然最初嘗試基於影片提交和線上存在評估候選人，但他們發現語音分析是最有效的方法。根據 Lucena 的說法，Mappa 的平臺已幫助公司找到留任時間更長的員工，標準年度離職率約為 30%，而透過 Mappa 聘用的員工離職率僅為 2%。Lucena 強調 Mappa 的焦點是幫助公司找到最佳人才，這往往導致更公平的招聘過程。截至目前，Mappa 已促成超過 3000 次招聘，其中超過 60% 的候選人是女性、LGBTQ+ 或移民。Lucena 自豪於為這些群體創造更多機會。未來，Lucena 認為 Mappa 將從服務公司轉變為基礎設施提供商。其 API 已受到希望在其招聘以外情境使用行為分析分析的公司歡迎。Tim Draper 本人使用 Mappa 評估其投資機構考慮投資的創始人，教育平臺 Re-Skilling.ai