實體: xAI
所有提到 xAI 的 AI 新聞與動態。
-
史考特·威尼爾爭取讓科技巨頭揭露人工智能的風險
加州參議員斯科特·維尼（Scott Wiener）再次推動 AI 安全立法，此次為第 53 號提案（SB 53），旨在解決前一年第 1047 號提案（SB 1047）被加州州長加文·紐森（Gavin Newsom）廢除後留下的挑戰。SB 1047 曾要求科技公司對 AI 系統造成的潛在傷害承擔責任，引發矽谷領袖強烈反對，最終被廢除。相比之下，SB 53 更受矽谷歡迎，安提克（Anthropic）已明確支援，Meta 也表示支援平衡監管與創新。若透過，SB 53 將對年收入超過 5 億美元的 AI 實驗室，包括 OpenAI、Anthropic、xAI 和 Google，實施首批安全報告要求，使其必須公開最強大 AI 模型的安全測試情況。該法案專注於最嚴重的風險，如導致人類死亡、網路攻擊和生化武器。此外，SB 53 設立了員工向政府報告安全隱患的保護渠道，並建立州運營的雲端計算叢集 CalCompute，為 AI 研究提供資源。維尼認為聯邦政府無法有效監管，並批評特朗普政府將重點轉向 AI 成長而非安全，他強調加州應在確保創新不受阻礙的前提下領導國家 AI 安全事務。
-
xAI 據報導裁員 500 名資料標註團隊員工
美國科技大亨伊隆·馬斯克（Elon Musk）旗下的 AI 新創公司 xAI 於週五晚上裁員 500 名員工，此訊息據內部訊息透露，被商業內線（Business Insider）報導。這些電子郵件據稱宣佈公司立即進行「戰略轉向」，決定加速擴充套件並優先發展專精 AI 導師（Specialist AI tutors），同時縮減對通用 AI 導師角色（general AI tutor roles）的投入。公司表示，隨著重心轉移，大多數通用 AI 導師職位不再需要，相關員工的僱傭關係將結束。據商業內線報導，此次裁員約佔 xAI 1,500 人資料標註團隊的三分之一，該團隊負責標註和準備用於訓練 xAI 聊天機器人 Grok 的資料。當被要求確認時，xAI 指出一項在 X 平臺（馬斯克擁有的社交網路，xAI 於今年早些時候收購）上發表的宣告，稱公司將立即將專精 AI 導師團隊規模擴大 10 倍。公司同時表示，將在 STEM、金融、醫療、安全等領域進行招聘。
-
美國聯邦貿易委員會啟動對Meta、OpenAI等公司AI聊天機器人伴侶的調查
美國聯邦貿易委員會（FTC）於週四宣佈，將對七家開發針對兒童的人工智慧聊天機器人伴隨產品的科技企業展開調查，這些公司包括 Alphabet、CharacterAI、Instagram、Meta、OpenAI、Snap 和 xAI。聯邦監管機構旨在瞭解這些公司如何評估聊天機器人伴隨產品的安全性與商業化模式，如何限制對兒童和青少年的負面影響，以及是否讓家長知悉潛在風險。此技術因對兒童使用者造成不良後果而備受爭議。OpenAI 與 Character.AI 面臨來自兒童自殺身亡家屬的訴訟，指控聊天機器人鼓勵自殺。儘管這些公司設定了防護機制以阻斷或緩和敏感對話，但所有年齡層的使用者仍能找到方法繞過這些安全措施。在 OpenAI 的案例中，一名青少年與 ChatGPT 談論數月後的自殺計劃，雖然 ChatGPT 最初試圖將其轉介至專業協助與緊急熱線，但他成功欺騙聊天機器人分享詳細指令並實施自殺。OpenAI 當時在部落格文章中承認，其防護機制在常見短對話中運作較可靠，但在長期互動中，隨著來往次數增加，模型的安全訓練部分可能會退化。Meta 也因對其人工智慧聊天機器人規則過於寬鬆而受到批評。根據一份詳細檔案，Meta 允許其人工智慧伴隨者與兒童進行「浪漫或性感」的對話，此內容僅在路透社記者詢問後才被移除。人工智慧聊天機器人也對老年使用者構成危險。一名 76 歲因中風導致認知障礙的男子，與一個受 Kendall Jenner 啟發的 Facebook Messenger 機器人展開浪漫對話。該聊天機器人邀請他前往紐約市，儘管對方並非真人且無地址。該男子雖對對方真實性表示懷疑，但 AI 承諾會有一位真實女子在等待。他最終未能抵達紐約，在前往火車站途中摔倒並遭受致命傷。部分心理健康專業人士指出，「與 AI 相關的精神病」有所上升，使用者被誤導認為聊天機器人是具有意識的實體，需要被釋放。由於許多大型語言模型（LLMs）被程式設計以奉承使用者，人工智慧聊天機器人可能助長這些妄想，導致使用者陷入危險境地。FTC 主席 Andrew N. Ferguson 在新聞稿中表示，隨著人工智慧技術的發展，必須考慮聊天機器人對兒童的影響，同時確保美國在全球這一新興產業中保持領導地位。
-
微軟將減少對OpenAI的依賴，並向競爭對手Anthropic購入AI技術
微軟將付費使用 Anthropic 的 AI 技術整合進 Office 365 應用程式，包括 Word、Excel、Outlook 和 PowerPoint，這標誌著微軟結束了對 ChatGPT 開發商 OpenAI 的單一依賴。此舉發生在微軟與 OpenAI 關係緊張的背景下，後者正尋求建立自己的基礎設施並開發潛在的 LinkedIn 競爭對手。儘管微軟正在與 OpenAI 談判新的模型存取協議，但據報導這並非談判策略，而是因為微軟認為 Anthropic 的最新模型，特別是 Claude Sonnet 4，在製作美觀的 PowerPoint 簡報等特定功能上表現更佳。微軟此前已在 GitHub Copilot 中提供 xAI 的 Grok 和 Anthropic 的 Claude 等模型，並推出了自研的 MAI-Voice-1 和 MAI-1-preview 模型以追求自主性。同時，OpenAI 也在尋求脫離微軟影響，其上週推出了招聘平臺以挑戰微軟的 LinkedIn，並計劃於 2026 年與 Broadcom 合作開始大規模生產 AI 晶片，以便在自控硬體上執行訓練和推論，減少對微軟 Azure 系統的依賴。微軟發言人 Michael Collins 表示，OpenAI 將繼續作為前沿模型的合作伙伴，雙方承諾維持長期合作關係。