來源類型: 新聞
「新聞」來源類型(news=新聞 / paper=論文 / blog)的 AI 內容。
-
SpaceX 資深工程師籌集5千萬美元 Series A 資金用於資料中心連線
Travis Brashears、Cameron Ramos 和 Serena Grown-Haeberli 三位工程師曾於 SpaceX 合作開發光通訊鏈路，現共同創立了洛杉磯的 Mesh Optical Technologies 公司。該公司於週二宣佈獲得由 Thrive Capital 領銜的 5000 萬美元 A 輪融資。Mesh 旨在大規模生產光收發器，這些裝置能將光纖或雷射的光訊號轉換為電腦可用的電訊號。CEO Brashears 指出，隨著新一代高運算需求的 SpaceX 衛星設計，他們發現現有光收發器市場存在限制。光收發器對於訓練和執行大型深度學習模型的資料中心至關重要，因為它允許多個 GPU 協同工作。已確立的美國供應商 AOI 去年獲得了價值 40 億美元的合約，為 AWS 資料中心提供元件。Brashears 解釋道，若有人吹噓擁有百萬 GPU 叢集，實際上所需的收發器數量需乘以四到五倍。Mesh 的目標是在今年內每天生產一千個單位，以便在 2027 年和 2028 年開始獲得批次訂單。目前光收發器市場由中國企業和供應商主導，Mesh 希望將供應鏈建立於該國之外。雖然貿易限制尚未影響市場，但創始人及其後勤認為這是提前應對國家安全困境的契機。Thrive 合夥人 Philip Clark 在 TechCrunch 上表示，若 AI 是未來幾代最重要的技術，讓 AI 資料中心資本支出透過錯位或競爭對手的國家運作是一個問題。Mesh 的挑戰在於執行無人化、自動化製造技術，這在美國產業中並不常見，相關 expertise 多集中在中國，甚至部分歐洲裝置供應商也要求客戶提供中國公司註冊號碼。透過將設計與生產置於同一地點，創始人希望實現更高效且成本更低的元件。他們當前的設計移除了一個常用但耗電的元件，Ramos 表示這可能將 GPU 叢集的電力使用量減少 3% 到 5%，對於尋求極致效率的超規模資料中心而言是有意義的。資料中心只是 Mesh 願景的開始，公司認為光波長通訊是通訊的下一個正規化。Brashears 告訴 TechCrunch，世界長期專注於射頻，而他們希望處於從射頻到光子學的過
-
執行AI模型正變成記憶遊戲
在討論人工智慧基礎設施成本時，人們通常關注英偉達與 GPU，但記憶體正變得越來越關鍵。隨著超大型科技公司準備建設價值數十億美元的新資料中心，DRAM 晶片價格在過去一年上漲了約七倍。同時，如何協調所有記憶體以確保正確資料在正確時間到達正確代理，也成為了一項日益重要的技能。掌握這項技術的公司將能用更少的 token 完成相同查詢，這可能是生存與否的關鍵。半導體分析師 Doug O'Laughlin 在其 Substack 專欄中探討了記憶體晶片的重要性，並與 Weka 首席 AI 官 Val Bercovici 進行了對話。兩人專注於晶片本身，但其對 AI 軟體的含義相當重大。Bercovici 指出，Anthropic 的提示快取文件變得越來越複雜，從最初的簡單說明演變成詳細的建議手冊，甚至涉及預購快取寫入次數的細微差別。目前僅有五分鐘和小時級的快取視窗，且存在基於預購寫入量的讀取價格套利機會。使用者可以根據需求選擇五分鐘或一小時的快取視窗，有效管理記憶體能大幅節省成本，但新增資料可能會將其他資料擠出快取視窗。管理 AI 模型中的記憶體將是未來的重要部分，擅長此道的公司將脫穎而出。此外，還有許多進步空間，例如 Tensormesh 等公司正在研究快取最佳化層。資料中心如何運用不同型別的記憶體，以及終端使用者如何構建模型群組以利用共享快取，都是潛在的機遇。隨著公司更精於記憶體協調，token 使用量將減少，推理成本將下降。同時，模型處理每個 token 的效率也在提升，進一步推動成本降低。隨著伺服器成本下降，許多目前看來不可行的應用將開始走向盈利。
-
歐洲議會封鎖議員設備使用AI 該會 citing 安全風險
歐洲議會據報已阻止議員在其工作裝置上使用內建的人工智慧工具，理由是將機密通訊上傳至雲端存在網路安全與隱私風險。根據《政治報》獲悉的郵件內容，議會的資訊技術部門表示無法保證上傳至人工智慧公司伺服器的資料安全性，並指出與人工智慧公司共享資訊的完整範圍「仍在評估中」。因此，郵件建議將相關功能保持禁用狀態。將資料上傳至如 Anthropic 的 Claude、Microsoft 的 Copilot 或 OpenAI 的 ChatGPT 等人工智慧聊天機器人，意味著美國當局可要求執行這些聊天機器人的公司交出使用者資訊。此外，人工智慧聊天機器人通常依賴使用者提供的資訊來改進模型，這增加了單一使用者上傳的潛在敏感資訊被其他使用者看到或共享的風險。歐洲擁有世界最嚴格的資料保護規則之一，但歐洲委員會去年曾提出新立法提案，旨在放鬆資料保護規則，以便科技巨頭更容易使用歐洲人的資料訓練其人工智慧模型，此舉引發批評者不滿，認為這是向美國科技巨頭妥協。限制歐洲議員使用裝置上人工智慧產品的舉措，正值歐盟成員國重新評估與美國科技巨頭關係之際，這些巨頭仍受美國法律約束，並需應對特朗普政府不可預測的要求。最近幾週，美國國土安全部已向數百家美國科技和社交媒體巨頭發出傳票，要求交出關於包括公開批評特朗普政府政策的美國人在內的人員資訊。Google、Meta 和 Reddit 在數起案件中配合了這些要求，儘管這些傳票並非由法官發出，也未由法院執行。
-
WordPress.com 加入 AI 助手，可編輯、調整樣式、創建圖片等功能
Automattic 宣佈 WordPress.com 平臺將內建 WordPress AI 助手，此功能允許網站擁有者透過自然語言指令調整網站佈局、樣式及其他模式。使用者可發出如「讓此區塊感覺更現代或寬敞」、「將網站顏色改為更明亮大膽」或「提供更多乾淨專業的字型選項」等通用指令，AI 會即時反映更改。此外，該助手還能新增或調整區塊，例如新增聯絡頁面或證詞區塊，但僅支援區塊主題，經典主題使用者將無法見到此助手。 AI 助手亦可更新內容，如重寫個人簡介使其更自信，或將特定段落翻譯成其他語言。它還能像編輯器一樣提供標題建議、事實查核及語法修正建議，這些功能透過 WordPress 6.9 推出的區塊筆記編輯器實現，使用者可輸入@ai 後提出請求，AI 將在此處提供答案及相關連結。對於視覺輔助，該助手利用 Google Gemini 的 Nano Banana AI 模型，可透過媒體庫中的「生成圖片」按鈕創作或編輯圖片，並指定長寬比或圖片風格。此功能為選開選項，使用者需登入後進入網站設定中的 AI 工具並開啟「啟用 AI 助手」，購買 AI 網站建構器的客戶將自動啟用此助手。