文章
所有發布的 AI 新聞與論文。
-
AI 核心技術是新簽約獎金還是業務成本?
本週,人工智慧 tokens 作為薪酬的一部分成為矽谷焦點。Nvidia 執行長 Jensen Huang 在年度 GTC 活動提出,工程師應獲得約一半基本薪資的 tokens,其頂尖人員每年可能消耗 25 萬美元的金額。投資組合管理師 Tomasz Tunguz 指出,根據 Levels.fyi 資料,頂部四分位軟體工程師薪資為 37.5 萬美元,若加上 10 萬美元 tokens,總薪酬達 47.5 萬美元,其中約五分之一為計算資源。OpenClaw 等自主執行工具的興起加速了此趨勢,工程師使用 tokens 的速度遠超一般使用者,甚至出現 Meta 與 OpenAI 工程師在內部排行榜競爭 tokens 消耗量的現象。然而,專家警告這可能並非單純福利。若公司為員工提供相當於第二個工程師的計算資源,隱含壓力是產出雙倍工作成果。此外,當計算成本接近或超過薪資時,財務團隊可能認為減少人力編制更具經濟效益。Jamaal Glenn 指出,tokens 不像薪資或股權那樣會累積增值,公司可能以此方式在不增加現金或股權的情況下提高薪酬包價值。因此,工程師需謹慎評估此趨勢是否真正有利於自身職業安全與長期利益。
-
獨家探訪亞馬遜Trainium實驗室,這顆晶片讓Anthropic、OpenAI甚至蘋果都傾心
在亞馬遜執行長安迪·賈西(Andy Jassy)宣佈亞馬遜雲服務(AWS)與 OpenAI 達成高達 500 億美元的投資協議後,作者受邀前往亞馬遜位於奧斯汀的晶片開發實驗室進行私人導覽。此次造訪由實驗室主任克里斯托弗·金(Kristopher King)和工程總監馬克·卡羅爾(Mark Carroll)帶領,旨在探討亞馬遜自研的 Trainium 晶片對降低 AI 推理成本及挑戰英偉達壟斷地位的潛在影響。 AWS 與 OpenAI 的協議使亞馬遜成為該模型公司新 AI 代理構建工具 Frontier 的獨家供應商。據《金融時報》報導,微軟可能認為此協議違反了雙方關於讓雷德蒙德(Redmond)獲取所有 OpenAI 模型與技術的協議。作為協議的一部分,亞馬遜承諾向 OpenAI 提供 2 吉瓦的 Trainium 運算能力。目前,亞馬遜已部署 140 萬顆 Trainium 晶片,其中超過 100 萬顆用於執行 Anthropic 的 Claude 模型。雖然 Trainium 最初專注於模型訓練,但現在已廣泛用於推理,以解決行業內最大的效能瓶頸。 亞馬遜推出的 Trainium3 晶片及新 Neuron 開關組合,據稱執行成本比傳統雲端服務低達 50%,並能顯著降低延遲。2024 年,蘋果公司公開讚揚了亞馬遜的 Graviton、Inferentia 及 Trainium 晶片。為了降低開發者的轉換成本,Trainium 現在支援 PyTorch 框架,只需一行程式碼變更即可在該晶片上執行。此外,亞馬遜還與 Cerebras Systems 合作,將該公司的推理晶片整合至執行 Trainium 的伺服器中。 亞馬遜的晶片團隊自 2015 年收購以色列晶片設計商 Annapurna Labs 以來,已擁有超過 10 年的晶片設計經驗。該實驗室位於奧斯汀「The Domain」區,擁有先進的 3 奈米 Trainium3 晶片,由 TSMC 生產。實驗室展示了從晶片測試、焊接到液冷技術的完整流程,包括用於驗證晶片執行的「bring-up」過程。該團隊還設計了包含 Train
-
馬斯克發表星際航空與電動車製造晶片計畫
特斯拉執行長埃隆·馬斯克近日提出雄心勃勃的計劃,旨在推動其旗下特斯拉與太空探索技術公司(SpaceX)之間的晶片製造合作。彭博社報導,馬斯克於週六晚間在德州奧斯汀市中心的活動中闡述了該計劃,並展示了一張照片,暗示他所稱的「泰拉廠」(Terafab)設施將建於特斯拉奧斯汀總部附近及「吉加廠」旁。馬斯克表示,推動此項專案是因為半導體製造商無法以足夠速度生產晶片,以滿足其公司對人工智慧與機器人技術的需求,他強調:「我們要麼建造泰拉廠,要麼沒有晶片,而我們需要晶片,所以我們必須建造泰拉廠。」該專案的目標是製造能夠每年在地球提供一百到二百吉瓦計算能力,並在太空提供一太瓦計算能力的晶片。馬斯克並未提供這些計劃的時間表。彭博社指出,馬斯克雖無半導體製造業背景,但他確實有過承諾目標與時間表卻經常超額承諾的歷史紀錄。
-
Cursor 承認其新編碼模型是建立在 Moonshot AI 的 Kimi 之上
美國 AI 編碼公司 Cursor 於本週推出了名為 Composer 2 的新模型,宣稱其具備「前沿級編碼智慧」。然而,X 平臺使用者 Fynn 隨即指出,該模型本質上僅是中國 Moonshot AI 公司近期發布的開源模型 Kimi 2.5 經過額外強化學習(Reinforcement Learning)後的版本。Fynn 提供的程式碼證據顯示模型識別出了 Kimi,並質疑 Cursor 應重新命名。此訊息令人驚訝,因為 Cursor 是一家資金雄厚的美國創業公司,去年秋季以 293 億美元估值完成了 23 億美元的融資,年營收據報已超過 20 億美元,且官方公告中未提及 Moonshot AI 或 Kimi。 Cursor 開發者教育副總裁 Lee Robinson 隨後承認,Composer 2 確實基於開源模型建立,但他強調僅約四分之一來自基礎模型的計算資源,其餘均來自 Cursor 自身的訓練。Robinson 表示,Composer 2 在各種基準測試中的表現與 Kimi 有顯著差異,並堅持 Cursor 對 Kimi 的使用符合授權條款。Kimi 官方帳號在 X 上回應,稱 Cursor 是經過授權商業合作夥伴,並自豪於看到其模型為基礎,透過 Cursor 的持續預訓練和高計算量強化學習發揮了作用。 專家分析指出,Cursor 未提前承認 Kimi 基礎可能引發尷尬,尤其是在中美 AI 競爭被描繪為生存戰的背景下。此前中國公司 DeepSeek 發布競爭性模型時,矽谷曾顯現恐慌。Cursor 共同創辦人 Aman Sanger 承認,未在部落格中提及 Kimi 基礎是疏忽,並承諾在下一個模型中修正此問題。