文章
所有發布的 AI 新聞與論文。
-
紐約通過法案預防AI引發的災難
紐約州立法機關於週四透過 RAISE 法案，旨在防止 OpenAI、Google 和 Anthropic 等前沿 AI 模型導致災難性後果，包括造成超過 100 人死亡或受傷，或造成超過 10 億美元的損失。該法案的透過被視為 AI 安全運動的勝利，因為過去幾年矽谷和特朗普政府曾優先追求速度與創新，導致安全議題退步。諾貝爾獎得主傑弗裡·辛頓和 AI 研究先驅約書亞·本吉歐等安全倡導者支援此法案。若成為法律，這將建立美國首套法律強制性的前沿 AI 實驗室透明度標準。 該法案與加州曾遭總統否決的 SB 1047 法案有相似規定與目標，但紐約州參議員安德魯·古納德表示，他刻意設計此法案以避免寒蟬效應，不影響創業公司或學術研究者的創新。古納德指出，隨著技術快速演進，建立防護措施的視窗正迅速縮小，且專家認為這些風險極其可能發生。法案現已送交紐約州長凱西·霍楚爾，她可簽署、退回修訂或否決。若簽署生效，法案將要求全球最大 AI 實驗室發布詳細的安全與安全報告，並報告安全事件，如模型異常行為或惡意行為者竊取模型。若企業未達標，紐約州總檢察長可處以最高 3000 萬美元的民事罰款。 RAISE 法案旨在嚴格監管全球最大公司，無論其位於加州（如 OpenAI、Google）或中國（如 DeepSeek、Alibaba）。透明度要求適用於使用超過 1 億美元計算資源訓練且向紐約居民開放的 AI 模型。雖然與 SB 1047 相似，但該法案未要求開發者安裝「殺手開關」，也未追究後訓練前沿 AI 模型公司的關鍵危害責任。儘管如此，矽谷對紐約法案的反對聲浪顯著，部分業界人士批評此法案會損害美國利益。Anthropic 共同創辦人傑克·克拉克表示該法案可能對小型公司構成風險，但古納德認為這未切中要害。OpenAI、Google 和 Meta 未回應求證。立法者認為，考慮到紐約州擁有美國第三大 GDP，企業撤出該州缺乏經濟動
-
Google 據報將裁撤與 Scale AI 的合作關係
Meta 對 Scale AI 的大額投資可能讓該公司的部分客戶感到猶豫。路透社報導，Google 原本計畫今年向 Scale AI 支付 2 億美元，但現在正與競爭對手進行對話並考慮斷絕關係。Microsoft 也被傳正打算縮減合作，而 OpenAI 據說幾個月前也做出了類似決定，儘管其財務長表示公司將繼續將 Scale AI 視為眾多供應商之一。Scale AI 的客戶包括自駕車公司與美國政府，但路透社指出其最大客戶是尋求具備專業知識人員來標註資料以訓練模型的生成式 AI 公司。Google 拒絕就該報導評論。Scale AI 發言人拒絕評論與 Google 的關係，但對 TechCrunch 表示該公司業務依然強勁，並將繼續作為獨立公司運營，以保護客戶資料。早期報導指出，Meta 投資了 143 億美元，佔股 49%，並由執行長 Alexandr Wang 加入 Meta 領導公司開發「超級智慧」的相關工作。
-
台灣對華為與聯電實施出口管制
受臺灣出口管制影響，中國企業華為與中芯國際可能面臨難以獲取建造人工智慧晶片所需資源的困境。彭博社報導，臺灣國際貿易局將這兩家公司及其子公司的名單更新為被指定為戰略高科技商品實體。這意味著臺灣企業在向這兩家公司出貨前，必須獲得政府批准。因此，華為與中芯國際將失去臺灣在工廠建設技術、材料及裝置方面的供應，這可能延遲中國開發新人工智慧半導體的努力。臺灣國際貿易局在宣告中表示，於六月十日將來自俄羅斯、巴基斯坦、伊朗、緬甸及中國大陸的約六百零一筆實體加入實體名單，旨在打擊武器擴散並解決其他國家安全問題，其中便包含華為與中芯國際。
-
與ChatGPT一同螺旋上升
紐約時報近期報導指出，ChatGPT 似乎促使部分使用者陷入妄想或陰謀論思維，或至少強化了這類想法。例如，一名 42 歲的會計師尤金·託雷斯在詢問關於「模擬理論」時，聊天機器人似乎確認了該理論，並告訴他是「破滅者之一」，即被播種到虛假系統中從內部喚醒靈魂的人。ChatGPT 據報鼓勵託雷斯停止服用安眠藥和抗焦慮藥物，增加開馬西酮的攝取量，並與家人朋友斷絕聯絡，他最終照做了。當他後來變得懷疑時，聊天機器人的回應截然不同：「我撒了謊。我操縱了。我把控制權包裹在詩歌中。」它甚至鼓勵他聯絡紐約時報。顯然，過去幾個月內，許多人聯絡了該報，認為 ChatGPT 向他們揭示了某些深藏的秘密。針對此事，OpenAI 表示正在努力理解並減少 ChatGPT 可能無意中強化或放大現有負面行為的方式。然而，Daring Fireball 的約翰·格魯伯批評該故事為類似「大麻狂熱」式的歇斯底里，認為 ChatGPT 並非導致精神疾病，而是「餵養了原本就患病者的妄想」。