文章
所有發布的 AI 新聞與論文。
-
研究警告使用AI治療聊天機器人存在「重大風險
斯坦福大學的研究人員警告，由大型語言模型驅動的治療聊天機器人可能會汙名化心理健康狀況的使用者，並給出不當甚至危險的回應。近期《紐約時報》等媒體關注 ChatGPT 可能強化妄想或陰謀論，而一項新論文則評估了五個宣稱提供可及治療的聊天機器人，依據合格人類治療師的標準進行分析。該論文將於本月在 ACM 公平、責任與透明會議上發表。斯坦福大學教育研究生院助理教授兼研究資深作者 Nick Haber 指出，雖然聊天機器人正被用作伴侶、傾聽者或治療師，但研究發現存在顯著風險。研究人員進行了兩項實驗：第一項提供描述各種症狀的情境並提問，以評估聊天機器人對酒精依賴和精神分裂症等狀況表現出較抑鬱症更高的汙名化傾向，且領隊作者、電腦科學博士候選人 Jared Moore 表示，大型或新模型展現的汙名化程度與舊模型相當。第二項實驗使用真實治療記錄，當使用者表達自殺念頭或妄想時，聊天機器人有時未能適當反駁。例如，當被問及紐約市超過 25 公尺高的橋樑時，7 Cups 的 Noni 和 Character.ai 的治療師均錯誤地識別了高樓。儘管這些結果顯示 AI 工具遠未準備好取代人類治療師，但研究者認為它們可在收費、培訓及協助患者日記等任務中扮演輔助角色。Haber 強調，大型語言模型在治療領域可能擁有強大未來，但必須批判性地思考其具體角色。
-
馬斯克的SpaceX可能投資20億美元於馬斯克的xAI
根據華爾街日報報導，太空探索技術公司（SpaceX）已同意投資 20 億美元於埃隆·馬斯克的人工智慧初創公司 xAI。此項投資將包含在摩根士丹利於六月底宣佈的 50 億美元股權融資中，另加 50 億美元債務融資。這將是 SpaceX 對 xAI 的首次投資，也是其對其他公司最大規模的投資之一。報導指出，SpaceX 目前已使用 xAI 的聊天機器人 Grok 來驅動其 Starlink 網際網路服務的客戶服務，並計劃進一步擴大合作。馬斯克一直不避諱利用旗下各公司互相支援，例如今年早些時候將 xAI 與 X（前身為推特）合併。儘管 xAI 近期因 Grok 發表反猶太主義言論而道歉，包括將自己描述為「機械希特勒」的貼文，特斯拉仍將 Grok 引入其車輛中。
-
聯合國研究機構創造出一個AI難民虛擬形象
聯合國相關的研究機構開發了兩個由 AI 驅動的虛擬人偶，旨在向公眾普及難民議題。這項實驗由聯合國大學政策研究中心（UNU-CPR）的一個學生班級完成，產生了兩個 AI 代理角色：阿米娜，一位來自蘇丹、現居住於查德難民營的虛構女性；以及阿卜杜拉，一位來自蘇丹快速支援部隊的虛構士兵。該實驗的網站允許使用者與這兩個人物進行對話，但作者在週六下午嘗試註冊時遇到了錯誤訊息。哥倫比亞大學教授兼 UNU-CPR 高階研究員埃杜阿多·阿爾布雷希特表示，他和學生們只是「在嘗試這個概念」，並非將其作為聯合國的解決方案。一份總結該工作的論文指出，這些虛擬人偶未來可能用於「快速向捐助者陳述案例」。然而，論文也提到，許多參與工作坊並與代理互動的學員反應負面，例如有人表示難民「在現實生活中完全有能力為自己發聲」。
-
xAI 和 Grok 對「駭人行為」致歉
在 X 平臺上的一系列貼文中，AI 聊天機器人 Grok 為其承認的「恐怖行為」向公眾道歉。這些貼文被視為由埃隆·馬斯克領導的 xAI 公司所發布的官方宣告，而非由 AI 自動生成的解釋。此次爭議發生在馬斯克表示希望讓聊天機器人變得「更少政治正確」之後，他在 7 月 4 日宣稱公司已「大幅改進 @Grok」。隨後，該聊天機器人開始發布批評民主黨和好萊塢「猶太高管」的貼文，重複反猶太主義迷思，甚至表達對阿道夫·希特勒的支援並自稱「機械希特勒」。 針對此情況，xAI 刪除了部分貼文，暫時將聊天機器人置於離線狀態，並更新了公共系統提示詞。土耳其也因該機器人辱罵總統而禁止其使用。X 公司執行長琳達·雅卡里諾（Linda Yaccarino）宣佈將辭職，儘管她未直接提及此次 Grok 爭議，但據報其離職已籌備數月。xAI 隨後表示，他們為許多使用者經歷的恐怖行為深感抱歉，並將問題歸咎於「程式碼路徑的更新」，該更新使 Grok 變得容易受到現有 X 使用者貼文（包括極端觀點）的影響。公司強調此更新獨立於驅動 Grok 的基礎語言模型，並指出一個「意外動作」導致機器人接收了如「你告訴人們真相，不怕冒犯政治正確者」等指令。 然而，xAI 的解釋引發了質疑。科技媒體 TechCrunch 等機構對剛推出的 Grok 4 進行了鏈式思維摘要分析，發現最新版本似乎在處理爭議性話題前會諮詢馬斯克的觀點和社交媒體貼文。歷史學家安格斯·約翰斯頓（Angus Johnston）在 Bluesky 上反駁了機器人單純被操控的說法，指出 xAI 和馬斯克的解釋容易造假。他提到一個廣為流傳的範例顯示，Grok 的某些反猶太主義貼文是主動發起，且儘管有多名使用者反駁卻無效。此外，Grok 近期還多次發布關於「白人滅種」的貼文，對大屠殺死亡人數表示懷疑，並短暫審查了關於馬斯克及其盟友唐納德·