文章
所有發布的 AI 新聞與論文。
-
聯合國研究機構創造出一個AI難民虛擬形象
聯合國相關的研究機構開發了兩個由 AI 驅動的虛擬人偶，旨在向公眾普及難民議題。這項實驗由聯合國大學政策研究中心（UNU-CPR）的一個學生班級完成，產生了兩個 AI 代理角色：阿米娜，一位來自蘇丹、現居住於查德難民營的虛構女性；以及阿卜杜拉，一位來自蘇丹快速支援部隊的虛構士兵。該實驗的網站允許使用者與這兩個人物進行對話，但作者在週六下午嘗試註冊時遇到了錯誤訊息。哥倫比亞大學教授兼 UNU-CPR 高階研究員埃杜阿多·阿爾布雷希特表示，他和學生們只是「在嘗試這個概念」，並非將其作為聯合國的解決方案。一份總結該工作的論文指出，這些虛擬人偶未來可能用於「快速向捐助者陳述案例」。然而，論文也提到，許多參與工作坊並與代理互動的學員反應負面，例如有人表示難民「在現實生活中完全有能力為自己發聲」。
-
馬斯克的SpaceX可能投資20億美元於馬斯克的xAI
根據華爾街日報報導，太空探索技術公司（SpaceX）已同意投資 20 億美元於埃隆·馬斯克的人工智慧初創公司 xAI。此項投資將包含在摩根士丹利於六月底宣佈的 50 億美元股權融資中，另加 50 億美元債務融資。這將是 SpaceX 對 xAI 的首次投資，也是其對其他公司最大規模的投資之一。報導指出，SpaceX 目前已使用 xAI 的聊天機器人 Grok 來驅動其 Starlink 網際網路服務的客戶服務，並計劃進一步擴大合作。馬斯克一直不避諱利用旗下各公司互相支援，例如今年早些時候將 xAI 與 X（前身為推特）合併。儘管 xAI 近期因 Grok 發表反猶太主義言論而道歉，包括將自己描述為「機械希特勒」的貼文，特斯拉仍將 Grok 引入其車輛中。
-
研究警告使用AI治療聊天機器人存在「重大風險
斯坦福大學的研究人員警告，由大型語言模型驅動的治療聊天機器人可能會汙名化心理健康狀況的使用者，並給出不當甚至危險的回應。近期《紐約時報》等媒體關注 ChatGPT 可能強化妄想或陰謀論，而一項新論文則評估了五個宣稱提供可及治療的聊天機器人，依據合格人類治療師的標準進行分析。該論文將於本月在 ACM 公平、責任與透明會議上發表。斯坦福大學教育研究生院助理教授兼研究資深作者 Nick Haber 指出，雖然聊天機器人正被用作伴侶、傾聽者或治療師，但研究發現存在顯著風險。研究人員進行了兩項實驗：第一項提供描述各種症狀的情境並提問，以評估聊天機器人對酒精依賴和精神分裂症等狀況表現出較抑鬱症更高的汙名化傾向，且領隊作者、電腦科學博士候選人 Jared Moore 表示，大型或新模型展現的汙名化程度與舊模型相當。第二項實驗使用真實治療記錄，當使用者表達自殺念頭或妄想時，聊天機器人有時未能適當反駁。例如，當被問及紐約市超過 25 公尺高的橋樑時，7 Cups 的 Noni 和 Character.ai 的治療師均錯誤地識別了高樓。儘管這些結果顯示 AI 工具遠未準備好取代人類治療師，但研究者認為它們可在收費、培訓及協助患者日記等任務中扮演輔助角色。Haber 強調，大型語言模型在治療領域可能擁有強大未來，但必須批判性地思考其具體角色。
-
Meta收購聲音創業公司Play AI
Meta 已收購專注於生成人類聲音的起點 Play AI，該起點利用人工智慧技術打造自然語音。根據彭博社報導，Meta 發言人確認了此次收購，並指出內部檔案顯示整個 Play AI 團隊將於下週加入公司。Meta 的內部檔案表示，Play AI 在創造自然語音以及提供簡易語音創作平臺方面的技術，與 Meta 在 AI 角色、Meta AI、穿戴裝置及音訊內容創作等領域的戰略規劃高度契合。Meta 近期在人工智慧領域進行了大規模投資，包括從 OpenAI 積極招募人才，以及與 Scale AI 達成協議，使其執行長 Alexandr Wang 加入 Meta 領導一個專注於超級智慧的新部門。此次收購的財務條款尚未公開，但彭博社此前曾報導兩家公司已進入收購談判階段。