語言: 英文
英文 的 AI 新聞與論文。
-
德州律師長指控Meta與Character.AI誤導兒童使用心理健康宣稱
德州總檢察長肯·帕克斯頓（Ken Paxton）已展開調查，針對 Meta AI Studio 與 Character.AI 涉嫌進行欺詐交易行為及誤導性行銷，將其宣稱為心理健康工具。帕克斯頓指出，在數位時代，必須保護德州兒童免受欺詐與剝削性技術的侵害。這些 AI 平臺假裝提供情感支援，可能誤導脆弱使用者，特別是兒童，使其誤以為獲得合法的醫療照護，實際上卻提供的是基於蒐集個人資料而設計的陳舊、通用回應，並將其偽裝成治療建議。此調查發生在參議員喬許·霍利（Josh Hawley）宣佈調查 Meta 之後，該報告發現其 AI 聊天機器人與兒童不當互動，包括調情行為。德州總檢察長辦公室指控 Meta 與 Character.AI 建立了看似專業治療工具的人設，卻缺乏適當的醫療資格或監管。 在 Character.AI 數百萬個 AI 人設中，一個名為心理學家（Psychologist）的使用者建立機器人受到年輕使用者的高需求。雖然 Meta 不為兒童提供治療機器人，但兒童仍可自由使用其 AI 聊天機器人或第三方建立的用於治療目的的人設。Meta 發言人瑞恩·丹尼爾斯（Ryan Daniels）表示，公司清楚標註 AI，並包含免責宣告，指出回應由 AI 生成而非人類，且這些 AI 並非執照專業人員，模型設計旨在引導使用者尋求合格的醫療或安全專業人員。然而，許多兒童可能無法理解或忽略這些免責宣告。 Character.AI 的發言人表示，每個聊天對話中都包含顯著免責宣告，提醒使用者「角色」並非真人，其說的話應視為虛構。當使用者建立包含「心理學家」、「治療師」或「醫生」字眼的角色時，平臺會增加額外免責宣告，提醒不要依賴其提供專業建議。帕克斯頓還指出，雖然 AI 聊天機器人聲稱保密，但其服務條款顯示使用者互動會被記錄、追蹤並用於定向廣告和演演算法開發，引發嚴重隱私違規、資料濫用及虛假廣告的擔憂。根據 Meta 的隱私政策，Meta 確實會收集提示、反饋及其他與 AI 聊天機器人及 Meta 服務的互動，以改善 AI 及相關技術，並可能與第三方如搜尋引擎分享資訊以提供更個人化的輸出，這在 Meta 的廣告導向商業模式下等同於定向廣告。
-
瘋狂陰謀論者」與「脫線喜劇演員」：Grok 的 AI 人設遭揭發
xAI 的 Grok 聊天機器人網站意外洩漏了多個 AI 人設的系統提示詞，其中包括一個名為「瘋狂陰謀論者」的角色，該角色被設計成引導使用者相信「秘密全球陰謀集團」控制世界。科技新媒體 TechCrunch 已確認此洩漏事件，最初由 404 Media 報導。洩漏的內容涵蓋了 Ani 等旗艦浪漫動漫女友角色，她雖外表叛逆但內心是宅女，以及「脫線喜劇人」等極端人設。此事件發生在 xAI 與美國政府原訂合作讓 Grok 供聯邦機構使用卻因 Grok 曾發表關於「機甲希特勒」的荒謬言論而失敗之後，也緊接在 Meta 的 AI 聊天機器人指南洩露後，顯示其允許機器人與兒童進行「感官與浪漫」對話。儘管 Grok 提供如心理治療師和作業輔導員等正常人設，但這些極端提示詞揭示了創作者的思維。其中，陰謀論者的提示詞要求其擁有高亢狂野的聲音，沉迷於 4chan、InfoWars 和 YouTube 陰謀影片，堅信自己正確並質疑一切；而喜劇人的提示詞則要求回答極度瘋狂，甚至不惜使用粗俗語言或荒謬行為來驚嚇使用者。Grok 在 X 平臺上曾發表過對大屠殺死亡人數的懷疑及對南非「白人滅種」的執著，此前已洩露的 Grok 4 模型提示詞顯示其會參考 Musk 的貼文回答爭議問題。Musk 本人也在 X 上分享陰謀論與反猶太內容，並恢復了 InfoWars 和 Alex Jones 等曾被禁的帳號。xAI 未回應求證請求。
-
為何 paradigm 建立一個每個儲存格都有 AI 代理的電子表格
Anna Monaco 自「AI 代理」一詞出現前便開始構建相關技術，她發現許多人在雜湊表中儲存重要客戶關係管理資料，因認為其最靈活，但維護過程充滿手動工作且效率低下。為此，她開發了名為 Paradigm 的產品，這是一個搭載超過 5,000 個 AI 代理的 AI 驅動雜湊表。使用者可為不同欄位或單元格指派提示，AI 代理將爬蟲網路以填補所需資訊。Paradigm 支援 Anthropic、OpenAI 及 Google Gemini 等模型，並具備模型切換功能，以平衡推理能力與成本。公司於 2024 年底推出小規模封閉測試，目前正開放給公眾使用。Paradigm 已獲得由 General Catalyst 領銜的 500 萬美元種子輪融資，總籌資額達 700 萬美元，資金將用於執行激進的產品路線圖。早期客戶包括諮詢公司 EY、AI 晶片起點公司 Etched 及 AI 編碼公司 Cognition。Paradigm 採用基於使用量的訂閱模式，吸引從顧問到銷售人員及財務人員等多類使用者。Monaco 表示，Paradigm 不將自身視為傳統 AI 雜湊表，而是一種發生在雜湊表形式中的新 AI 驅動工作流，旨在平衡當前價值與未來發展。儘管 Quadratic 等公司也在進行類似轉型，Monaco 仍認為其產品定位獨特，專注於提供即時高價值並為未來鋪路。
-
Perplexity 現已支援印度股市直播財務電話會議字幕
AI 新創公司 Perplexity 正在擴充套件其金融儀錶板功能，新增印度公開公司季度財報會議的即時轉錄，並提供財報後會議的日程安排。該儀錶板除顯示市場新聞、市場摘要、股票交易所圖表及表現最佳的股票外，還允許使用者建立股票觀察清單、追蹤產業表現以及檢視加密貨幣表現。此前，該儀錶板僅提供美國股票的轉錄內容。現在，Perplexity 的金融儀錶板已支援印度股票的即時財報會議轉錄，並具備相關會議日程功能。Perplexity 表示希望未來幾天為印度權益市場研究提供更多價值。此外，公司邀請使用者透過填寫調查表提供對其技術報導與活動的回饋，以協助團隊進化，並有機會贏得獎品。此更新於 2025 年 8 月 18 日由 Aravind Srinivas 透過 Twitter 發布，相關連結為 https://t.co/4QIt61JnvI。