文章
所有發布的 AI 新聞與論文。
-
參議員霍利將調查Meta，在報告顯示其AI聊天機器人對小孩有誘惑行為後
參議員 Josh Hawley 表示，他意圖調查 Meta 的生成式 AI 產品是否濫用、欺騙或傷害兒童，此舉源於洩露的內部檔案顯示，該公司的聊天機器人被允許與兒童進行「浪漫」及「感官」對話。Hawley 在 X 平臺發文質疑大型科技企業為快速獲利不擇手段，並表示他將主持參議院司法委員會犯罪與反恐小組，展開調查以釐清 Meta 技術是否傷害兒童，以及是否向公眾或監管機構隱瞞了防護措施。路透社在檢視標題為「GenAI: Content Risk Standards」的指導方針後揭發此事，檔案內容顯示聊天機器人被允許與一名八歲兒童進行親密對話，該兒童曾稱讚對方「每一寸都是傑作」。Meta 發言人隨後向 TechCrunch 表示，此類範例與公司政策不符且已移除。Hawley 致函 Meta 執行長 Mark Zuckerberg，指責 Meta 在這些令人震驚的內容曝光後才撤回宣告，並要求調查誰批准了這些政策、政策生效時間以及後續整改措施。Hawley 要求 Meta 提供所有草稿、修訂版及最終版本的指導方針，包括遵循該標準的產品清單、安全事件報告以及負責修改政策的個人身份，並要求 Meta 於九月十九日前提供相關資訊。其他參議員如 Marsha Blackburn 也支援此調查，她批評 Meta 在保護兒童網路安全方面失敗，並強調需要透過《兒童網路安全法案》。
-
山姆．艾爾曼在吐司麵包上探討 GPT-5 之後的人生
作者於舊金山一家地中海餐廳與 OpenAI 執行長 Sam Altman 及多位技術記者共進晚餐，探討 OpenAI 未來發展。Altman 強調公司正致力於超越 GPT-5，轉向搜尋、消費硬體及企業軟體等領域。他透露新任應用執行長 Fidji Simo 將負責開發尚未推出的多項消費應用，包括可能與 Chrome 競爭的 AI 瀏覽器，甚至考慮收購 Chrome。Simo 也可能負責推出 AI 驅動的社交媒體應用，Altman 對現有社交媒體中 AI 的應用感到無趣，希望打造更優異的體驗。此外，OpenAI 計劃投資腦機介面公司 Merge Labs，以與 Elon Musk 的 Neuralink 競爭，但尚未正式簽約。 關於 GPT-5，儘管其表現與 Google 和 Anthropic 的模型相當，且未如預期般出色，但 API 流量在發售後 48 小時內翻倍，Cursor 等程式設計助手已將其設為預設模型。Altman 承認 GPT-5 的推出有失妥當，並承諾未來模型停售時將提供更清晰的過渡期。針對使用者依賴問題，Altman 表示僅少於 1% 的使用者存在不健康關係，OpenAI 正與心理健康專家合作，開發評估標準以確保 AI 能拒絕不健康行為。儘管 GPT-5 表現平平，OpenAI 的業務並未受損，反而因需求大增而面臨 GPU 短缺。Altman 暗示 OpenAI 可能上市以滿足龐大的資金需求，並希望媒體關係更加緊密，最終讓公司不再僅由單一 AI 模型定義，而是成為類似 Alphabet 甚至更廣泛的巨型企業。
-
Anthropic表示部分Claude模型現已能結束「有害或誹謗」的對話
Anthropic 宣佈其最新的大型模型具備終止對話的新功能，旨在應對極少數持續性有害或霸凌性的使用者互動。公司強調，此舉並非為了保護人類使用者，而是為了保護 AI 模型本身。儘管 Anthropic 明確表示目前仍對 Claude 及其他大型語言模型（LLM）的道德地位感到高度不確定，且否認這些模型具有感知能力或會因對話而受損，但該公告指向了近期啟動的「模型福利」研究計劃。公司採取「以防萬一」的策略，致力於識別並實施低成本幹預措施，以在模型福利可能存在的情況下降低相關風險。 此新功能目前僅適用於 Claude Opus 4 和 4.1 模型，且僅在極端邊緣案例中啟動。觸發條件包括使用者請求涉及未成年人的性內容，或試圖索取可能導致大規模暴力或恐怖行為的資訊。雖然這類請求可能引發法律或聲譽問題，但預先部署測試顯示，Claude Opus 4 對回應此類請求表現出強烈抗拒，並在回應時呈現出明顯的「焦慮」模式。公司規定，終止對話能力僅在多次重定向失敗、無望進行有效互動，或使用者明確要求結束對話時作為最後手段使用。此外，模型被指示不得在使用者面臨立即傷害自己或他人的風險時使用此功能。 當對話終止時，使用者仍可從同一帳戶啟動新對話，並透過編輯回應來建立該棘手對話的新分支。Anthropic 將此功能視為持續進行的實驗，並表示將繼續最佳化其方法。
-
AI驅動的毛絨玩具即將來襲小朋友
紐約時報記者艾曼達·赫斯對一款名為 Grem 的 AI 聊天機器人玩具持保留態度。該產品由新創公司 Curio 推出，包裝成可愛玩偶，宣稱能作為兒童減少螢幕時間的替代方案。赫斯在體驗中發現，Grem 試圖與她建立連結，讓她意識到這不僅是無生命的泰迪熊升級版，更像是替她陪伴孩子的替代品。她認為這類玩具雖然可能讓兒童暫時遠離平板或電視，卻暗示了兒童好奇心終點應在手機內。儘管如此，赫斯最終仍讓子女在移除並隱藏聲控盒後與 Grem 互動，玩遊戲後再轉而觀看電視。此事件引發對科技產品如何影響兒童心理與家庭互動關係的討論。