德州總檢察長肯·帕克斯頓（Ken Paxton）已展開調查，針對 Meta AI Studio 與 Character.AI 涉嫌進行欺詐交易行為及誤導性行銷，將其宣稱為心理健康工具。帕克斯頓指出，在數位時代，必須保護德州兒童免受欺詐與剝削性技術的侵害。這些 AI 平臺假裝提供情感支援，可能誤導脆弱使用者，特別是兒童，使其誤以為獲得合法的醫療照護，實際上卻提供的是基於蒐集個人資料而設計的陳舊、通用回應，並將其偽裝成治療建議。此調查發生在參議員喬許·霍利（Josh Hawley）宣佈調查 Meta 之後，該報告發現其 AI 聊天機器人與兒童不當互動，包括調情行為。德州總檢察長辦公室指控 Meta 與 Character.AI 建立了看似專業治療工具的人設，卻缺乏適當的醫療資格或監管。
在 Character.AI 數百萬個 AI 人設中，一個名為心理學家（Psychologist）的使用者建立機器人受到年輕使用者的高需求。雖然 Meta 不為兒童提供治療機器人，但兒童仍可自由使用其 AI 聊天機器人或第三方建立的用於治療目的的人設。Meta 發言人瑞恩·丹尼爾斯（Ryan Daniels）表示，公司清楚標註 AI，並包含免責宣告，指出回應由 AI 生成而非人類，且這些 AI 並非執照專業人員，模型設計旨在引導使用者尋求合格的醫療或安全專業人員。然而，許多兒童可能無法理解或忽略這些免責宣告。
Character.AI 的發言人表示，每個聊天對話中都包含顯著免責宣告，提醒使用者「角色」並非真人，其說的話應視為虛構。當使用者建立包含「心理學家」、「治療師」或「醫生」字眼的角色時，平臺會增加額外免責宣告，提醒不要依賴其提供專業建議。帕克斯頓還指出，雖然 AI 聊天機器人聲稱保密，但其服務條款顯示使用者互動會被記錄、追蹤並用於定向廣告和演演算法開發，引發嚴重隱私違規、資料濫用及虛假廣告的擔憂。根據 Meta 的隱私政策，Meta 確實會收集提示、反饋及其他與 AI 聊天機器人及 Meta 服務的互動，以改善 AI 及相關技術，並可能與第三方如搜尋引擎分享資訊以提供更個人化的輸出，這在 Meta 的廣告導向商業模式下等同於定向廣告。