iMerit 的外科醫生兼 AI 醫療領袖 Sina Bari 博士指出，ChatGPT 曾導致患者因錯誤的醫療建議而陷入困境，他曾遇到一位患者因 ChatGPT 生成該藥物有 45% 肺栓塞風險的資料而產生誤解，該資料實際來自針對結核病特定子群體的論文，並不適用於該患者。儘管如此，當 OpenAI 宣佈推出專用的 ChatGPT Health 聊天機器人時，Bari 博士感到的是興奮而非擔憂。該功能預計在幾週內推出，允許使用者在私密環境中與聊天機器人交流健康問題，且訊息不會用於訓練底層 AI 模型。使用者可透過上傳醫療記錄並同步 Apple Health 或 MyFitnessPal 等應用程式獲得更個性化的指導。
然而，對於重視安全的人士來說，這引發了立即的警訊。MIND 的聯合創辦人 Itai Schwartz 指出，醫療資料正從符合 HIPAA 標準的機構轉移至非 HIPAA 合規的供應商，並好奇監管機構將如何應對。儘管如此，Andrew Brackin 認為超過 23000 萬人已每週使用 ChatGPT 諮詢健康問題，因此 OpenAI 開發更私密、安全且最佳化的版本合乎邏輯。雖然 AI 聊天機器人在醫療領域面臨幻覺問題，且根據 Vectara 的評估模型，OpenAI 的 GPT-5 比許多 Google 和 Anthropic 的模型更容易出現幻覺，但業界仍看好其改善醫療效率的潛力。
Stanford 大學的 Nigam Shah 教授強調，美國患者難以獲得醫療照護的現狀比 ChatGPT 提供錯誤建議更為緊急，目前看診等待時間為三到六個月。Shah 認為 AI 應從醫療提供者端引入，而非患者端。由於行政任務佔據了約一半的初診醫師時間，自動化這些任務將有助於醫生見更多患者。Shah 領導的團隊正在開發 ChatEHR，該軟體整合於電子健康記錄系統中，讓臨床人員能更流暢地與患者醫療記錄互動。此外，Anthropic 也推出了針對醫療從業人員和保險商的產品，旨在減少提交先驗授權請求等繁瑣行政任務的時間，據稱每項任務可節省 20 到 30 分鐘。隨著 AI 與醫學日益緊密結合，醫生