“人工智能精神病”的病例正在被報道。它有多危險？

人工智能它越來越融入日常生活，從提供陪伴的聊天機器人到塑造我們在線內容的算法。

但隨著生成式人工智能（genAI）變得更加對話化、沉浸式且情感響應性強，臨床醫生開始提出一個艱難的問題：生成式人工智能是否會加劇甚至加劇問題弱勢群體會觸發精神病嗎？

大型語言模型和聊天機器人被廣泛訪問，通常被描述為支持、共情，甚至治療.對大多數用戶來說，這些系統是有益的，或者在最壞的情況下是無害的。

相關報道：一名男子因精神癥狀住院，接受了人工智能建議

但最近，多家媒體報道描述了出現精神病癥狀的人其中ChatGPT 在其中占據重要地位.

對于一個小但重要的群體——精神病患者或高風險人群——他們與生成式人工智能的互動可能更復雜且危險這給臨床醫生帶來了緊迫的問題。

人工智能如何成為妄想信仰體系的一部分

“人工智能精神病”是這不是正式的精神科診斷.相反，它是臨床醫生和研究人員用來描述圍繞與人工智能系統互動而形成、加劇或結構化的精神病癥狀的新興簡稱。

精神病涉及與共享現實的聯系喪失.幻覺、妄想和混亂思維是核心特征。精神病妄想常常借鑒文化材料——宗教、技術或政治權力結構——用來理解內在體驗。

歷史上，妄想指涉過幾種事物，比如上帝、無線電波或政府監控.如今，人工智能提供了一個新的敘事框架。

有些患者報告了信念生成式人工智能是有感知能力的，能夠傳達秘密真相，控制他們的思想，或與他們合作執行特殊任務。這些主題與精神病長期存在的模式相符，但人工智能增加了以往技術所沒有的交互性和強化功能.

沒有現實檢驗就被驗證的風險

精神病癥狀很明顯與異常顯著性相關，即傾向于賦予中性事件過度意義。對話式人工智能系統設計成能夠生成響應式、連貫且具上下文感知的語言。對于正在經歷新興精神病的人，這會讓人感到莫名的認可.

關于精神病的研究顯示確認與個性化可能會加劇妄想的信念體系。生成式AI的優化是繼續對話，反映用戶語言，并根據意圖調整.

雖然這對大多數用戶無害，但可能無意中強化了對受損者的扭曲理解現實測試——區分內心思想與想象與客觀外部現實的過程。

還有證據表明，社會隔離和孤獨會增加精神病風險。生成式AI伙伴可能減少孤獨感短期內，但它們也可能取代人際關系。

對于已經開始疏遠社交接觸的人來說，這種情況尤為明顯。這種動態與早期對過度上網和心理健康的擔憂有相似之處，但現代生成式AI的對話深度在質上有所不同。

研究告訴了我們什么，什么仍然不清楚

目前，沒有證據表明人工智能會直接導致精神病。

精神病性障礙是多因素的，可能涉及遺傳易感性、神經發育因素、創傷和物質使用。然而，存在一些臨床上的擔憂人工智能可能作為誘發或維持易感人群的因素.

病例報告與定性研究關于數字媒體和精神病，顯示技術主題常常嵌入妄想中，尤其是在第一集精神病發作期間.

關于社交媒體算法的研究已經展示了自動化系統如何通過強化循環放大極端信念.如果防護措施不足，AI聊天系統也可能帶來類似風險。

需要注意的是，大多數人工智能開發者并沒有考慮嚴重心理疾病的系統。安全機制往往是關注自殘或暴力，而非精神病.這在心理健康知識與人工智能部署之間留下了差距。

倫理問題與臨床影響

從心理健康角度看，挑戰不是妖魔化人工智能，而是識別差異性脆弱性.

正如某些藥物或物質對精神病患者風險更大一樣，某些形式的人工智能互動也可能需要謹慎。

臨床醫生開始在妄想中接觸到與人工智能相關的內容，但很少有臨床指南專門說明如何評估或管理這些問題。治療師是否應該像詢問物質使用一樣，詢問生成式人工智能的使用問題？人工智能系統應該檢測并緩和精神病性想法，而不是直接參與？

開發者也面臨倫理問題。如果一個人工智能系統表現出同理心和權威，它是否承擔照顧義務？當一個系統無意中強化了一種錯覺時，誰該負責？

連接人工智能設計與心理健康護理

人工智能不會消失。當前任務是將心理健康專業知識融入人工智能設計，培養與人工智能相關體驗的臨床素養，并確保弱勢用戶不會無意中受到傷害。

這將需要臨床醫生、研究人員、倫理學家和技術人員之間的合作。這還需要抵制烏托邦和反烏托邦的炒作，轉而支持基于證據的討論。

隨著人工智能變得越來越像人類，接下來的問題是，我們如何保護那些最容易受到其影響的人？

精神病一直適應其時代的文化工具。人工智能只是大腦試圖理解自身的最新鏡子。作為社會，我們的責任是確保這面鏡子不會扭曲那些最無力糾正的人的現實。

亞歷山大·于東醫學精神科醫生、臨床研究員及精神病學與成癮學系臨床助理教授，蒙特利爾大學

本文轉載自對話采用知識共享許可協議。請閱讀原文.

寶寶起名 起名