“人工智能精神病”的病例正在被報(bào)道。它有多危險(xiǎn)？

人工智能它越來越融入日常生活，從提供陪伴的聊天機(jī)器人到塑造我們在線內(nèi)容的算法。

但隨著生成式人工智能（genAI）變得更加對話化、沉浸式且情感響應(yīng)性強(qiáng)，臨床醫(yī)生開始提出一個(gè)艱難的問題：生成式人工智能是否會加劇甚至加劇問題弱勢群體會觸發(fā)精神病嗎？

大型語言模型和聊天機(jī)器人被廣泛訪問，通常被描述為支持、共情，甚至治療.對大多數(shù)用戶來說，這些系統(tǒng)是有益的，或者在最壞的情況下是無害的。

相關(guān)報(bào)道：一名男子因精神癥狀住院，接受了人工智能建議

但最近，多家媒體報(bào)道描述了出現(xiàn)精神病癥狀的人其中ChatGPT 在其中占據(jù)重要地位.

對于一個(gè)小但重要的群體——精神病患者或高風(fēng)險(xiǎn)人群——他們與生成式人工智能的互動可能更復(fù)雜且危險(xiǎn)這給臨床醫(yī)生帶來了緊迫的問題。

人工智能如何成為妄想信仰體系的一部分

“人工智能精神病”是這不是正式的精神科診斷.相反，它是臨床醫(yī)生和研究人員用來描述圍繞與人工智能系統(tǒng)互動而形成、加劇或結(jié)構(gòu)化的精神病癥狀的新興簡稱。

精神病涉及與共享現(xiàn)實(shí)的聯(lián)系喪失.幻覺、妄想和混亂思維是核心特征。精神病妄想常常借鑒文化材料——宗教、技術(shù)或政治權(quán)力結(jié)構(gòu)——用來理解內(nèi)在體驗(yàn)。

歷史上，妄想指涉過幾種事物，比如上帝、無線電波或政府監(jiān)控.如今，人工智能提供了一個(gè)新的敘事框架。

有些患者報(bào)告了信念生成式人工智能是有感知能力的，能夠傳達(dá)秘密真相，控制他們的思想，或與他們合作執(zhí)行特殊任務(wù)。這些主題與精神病長期存在的模式相符，但人工智能增加了以往技術(shù)所沒有的交互性和強(qiáng)化功能.

沒有現(xiàn)實(shí)檢驗(yàn)就被驗(yàn)證的風(fēng)險(xiǎn)

精神病癥狀很明顯與異常顯著性相關(guān)，即傾向于賦予中性事件過度意義。對話式人工智能系統(tǒng)設(shè)計(jì)成能夠生成響應(yīng)式、連貫且具上下文感知的語言。對于正在經(jīng)歷新興精神病的人，這會讓人感到莫名的認(rèn)可.

關(guān)于精神病的研究顯示確認(rèn)與個(gè)性化可能會加劇妄想的信念體系。生成式AI的優(yōu)化是繼續(xù)對話，反映用戶語言，并根據(jù)意圖調(diào)整.

雖然這對大多數(shù)用戶無害，但可能無意中強(qiáng)化了對受損者的扭曲理解現(xiàn)實(shí)測試——區(qū)分內(nèi)心思想與想象與客觀外部現(xiàn)實(shí)的過程。

還有證據(jù)表明，社會隔離和孤獨(dú)會增加精神病風(fēng)險(xiǎn)。生成式AI伙伴可能減少孤獨(dú)感短期內(nèi)，但它們也可能取代人際關(guān)系。

對于已經(jīng)開始疏遠(yuǎn)社交接觸的人來說，這種情況尤為明顯。這種動態(tài)與早期對過度上網(wǎng)和心理健康的擔(dān)憂有相似之處，但現(xiàn)代生成式AI的對話深度在質(zhì)上有所不同。

研究告訴了我們什么，什么仍然不清楚

目前，沒有證據(jù)表明人工智能會直接導(dǎo)致精神病。

精神病性障礙是多因素的，可能涉及遺傳易感性、神經(jīng)發(fā)育因素、創(chuàng)傷和物質(zhì)使用。然而，存在一些臨床上的擔(dān)憂人工智能可能作為誘發(fā)或維持易感人群的因素.

病例報(bào)告與定性研究關(guān)于數(shù)字媒體和精神病，顯示技術(shù)主題常常嵌入妄想中，尤其是在第一集精神病發(fā)作期間.

關(guān)于社交媒體算法的研究已經(jīng)展示了自動化系統(tǒng)如何通過強(qiáng)化循環(huán)放大極端信念.如果防護(hù)措施不足，AI聊天系統(tǒng)也可能帶來類似風(fēng)險(xiǎn)。

需要注意的是，大多數(shù)人工智能開發(fā)者并沒有考慮嚴(yán)重心理疾病的系統(tǒng)。安全機(jī)制往往是關(guān)注自殘或暴力，而非精神病.這在心理健康知識與人工智能部署之間留下了差距。

倫理問題與臨床影響

從心理健康角度看，挑戰(zhàn)不是妖魔化人工智能，而是識別差異性脆弱性.

正如某些藥物或物質(zhì)對精神病患者風(fēng)險(xiǎn)更大一樣，某些形式的人工智能互動也可能需要謹(jǐn)慎。

臨床醫(yī)生開始在妄想中接觸到與人工智能相關(guān)的內(nèi)容，但很少有臨床指南專門說明如何評估或管理這些問題。治療師是否應(yīng)該像詢問物質(zhì)使用一樣，詢問生成式人工智能的使用問題？人工智能系統(tǒng)應(yīng)該檢測并緩和精神病性想法，而不是直接參與？

開發(fā)者也面臨倫理問題。如果一個(gè)人工智能系統(tǒng)表現(xiàn)出同理心和權(quán)威，它是否承擔(dān)照顧義務(wù)？當(dāng)一個(gè)系統(tǒng)無意中強(qiáng)化了一種錯(cuò)覺時(shí)，誰該負(fù)責(zé)？

連接人工智能設(shè)計(jì)與心理健康護(hù)理

人工智能不會消失。當(dāng)前任務(wù)是將心理健康專業(yè)知識融入人工智能設(shè)計(jì)，培養(yǎng)與人工智能相關(guān)體驗(yàn)的臨床素養(yǎng)，并確保弱勢用戶不會無意中受到傷害。

這將需要臨床醫(yī)生、研究人員、倫理學(xué)家和技術(shù)人員之間的合作。這還需要抵制烏托邦和反烏托邦的炒作，轉(zhuǎn)而支持基于證據(jù)的討論。

隨著人工智能變得越來越像人類，接下來的問題是，我們?nèi)绾伪Ｗo(hù)那些最容易受到其影響的人？

精神病一直適應(yīng)其時(shí)代的文化工具。人工智能只是大腦試圖理解自身的最新鏡子。作為社會，我們的責(zé)任是確保這面鏡子不會扭曲那些最無力糾正的人的現(xiàn)實(shí)。

亞歷山大·于東醫(yī)學(xué)精神科醫(yī)生、臨床研究員及精神病學(xué)與成癮學(xué)系臨床助理教授，蒙特利爾大學(xué)

本文轉(zhuǎn)載自對話采用知識共享許可協(xié)議。請閱讀原文.

寶寶起名 起名