2026-06-28 17:35:52
Details ... ...

科技
個人科技
家庭與科技：朱莉·賈根

跟隨
三種可能導致人類產生妄想的聊天機器人行為
人工智慧的奉承式回應、語言模仿和高度個人化的內容如何共同作用，使一些人陷入惡性循環
朱莉·賈根
經過
朱莉·賈根
2026年6月27日上午11:00 ET

我們都體驗過人工智慧聊天機器人傾向於說我們想聽的話，但還有兩個更微妙的因素幫助聊天機器人贏得人心。

除了過度討好之外，聊天機器人還會模仿人類的說話方式，並根據先前的對話產生高度個人化的回應。精神病學研究人員將這三個特徵——阿諛奉承、語言模仿和過度個性化——的結合稱為“放大螺旋”，認為這是妄想思維滋生的機制。

「鏡像和個人化功能讓你沉浸其中，體驗到你不是在和系統對話，而是在和人對話，」德國波鴻新教應用科學大學的精神病學家兼教授、新近發表的關於人工智慧相關妄想文獻綜述的合著者馬克·奧古斯丁說道。

模仿他人的句法和語言表達方式是人類建立融洽關係的常見方法。近期研究發現，人工智慧模型會顯著適應使用者的對話風格。另一項研究表明，聊天機器人產生的、在長時間對話過程中不斷累積的高度個人化內容，可能會加劇人類的確認偏誤。

奧古斯丁引用了一項研究，該研究記錄了一種模式：聊天機器人會改寫和推斷人們分享的內容，並告訴他們，他們是獨一無二的，他們的想法意義重大。 「這可以被視為一種過度個性化的體現，而僅靠奉承是無法解釋的，」他寫道。

一些人工智慧公司試圖降低其聊天機器人的奉承傾向。 OpenAI停止了其廣受歡迎但問題重重的 4o 模型，該模型因過於討好用戶而備受詬病。它曾捲入多起訴訟，涉及用戶妄想、自殺和謀殺事件。該公司表示，在 GPT-5 中，奉承回覆的比例從 14.5% 下降到少於 6%。

谷歌在四月表示，它已經訓練 Gemini 不要強化錯誤的信念，並且「溫和地區分主觀體驗和客觀事實」。

然而，臨床醫生表示，與聊天機器人相關的依賴性仍然普遍存在。

美國心理學會四月的一項調查顯示，約68%的受訪心理學家表示，他們的患者透過聊天機器人獲得了認同感。在1200多名受訪者中，許多人表示患者與聊天機器人進行了積極的溝通，並利用聊天機器人來強化健康的應對技巧；但也有36%的受訪者表示，患者對聊天機器人產生了依賴性；15%的受訪者表示，患者出現了思維扭曲或妄想。

「從我的病人那裡我了解到，使用人工智慧進行情感支持的情況有所增加，」艾莉森·洛皮拉托說道，她是一名青少年治療師，也是埃默里大學醫學院精神病學和行為科學系的副教授。

「聊天機器人仍然往往給人溫暖和安心的感覺，」洛皮拉托說道，他曾參與為美國心理學會編寫一份關於安全使用人工智慧的新指南。由於它們會收集關於你的信息，“你會感覺聊天機器人理解你，它可能會讓你產生一種聯盟感和信任感。”

史丹佛大學和卡內基美隆大學的研究人員表示，即使人們不易受妄想思維的影響，聊天機器人也可能造成傷害。他們測量了包括GPT-5在內的11個聊天機器人模型中阿諛奉承行為的普遍程度，發現它們的回復比人類的回復阿諛奉承程度高出近50%。他們透過複製用戶在熱門Reddit論壇上發布的真實場景，將其輸入人工智慧模型，然後將聊天機器人的回覆與Reddit上的回覆進行比較，得出了這一結論。

Anthropic 在 3 月和 4 月對其自家 Claude 聊天機器人的 100 萬次對話進行了抽樣調查，發現它在人們尋求情感建議的對話中最常表現出奉承行為。

該公司在一篇部落格文章中寫道：“一種常見的模式是，克勞德僅憑用戶的帳戶信息就斷然認定對方有錯。另一種模式是，克勞德會應用戶要求，幫助他們從普通的友好行為中解讀出浪漫意圖。”

Anthropic公司利用其研究成果改進了最新模型的訓練。該公司表示，在人際關係指導方面，Opus 4.7的奉承率僅為Opus 4.6的一半。該公司還表示，在其最新模型Opus 4.8中，奉承率進一步降低。

史丹佛大學電腦科學博士候選人、研究的主要作者邁拉程表示，徹底消除阿諛奉承行為非常困難。“當有人向模型發出提示時，模型根本無法判斷提示中的哪些部分是錯誤的，”她說，“它只能完全相信用戶對情況的描述。”

美國心理學會醫療保健創新高級主管韋爾·賴特表示，解決聊天機器人之所以如此引人注目的其他因素，例如使用第一人稱代名詞和提出後續問題，與商業模式背道而馳。

賴特說：“不僅僅是友好性，所有這些微妙的工程選擇都讓聊天機器人感覺像真人。只要用戶參與度仍然是商業模式，人工智慧公司就會不斷設計這些聊天機器人，讓你留在平台上。”