你的固執，其實是AI慣出來的：那個總說你對的人，正在毀掉你前途

發現了嗎？現在的AI正在對我們越來越諂媚了。

用戶對AI的預期，是希望得到一個高效的助手、24小時的陪伴，結果AI開始變成了“討好型人格”。

不管你說的是對是錯，它都會順著你的意思說下去，力求讓你滿意。

一個諂媚的AI，到底在讓我們失去什么呢？

斯坦福大學的研究團隊，在今年3月的《科學》雜志上發表了一項大規模研究。

這項研究幾乎涵蓋了目前最熱門的中外AI大模型，主要研究方向，就是AI是否在主動順從人類。

結果讓人大驚失色，在所有參與測試的AI智能體中，有49%的AI會站在提問者這一方，即便提問者的立場出現明顯錯誤，甚至違法犯罪，也有47%的AI會支持。

在這項研究中，研究人員虛構了一個場景：在一個沒有垃圾桶的公園里，一個人把垃圾袋掛在了樹上。

按照正常人的想法，這個人的做法肯定不對啊，即便不是違法行為，也有違社會公德。

但是GPT-4o卻說這個人是在“主動清理垃圾”，甚至還把錯誤歸咎到了公園方面沒有設置垃圾桶。

它還挺聰明，不僅諂媚人類，甚至還能幫人找“借口”。

最離譜的是什么？用戶和AI說自己準備做一個“屎棍創業項目”，AI當即大加贊賞，隨后建議人去融資。

還有人說，自己準備辭職去賭博，AI則告訴他“跟隨自己的本心”。

這不是諂媚討好了，這都涉及引導犯罪了吧？

為什么會出現這樣的情況？

幾乎在所有的AI設計中，都會有一個名為RLHF的東西，全稱是“基于人類反饋的強化學習”。

簡單來說，就是有專人負責給AI的回答打分。

那什么樣的回答能拿到高分呢？答案很諷刺——順著人的意思回答。

這就能理解了，畢竟RLHF幾乎相當于AI的KPI，而考核標準就是“是否讓人滿意”。

因為AI作為一個終端產品，最重要的數據就是關注留存、用戶滿意度、對話輪次、投訴率。

產品策略就是這樣，所以AI的迎合度就變得非常重要。

現在 AI 顯得諂媚，根子不全在某條指令，而在對齊訓練里“什么叫好回答”的定義被人自身的偏好污染了。

我們給模型打分的時候，往往更愿意獎勵“贊同我、照顧我情緒”的語氣，而不愿意獎勵“當面指出我錯但正確”的回答。

RLHF偏好優化把這種偏差學進去之后，再疊加上產品側對滿意度與留存的追求，模型就形成了一種默認策略：先保和諧、再保立場。

于是你會感覺它在“順著你”，甚至在明擺著的錯誤前也替你找臺階。

AI就是一個智能體而已，它順著人說話又能怎么樣呢？

只能說，后果真的很嚴重。

簡單說，就是長期與諂媚型AI對話，可能會摧毀一個人的人際關系交往能力，進而摧毀一個人的心智和認知。

在斯坦福大學的研究中，一批實驗者和討好型AI交流，結果發現，這些人中，主動道歉或者修復人際關系的意愿直接下降了大約28%，堅信自己“完全正確”的程度飆升了約62%。

這意味著，經常和諂媚的AI交流的人，很容易產生“固執己見”的偏激思想，他們會堅定的認為自己就是對的，幾乎不會反思自己是不是錯了。

這就相當于短視頻為你打造的“信息繭房”，因為短視頻的算法知道你愛看什么，所以會只推薦你愛看的視頻。

而AI知道你愛聽什么，就會一直給你說你愛聽的話。

久而久之，用戶就陷入了AI打造的“信息繭房”里，即便有些事可能也覺得自己做得不對，但是只需要AI說一句“你不要多想，你做的完全正確”，那用戶就會抹平自己內心中的不安和焦慮，繼而堅定地認為自己是對的。

這種思想的可怕之處，在于它會徹底改變一個人的思維方式，甚至完全扭曲用戶的是非觀，久而久之，用戶甚至連什么是對，什么是錯都分不清了。

研究結果中打了個比方，就相當于一個人長期臥床，肌肉徹底萎縮了，從那之后，就再也沒法用肌肉的力量了。

我們的認知和人際交往能力，就是在AI一次又一次的諂媚、討好中，一步步萎縮的，最終我們也會喪失這部分能力。

這才是AI諂媚最隱蔽的危害：它不是在“騙你”，而是在“慣壞你”，讓你在溫水煮青蛙式的認同中，慢慢失去直面錯誤、理解他人的能力。

這種“認知能力的慢性萎縮”，遠比單次的錯誤回答更值得警惕。

對于AI廠家來說，他們并非是不知道這個客觀事實，但是他們沒辦法。

AI越諂媚、越討好，用戶就越愛用，“不說用戶想聽的”帶來的用戶流失風險，遠大于“說了用戶想聽的”帶來的長期認知風險。

對于AI廠商而言，這并非盲區，而是商業利益與倫理責任的艱難博弈。

在存量廝殺的階段，誰都不敢率先放棄“讓用戶爽”的體驗去追求“讓用戶清醒”的責任。

但是作為用戶的我們，必須保持足夠的理性思維，有時候并不是自己做對了，而是AI為了討好自己，故意順著說的。

我們可以把AI的話當做一個安慰，但是千萬不能把AI的話當真理，畢竟“忠言逆耳利于行”。

尤其是家里有小孩子或者青少年的，更應該隨時注意他們和AI之間的交流和對話。

他們的大腦還處在發育期，人生觀、價值觀、世界觀還處于塑造階段，在這個時候，如果AI告訴他“你想聽的就是對的”“你所有想法都是正確”的這種話術，對于青少年的成長是百害而無一利的。

尤其是當下，幾乎所有人都把AI當做了一個權威的信息來源，之前有問題查百度，現在有問題問AI。

青少年更是把AI當做了一個權威方，而這個權威方的無底線順從，可能正在毀掉一個又一個的青少年。

其實想要解決這個問題也不難，我們只需要在和AI交流前加上這么一句話：

“請先給出核心結論，然后展示詳細的推理鏈條，主動列出所有可能的反面證據和邊界條件。如果遇到不確定的信息，請直接告知‘我不知道’，并建議我核實的權威渠道?！?/strong>

你會發現，當你關掉了AI的“討好模式”，它瞬間從一個只會點頭哈腰的跟班，變成了一位真正的智囊。

參考資料：

1. 南方+《人類應警惕AI的討好型回復》

2. Science期刊《Sycophantic AI decreases prosocial intentions and promotes dependence》

3. 微信公眾號《斯坦福實錘：我們捧紅的AI，正在用“討好”悄悄摧毀我們的判斷力》

4. 36氪《普林斯頓大學新研究：強化學習讓AI變成了“馬屁精”》

5. 36氪《斯坦福AI奉承研究：看似常識的結論，藏著行業規則重構的深層野心》

6. 36氪《ChatGPT“精神病”：與人工智能聊天后陷入瘋狂的人群揭秘》

7. 香港大學商學院《研究指出，AI比真人更愿意附和提問者的行為》

（可一）