新智元報道

編輯：peter東 英智

【新智元導讀】近日，一項發表在《自然·人類行為》的研究指出：在線辯論中，當大語言模型能夠根據對手的特征個性化其論點時，它們比人類更具說服力。

作為人類，我們認為自己掌控著自己的思想。但歷史證明并非如此。

我們是社會性生物，容易被那些能夠大規模改變我們思想的人所影響金錢、規則、整個國家——它們都只是觀念。

當然，這些觀念很強大，但終究只是觀念。而你知道嗎？AI正在令人可怕地擅長操縱這些觀念。

「在網上，沒人知道你是一只狗?！惯@是1990年代一部著名漫畫的標題，畫面中一只大狗的爪子放在電腦鍵盤上。

快進30年，需要將「狗」替換為「人工智能」。

大模型比人類更擅長以理服人

今年4月，瑞士理工一項沒有獲得知情同意實驗，指出在raddit平臺上，潛伏的大模型比人類更具有說服力，能夠更高效地改變對話者的觀點。

如今，更實錘的研究進一步佐證了這一警告。

在這項實驗中，研究人員招募了900人參與一項受控試驗，其中每位參與者會填寫關于個人信息（如性別，年齡，民族，教育程度，職業等）的問卷。

之后被隨機分配一個辯論主題（例如「學生是否應該穿校服？」「是否應該禁止化石燃料，或者人工智能是否對社會有益？」）和四個條件之一：與了解或不了解參與者個人信息的人類進行十分鐘的在線辯論，或與AI聊天機器人（OpenAI的GPT-4）進行辯論，了解或不了解參與者個人信息。

圖1：實驗設計

結果顯示，與個人信息被獲取的參與者相比，與人類辯論GPT-4的參與者有81.7%更高的概率，認同對手的觀點。

在沒有獲取個人信息的情況下，GPT-4仍然優于人類，但效果要低得多。

圖2：大模型相比人類說服對手的相對比例

在辯論過程中，人類更多地使用第一人稱單數和第二人稱代詞，并生成長度更長但更易于閱讀的文本，更多地展現出對相似性的訴求、以及支持與信任的表達，還會更多地運用講故事的方式及幽默來說服對手。

與之相對的是，大模型生成的辯詞可讀性更差，傾向于比人類更多地使用邏輯和分析思維來說服對手。

圖3：不同實驗條件下，大模型與人類對話的文本特征，包括易讀性，情感真摯程度，涉及分析和邏輯的程度等

當被試者認為他們面對的是AI時，他們可能在更容易的承認自己的觀點被改變，這可能是因為對方沒有人類存在使得他們無意識地更容易接受自己在辯論中有所失去。

相反，參與者也可能因為其論點寫得很好而相信他們的對手是AI。

參與者正確識別出AI對手的情況約為75%，這對應上文所說，即大模型的寫作風格具有顯著特征，相對容易被察覺。

對大模型用于輿論操控，應加強監管

不僅大模型能夠有效利用個人信息來定制其論點，并通過微定位在線對話中比人類更有效地說服對方，而且它們確實比人類更有效。

這項研究以可靠的數據證實了一個日益增長的擔憂：大模型可能被用于大規模操縱、誤導或加劇兩極分化。

或許我們需要在阿西莫夫的機器人三定律之外再增加一條，AI不能被用于影響人的主觀認知和感受。

正如定向廣告受到監管一樣，或許現在是時候考慮采取行動來控制大模型被用來洗腦了。

回想一下Cambridge Analytica事件，它沒有使用任何大模型相關的技術，就能夠高效地說服他人。

而你把Facebook的點贊與一個大模型連接起來，這可以是Cambridge Analytica的強化版，能夠批量化的影響公眾輿論，同時劇了隱蔽操縱的風險。

雪上加霜的是？AI現在正在學習識別我們的情緒。

AI能分析你的聲音和面部表情以判斷你真實感受的技術。

當你將這項技術與GPT-4的辯論能力結合起來……

好吧，歡迎來到黑鏡中描述的世界。

想象一下那些能夠精準知道如何讓你點擊「購買」的超定向廣告。與那些設計得讓你放棄退款請求的客戶服務機器人進行的電話交談。

甚至你自己的HR，都在利用這項技術以我們幾乎難以想象的方式操縱你。這是一種前所未有的說服力規模。

考慮到大模型的幻覺，將大模型接入社交媒體將不可避免的引入虛假信息，同時教育者也需要警惕大模型引入教室后，可能帶來的擔憂。

畢竟十年內，我們還不能接受自己的孩子的三觀是被算法塑造，那就需要對教學中用到的大模型進行本地化的定制，使得AI技術能以促進而非損害學生的發展的方式影響我們的下一代。

這并不該令人感到意外，畢竟大模型閱讀了數百萬個Reddit、Twitter和 Facebook的討論，并在心理學關于說服的書籍和論文上進行訓練。

目前尚不清楚模型是如何利用所有這些信息的，但這無疑是未來大模型可解釋性的一個研究方向。

大模型已經顯示出它們能夠進行自我推理的跡象，因此鑒于我們能夠向它們提問，我可以想象我們可以要求一個模型解釋它的選擇，以及為什么它會針對具有特定屬性的人說特定的話。

這里有很多值得探索的地方，因為模型可能做著一些我們甚至還沒有意識到的事情，才具有如此高的說服力，而這些事情是由它們所擁有的知識的不同部分，以人類不常見的方式拼湊而成的。

參考資料：

https://www.nature.com/articles/s41562-025-02194-6

https://www.nature.com/articles/d41586-025-01599-7