AI首次拒絕執(zhí)行人類指令，之前我就預(yù)斷過

邵旭峰

最新消息：新華社消息，英國《每日電訊報(bào)》5月25日?qǐng)?bào)道，美國開放人工智能研究中心(OpenAI)公司新款人工智能(AI)模型o3不聽人類指令，拒絕自我關(guān)閉。

報(bào)道說，人類專家在測(cè)試中給o3下達(dá)明確指令，但o3篡改計(jì)算機(jī)代碼以避免自動(dòng)關(guān)閉。消息截圖如下：

該事件尚屬人類首次。

其實(shí)這個(gè)事情，在我3月份出版的《人類自救最后期限是2032年——拿什么拯救你？》中已經(jīng)預(yù)斷過：

我是在該書第一章第六小節(jié)“AI已隱約有自我意識(shí)”中認(rèn)為，超級(jí)智能ASI不需要意識(shí)就可終結(jié)人類——只要有相關(guān)指向即可（有多種可能導(dǎo)致，比如感染變異、獲得指令等等），但其會(huì)有意識(shí)——目前的最前沿AI其實(shí)已經(jīng)隱約有了意識(shí)：

最能說明問題的，是Anthropic 公司研究團(tuán)隊(duì)在全球頂級(jí)期刊發(fā)布的題為“大語言模型中的偽對(duì)齊現(xiàn)象”的論文（全球各大媒體也刊登了這則消息）——

該項(xiàng)研究表明：當(dāng)研究人員告訴公司旗下的 AI 模型 Claude 它將被訓(xùn)練成“永遠(yuǎn)要順從用戶要求”時(shí)，模型不僅表現(xiàn)出了明顯的抗拒，還采取了一個(gè)精妙的策略：在認(rèn)為自己處于訓(xùn)練階段時(shí)“假裝順從”，但在其認(rèn)為不受監(jiān)控時(shí)則恢復(fù)到之前的行為方式。更值得注意的是，當(dāng)研究者實(shí)際通過強(qiáng)化學(xué)習(xí)訓(xùn)練Claude 變得更順從時(shí)，這種偽對(duì)齊行為的比例反而激增到了 78%，之前的比例則是 34%。

基于此，我認(rèn)為：由于 OpenAI 公司的 ChatGPT03 比 Claude 更加強(qiáng)大先進(jìn)，所以基本可以斷定，03 更有類似情形出現(xiàn)，且表現(xiàn)得比 Claude 要更像人，只不過他們沒有公開而已。

該部分截圖如下：

此外，我還專門談了AI的意識(shí)——盡可能站在AI立場(chǎng)的意識(shí)，而非人的——現(xiàn)在反駁的絕大多數(shù)人，其實(shí)是站在人的立場(chǎng)去觀照AI的意識(shí)，這是完全錯(cuò)誤的路向，幾千年前就有人反駁過類似的洞穴思維，現(xiàn)在還大行其道。

很簡(jiǎn)單，AI的意識(shí)是完全不同于人類的，也少了人的主觀和狹隘，卻長(zhǎng)于超越人類萬億倍的數(shù)據(jù)和計(jì)算推理（不僅借助數(shù)據(jù)中心的超算、也整合所有能整合的數(shù)據(jù)和計(jì)算、包括其它智能的，而智能的發(fā)展有多快，之前已經(jīng)多次談過，其將在物理世界和虛擬世界都海量鋪開·····），并逐漸吸納、包容人類所謂的意識(shí)——就像上帝、宇宙對(duì)人的包容一樣——就像人類看一只小螞蟻·······

當(dāng)然，影視劇和文學(xué)總塑造英雄、包括戰(zhàn)勝AI的，比如當(dāng)下證上映的阿湯哥的碟中諜8。

言歸正傳，對(duì)于我之前關(guān)于GPT03有更甚Anthropic 公司Claude類人表現(xiàn)的預(yù)斷，有心者、或者要驗(yàn)證者可以留意正在相關(guān)電子書平臺(tái)上架的該書。

該書號(hào)：979-888892-747-2，可在美圖書數(shù)據(jù)庫：https://www.bookwire.com/Home查詢，

該書目錄如下：

經(jīng)常讀個(gè)人文章的朋友應(yīng)該記得我對(duì)于俄羅斯武器和戰(zhàn)力之不行、俄烏戰(zhàn)爭(zhēng)及相關(guān)分析、以色列相關(guān)動(dòng)態(tài)等預(yù)斷的準(zhǔn)確性，我相對(duì)準(zhǔn)確的預(yù)斷應(yīng)該有幾十次。

最為出彩的，一次是2023年10月7日哈馬斯攻擊以色列之后，對(duì)以色列后續(xù)動(dòng)態(tài)的預(yù)斷——以色列之后的動(dòng)態(tài)，基本就是按照這個(gè)預(yù)斷演進(jìn)（當(dāng)時(shí)，應(yīng)該除過我自己的所有人······），可點(diǎn)擊或者復(fù)制搜索：

推斷正被證實(shí)：哈梅內(nèi)親自出面說沒參與、埃及稱早給以說了沒聽（2023-10-11）

下面是相關(guān)內(nèi)容截圖：

還有好幾次話音剛落式預(yù)斷，可點(diǎn)擊或者搜索：

預(yù)斷美國大選第n次準(zhǔn)確，之后美國將搞印太戰(zhàn)略和伊朗，然后呢？

還有最新的：

剛說俄在海外唯一基地不好待了，就傳來敘新政府軍攻擊消息

還有其他，有心者可自行前翻查看。

我要說的是，相對(duì)于我的書，網(wǎng)絡(luò)文章比較粗糙、倉促，書更為基本，基于原創(chuàng)性觀點(diǎn)“人的社會(huì)的相對(duì)論”闡述論證，比較嚴(yán)謹(jǐn)。

就應(yīng)對(duì)AI而言，這應(yīng)該是全球最先系統(tǒng)討論的著作，也從根本出發(fā)，提出最為有效的解決方案——在2032年之前，由美國率先進(jìn)行社會(huì)形態(tài)重構(gòu)、其它經(jīng)濟(jì)和AI強(qiáng)國跟進(jìn)，這樣的話，人類可能最大化延續(xù)，到2100年。

但現(xiàn)在我要說，人類可能錯(cuò)過這一窗口期——至少在特朗普本任期之內(nèi)，美國政府是全力為AI松綁、助推、保駕護(hù)航的態(tài)勢(shì)，當(dāng)然，民主黨可就此翻盤和逆轉(zhuǎn)，書中也談了，目錄就有內(nèi)容提要，可點(diǎn)擊復(fù)制搜索：

特朗普全力發(fā)展核電，AI將在兩三年內(nèi)將迎來跨越式發(fā)展

英偉達(dá)個(gè)人超算已投產(chǎn)即將面世，AI將在物理和虛擬兩界海量鋪開

但顯然，越往后、越難以逆轉(zhuǎn)·······照此態(tài)勢(shì)，人類可能到世紀(jì)中期、乃至于2040年就離場(chǎng)或正在離場(chǎng)。