新智元報道

　　編輯：編輯部 JYH

　　【新智元導(dǎo)讀】奧特曼親筆長文「溫和的奇點」，在AI圈內(nèi)掀起巨震。他預(yù)示了人類正邁向超級智能時代，奇點不會一夜襲來，而是悄然滲透。

　　o3-pro炸場后，奧特曼第一時間發(fā)布了最新博文——溫和的奇點。

　　文章一開頭，緊迫感便撲面而來：

　　人類已跨越AI發(fā)展的「事件視界」，進入指數(shù)級加速發(fā)展階段。

　　奧特曼認為，奇點并非一夜之間到來，而是悄然滲透：驚奇變?yōu)槌B(tài)，常態(tài)變?yōu)榈拙€。

　　內(nèi)文中，他還對未來5年技術(shù)時間線，給出了自己的預(yù)測：

　　2025年：智能體可進行真實認知工作（如編程），工作方式正在被重塑；

　　2026年：AI可能具備發(fā)現(xiàn)新知識的能力；

　　2027年：機器人有望在物理世界中執(zhí)行任務(wù)；

　　2030年：個體的產(chǎn)出能力遠超2020年，社會生產(chǎn)方式將有巨大變化。

　　值得一提的是，這是奧特曼最后一篇親筆文章，沒有一點AI含量。

　　他還指出，另一個被忽視部分內(nèi)容，就是ChatGPT每次查詢消耗量。

　　ChatGPT平均每次查詢需要消耗約0.34瓦時的電能，大致相當(dāng)于一臺烤箱運行1秒多鐘，或者一個節(jié)能燈泡點亮幾分鐘。

　　此外，每次查詢還需耗約0.000085加侖的水，差不多是一茶匙的1/15。

　　接下來，一起跟著奧特曼的視角窺探AI未來。

　　人類跨越臨界點，

　　就是現(xiàn)在

　　我們已經(jīng)越過了事件視界（event horizon），「飛升」已經(jīng)開始。

　　在天體物理學(xué)中，事件（event）如果超過事件視界，將無法影響外部觀察者

　　人類距離構(gòu)建數(shù)字超級智能僅一步之遙，但至少到目前為止，這個過程遠比想象的要平穩(wěn)。

　　機器人還沒滿大街跑，大多數(shù)人也沒有整天和AI對話。我們依舊會生老病死，也仍然無法輕松進入太空，宇宙中還有許多未解之謎。

　　然而，我們確實已構(gòu)建出在諸多方面遠超人類的智能系統(tǒng)，它們或?qū)O大地提升生產(chǎn)力。那些曾被認為最不可能的科學(xué)突破已經(jīng)完成；正是這些來之不易的洞見，催生了GPT-4和o3這樣的系統(tǒng)，而它們將引領(lǐng)我們走向更遠的未來。

　　在多方面，AI將為世界做出貢獻。

　　其中，AI將推動科學(xué)加速進步和提高生產(chǎn)力，為生活質(zhì)量帶來巨大飛躍。未來會比現(xiàn)在美好得多。科學(xué)進步是整體發(fā)展的最大引擎，一想到未來無限的可能性，就令人無比激動。

　　從某種重要的意義上說，ChatGPT已比歷史上任何人都要更強大。

　　每天有數(shù)億人依賴它處理日益重要的任務(wù)：微小的新功能可能產(chǎn)生巨大的積極影響，而微小的偏差在數(shù)億人的使用下，也能造成巨大的負面沖擊。

　　五年時間表

　　2030成下個節(jié)點

　　2025年，能勝任真正認知工作的AI智能體已經(jīng)到來，編寫代碼的方式將被永久改變。2026年，人類或許會迎來能夠洞察新知的系統(tǒng)。2027年，可以在物理世界執(zhí)行任務(wù)的機器人或?qū)柺馈?/p>

　　更多的人將能夠創(chuàng)造軟件和藝術(shù)。但世界對這兩者的需求也將水漲船高。只要擁抱新工具，專家們很可能依舊遙遙領(lǐng)先于新手。

　　總而言之，到2030年，個人的工作效率將遠超2020年，這將是驚人的變化，很多人都將找到從中受益的方式。

　　在一些非常重要的方面，2030年或許不會有天翻地覆的差異。大家仍會關(guān)愛家人、表達創(chuàng)意、享受游戲、湖中暢游。

　　但在其他同樣重要的方面，2030年可能會與過往任何時代都截然不同。我們尚不知曉人工智能可以超越人類多少，但即將找到答案。

　　在2030年代，智慧與能源——即創(chuàng)意，以及將創(chuàng)意變?yōu)楝F(xiàn)實的能力——將會變得空前充裕。

　　長久以來，這兩者一直是限制人類進步的根本因素；若能擁有充裕的智慧和能源（以及良好的治理），我們理論上便可擁有一切。

　　AI自轉(zhuǎn)飛輪越來越快

　　奇點悄然滲透

　　我們已然生活在令人難以置信的數(shù)字智能時代，在最初的震驚過后，大多數(shù)人已習(xí)以為常。

　　我們很快就從驚嘆AI能生成文筆優(yōu)美的段落，轉(zhuǎn)而期待它能創(chuàng)作出文筆優(yōu)美的小說；從驚嘆它能做出挽救生命的醫(yī)療診斷，轉(zhuǎn)而期待它能研發(fā)出治愈方案；從驚嘆它能編寫一個小型程序，轉(zhuǎn)而期待它能創(chuàng)立一家全新公司。

　　奇點的發(fā)展就是如此：昔日奇跡淪為尋常之物，再變?yōu)槠狡綗o奇的標(biāo)配。

　　從科學(xué)家口中，OpenAI得知，他們的生產(chǎn)力比使用AI前提高了兩到三倍。

　　高級AI，意義非凡，但或許沒有什么比用它來加速AI自身的研究更重大的了。我們或許能發(fā)現(xiàn)新的計算載體、更優(yōu)的算法，以及其他意外之喜。若能用一年甚至一個月完成十年的研究，進步的速度顯然將完全不同。

　　從今往后，已有的工具將幫助我們獲得更深刻的科學(xué)洞見，并協(xié)助我們創(chuàng)造更優(yōu)異的AI系統(tǒng)。

　　當(dāng)然，這與AI系統(tǒng)完全自主地更新代碼并非一回事，但它無疑已是遞歸自我改進的雛形。其他的自我強化循環(huán)，也已開始運轉(zhuǎn)。

　　巨大的經(jīng)濟價值創(chuàng)造，開啟了基礎(chǔ)設(shè)施建設(shè)加速擴張的飛輪，以支撐這些日益強大的AI系統(tǒng)。

　　而機器人制造其他機器人，也已不再遙遠，而某種意義上，這也包括數(shù)據(jù)中心建造其他數(shù)據(jù)中心。

　　如果我們必須用傳統(tǒng)方式制造第一批百萬臺人形機器人，但之后它們就能運作整個供應(yīng)鏈——開采和提煉礦物、駕駛卡車、運營工廠等等——來制造更多機器人，而這些機器人又能建造更多芯片制造設(shè)施、數(shù)據(jù)中心等，那么進步的速度顯然會大不相同。

　　隨著數(shù)據(jù)中心生產(chǎn)實現(xiàn)自動化，智能的成本最終應(yīng)會趨近于電力成本。

　　（人們常好奇ChatGPT每次查詢的能耗：平均每次查詢約消耗0.34瓦時，相當(dāng)于烤箱運行一秒多鐘，或高效節(jié)能燈泡工作幾分鐘。同時消耗約0.000085加侖水，約合十五分之一茶匙。）

　　逼近AGI終點，AI奇跡成為常態(tài)

　　科技進步將持續(xù)加速，而人類也將一如既往地適應(yīng)一切變化。

　　固然會有陣痛，比如某些行業(yè)的工作崗位整體消失，但另一方面，世界財富的增長將如此迅猛，以至于我們能夠認真探討以往無法想象的新政策構(gòu)想。

　　或許，我們不會一蹴而就地訂立全新的社會契約，但幾十年后回望，量變終將引發(fā)質(zhì)變。

　　以史為鑒，我們將找到新的目標(biāo)和新的需求，并迅速吸收新工具。期望會上升，但能力提升同樣迅速，所有人的生活品質(zhì)都會變得更好。

　　工業(yè)革命后的職業(yè)變遷，就是很好的例證

　　人類將為彼此創(chuàng)造出愈加美好的事物。

　　與AI相比，人類擁有一種長期、重要且獨特的優(yōu)勢：我們天生就關(guān)心他人及其所思所為，而對機器則不太在意。

　　一千年前的農(nóng)夫，如果看到今天許多人的工作，會說這根本就是「假工作」，會認為現(xiàn)代人不過是吃飽喝足、驕奢淫逸后，玩著游戲自娛自樂。

　　一千年后的人們看待我們這個時代的工作時，真希望他們也會覺得那是非常「假」的工作，但毫不懷疑，從事者會感到它們極其重要，心滿意足。

　　新的奇跡涌現(xiàn)速度驚人。

　　今天，我們甚至難以想象2035年會有什么新發(fā)現(xiàn)——

　　或許我們今年剛解開高能物理之謎，明年就開始了太空殖民；又或許今年在材料科學(xué)上取得重大突破，明年就擁有了真正的高帶寬腦機接口。

　　許多人會選擇一如既往地生活，但至少有一部分人可能會決定「接入」。

　　展望未來，這一切似乎匪夷所思。但當(dāng)我們身處其中時，也許會感到震撼，卻仍能應(yīng)對自如。

　　從相對的視角來看，奇點漸進發(fā)生，融合緩慢進行。

　　我們正攀登在技術(shù)指數(shù)級增長的漫長曲線上：向前看時，它似乎陡峭得無法攀登；向后看時，卻又顯得平坦無奇。但它始終是一條平滑的曲線。

　　（試想2020年時，若有人說2025年就會出現(xiàn)接近AGI的產(chǎn)物，聽起來會有多么不可思議，再對比一下過去這五年的真實歷程。）

　　超級智能大腦，任重道遠

　　巨大的機遇，也伴隨著嚴(yán)峻的挑戰(zhàn)。

　　我們固然需要從技術(shù)和社會層面解決安全問題，但鑒于其巨大的經(jīng)濟影響，讓超級智能得到廣泛普及也至關(guān)重要。

　　最佳路徑或許是這樣的：

　　首先，解決對齊問題（alignment problem）。這意味著必須能強有力地保證，AI系統(tǒng)會朝著人類集體長遠追求的真正目標(biāo)去學(xué)習(xí)和行動。

　　社交媒體的信息流，便是目標(biāo)錯位的AI例子：背后的算法極其擅長讓你不停刷新，也清晰地洞察你的短期偏好，但它之所以能做到這一點，是利用了你大腦的某種機制，而這種機制會凌駕于你的長期偏好之上

　　然后，專注于讓超級智能變得廉價、易得，并且不過度集中于任何個人、公司或國家。

　　社會是富有韌性、創(chuàng)造力且適應(yīng)力極強的。如果能駕馭人類的集體意愿和智慧，那么盡管會犯下許多錯誤，有些事態(tài)會變得非常糟糕，但我們終將快速學(xué)習(xí)和適應(yīng)，并利用這項技術(shù)實現(xiàn)效益最大化、風(fēng)險最小化。

　　在社會必須劃定的寬泛邊界內(nèi)，給予用戶充分的自由，這一點似乎至關(guān)重要。全世界越早開始探討這些邊界，以及定義集體對齊（collective alignment），就越有利。

　　整個行業(yè)，而非僅是OpenAI，正在為世界構(gòu)建一個大腦。

　　它將是高度個性化的，人人皆可輕松使用；我們唯一的瓶頸，將是好的創(chuàng)意。

　　長久以來，創(chuàng)業(yè)圈的技術(shù)人員總是取笑那些「點子大王」——他們有想法，卻需要找團隊來實現(xiàn)。但在奧特曼自己看來，這些人即將迎來自己的高光時刻。

　　如今，OpenAI扮演著多重角色，但首要身份，是一家超級智能研究公司。

　　前路漫漫，任重道遠，但大部分道路已被照亮，未知領(lǐng)域正迅速消散。能夠投身于我們所熱愛的事業(yè)，我們倍感榮幸。

　　「廉價到無需計量的智能」已觸手可及。這番話聽起來或許很瘋狂，但倘若我們在2020年就告訴您世界將是今天的樣貌，那聽起來恐怕比我們眼下對2030年的預(yù)測還要瘋狂。

　　愿我們能平穩(wěn)、指數(shù)級且波瀾不驚地邁向超級智能時代。

　　參考資料：

　　https://blog.samaltman.com/the-gentle-singularity

　　https://x.com/sama/status/1932547247243505924