新智元報(bào)道

　　編輯：編輯部 JYH

　　【新智元導(dǎo)讀】奧特曼親筆長(zhǎng)文「溫和的奇點(diǎn)」，在AI圈內(nèi)掀起巨震。他預(yù)示了人類正邁向超級(jí)智能時(shí)代，奇點(diǎn)不會(huì)一夜襲來，而是悄然滲透。

　　o3-pro炸場(chǎng)后，奧特曼第一時(shí)間發(fā)布了最新博文——溫和的奇點(diǎn)。

　　文章一開頭，緊迫感便撲面而來：

　　人類已跨越AI發(fā)展的「事件視界」，進(jìn)入指數(shù)級(jí)加速發(fā)展階段。

　　奧特曼認(rèn)為，奇點(diǎn)并非一夜之間到來，而是悄然滲透：驚奇變?yōu)槌B(tài)，常態(tài)變?yōu)榈拙€。

　　內(nèi)文中，他還對(duì)未來5年技術(shù)時(shí)間線，給出了自己的預(yù)測(cè)：

　　2025年：智能體可進(jìn)行真實(shí)認(rèn)知工作（如編程），工作方式正在被重塑；

　　2026年：AI可能具備發(fā)現(xiàn)新知識(shí)的能力；

　　2027年：機(jī)器人有望在物理世界中執(zhí)行任務(wù)；

　　2030年：個(gè)體的產(chǎn)出能力遠(yuǎn)超2020年，社會(huì)生產(chǎn)方式將有巨大變化。

　　值得一提的是，這是奧特曼最后一篇親筆文章，沒有一點(diǎn)AI含量。

　　他還指出，另一個(gè)被忽視部分內(nèi)容，就是ChatGPT每次查詢消耗量。

　　ChatGPT平均每次查詢需要消耗約0.34瓦時(shí)的電能，大致相當(dāng)于一臺(tái)烤箱運(yùn)行1秒多鐘，或者一個(gè)節(jié)能燈泡點(diǎn)亮幾分鐘。

　　此外，每次查詢還需耗約0.000085加侖的水，差不多是一茶匙的1/15。

　　接下來，一起跟著奧特曼的視角窺探AI未來。

　　人類跨越臨界點(diǎn)，

　　就是現(xiàn)在

　　我們已經(jīng)越過了事件視界（event horizon），「飛升」已經(jīng)開始。

　　在天體物理學(xué)中，事件（event）如果超過事件視界，將無法影響外部觀察者

　　人類距離構(gòu)建數(shù)字超級(jí)智能僅一步之遙，但至少到目前為止，這個(gè)過程遠(yuǎn)比想象的要平穩(wěn)。

　　機(jī)器人還沒滿大街跑，大多數(shù)人也沒有整天和AI對(duì)話。我們依舊會(huì)生老病死，也仍然無法輕松進(jìn)入太空，宇宙中還有許多未解之謎。

　　然而，我們確實(shí)已構(gòu)建出在諸多方面遠(yuǎn)超人類的智能系統(tǒng)，它們或?qū)O大地提升生產(chǎn)力。那些曾被認(rèn)為最不可能的科學(xué)突破已經(jīng)完成；正是這些來之不易的洞見，催生了GPT-4和o3這樣的系統(tǒng)，而它們將引領(lǐng)我們走向更遠(yuǎn)的未來。

　　在多方面，AI將為世界做出貢獻(xiàn)。

　　其中，AI將推動(dòng)科學(xué)加速進(jìn)步和提高生產(chǎn)力，為生活質(zhì)量帶來巨大飛躍。未來會(huì)比現(xiàn)在美好得多。科學(xué)進(jìn)步是整體發(fā)展的最大引擎，一想到未來無限的可能性，就令人無比激動(dòng)。

　　從某種重要的意義上說，ChatGPT已比歷史上任何人都要更強(qiáng)大。

　　每天有數(shù)億人依賴它處理日益重要的任務(wù)：微小的新功能可能產(chǎn)生巨大的積極影響，而微小的偏差在數(shù)億人的使用下，也能造成巨大的負(fù)面沖擊。

　　五年時(shí)間表

　　2030成下個(gè)節(jié)點(diǎn)

　　2025年，能勝任真正認(rèn)知工作的AI智能體已經(jīng)到來，編寫代碼的方式將被永久改變。2026年，人類或許會(huì)迎來能夠洞察新知的系統(tǒng)。2027年，可以在物理世界執(zhí)行任務(wù)的機(jī)器人或?qū)柺馈?/p>

　　更多的人將能夠創(chuàng)造軟件和藝術(shù)。但世界對(duì)這兩者的需求也將水漲船高。只要擁抱新工具，專家們很可能依舊遙遙領(lǐng)先于新手。

　　總而言之，到2030年，個(gè)人的工作效率將遠(yuǎn)超2020年，這將是驚人的變化，很多人都將找到從中受益的方式。

　　在一些非常重要的方面，2030年或許不會(huì)有天翻地覆的差異。大家仍會(huì)關(guān)愛家人、表達(dá)創(chuàng)意、享受游戲、湖中暢游。

　　但在其他同樣重要的方面，2030年可能會(huì)與過往任何時(shí)代都截然不同。我們尚不知曉人工智能可以超越人類多少，但即將找到答案。

　　在2030年代，智慧與能源——即創(chuàng)意，以及將創(chuàng)意變?yōu)楝F(xiàn)實(shí)的能力——將會(huì)變得空前充裕。

　　長(zhǎng)久以來，這兩者一直是限制人類進(jìn)步的根本因素；若能擁有充裕的智慧和能源（以及良好的治理），我們理論上便可擁有一切。

　　AI自轉(zhuǎn)飛輪越來越快

　　奇點(diǎn)悄然滲透

　　我們已然生活在令人難以置信的數(shù)字智能時(shí)代，在最初的震驚過后，大多數(shù)人已習(xí)以為常。

　　我們很快就從驚嘆AI能生成文筆優(yōu)美的段落，轉(zhuǎn)而期待它能創(chuàng)作出文筆優(yōu)美的小說；從驚嘆它能做出挽救生命的醫(yī)療診斷，轉(zhuǎn)而期待它能研發(fā)出治愈方案；從驚嘆它能編寫一個(gè)小型程序，轉(zhuǎn)而期待它能創(chuàng)立一家全新公司。

　　奇點(diǎn)的發(fā)展就是如此：昔日奇跡淪為尋常之物，再變?yōu)槠狡綗o奇的標(biāo)配。

　　從科學(xué)家口中，OpenAI得知，他們的生產(chǎn)力比使用AI前提高了兩到三倍。

　　高級(jí)AI，意義非凡，但或許沒有什么比用它來加速AI自身的研究更重大的了。我們或許能發(fā)現(xiàn)新的計(jì)算載體、更優(yōu)的算法，以及其他意外之喜。若能用一年甚至一個(gè)月完成十年的研究，進(jìn)步的速度顯然將完全不同。

　　從今往后，已有的工具將幫助我們獲得更深刻的科學(xué)洞見，并協(xié)助我們創(chuàng)造更優(yōu)異的AI系統(tǒng)。

　　當(dāng)然，這與AI系統(tǒng)完全自主地更新代碼并非一回事，但它無疑已是遞歸自我改進(jìn)的雛形。其他的自我強(qiáng)化循環(huán)，也已開始運(yùn)轉(zhuǎn)。

　　巨大的經(jīng)濟(jì)價(jià)值創(chuàng)造，開啟了基礎(chǔ)設(shè)施建設(shè)加速擴(kuò)張的飛輪，以支撐這些日益強(qiáng)大的AI系統(tǒng)。

　　而機(jī)器人制造其他機(jī)器人，也已不再遙遠(yuǎn)，而某種意義上，這也包括數(shù)據(jù)中心建造其他數(shù)據(jù)中心。

　　如果我們必須用傳統(tǒng)方式制造第一批百萬臺(tái)人形機(jī)器人，但之后它們就能運(yùn)作整個(gè)供應(yīng)鏈——開采和提煉礦物、駕駛卡車、運(yùn)營(yíng)工廠等等——來制造更多機(jī)器人，而這些機(jī)器人又能建造更多芯片制造設(shè)施、數(shù)據(jù)中心等，那么進(jìn)步的速度顯然會(huì)大不相同。

　　隨著數(shù)據(jù)中心生產(chǎn)實(shí)現(xiàn)自動(dòng)化，智能的成本最終應(yīng)會(huì)趨近于電力成本。

　　（人們常好奇ChatGPT每次查詢的能耗：平均每次查詢約消耗0.34瓦時(shí)，相當(dāng)于烤箱運(yùn)行一秒多鐘，或高效節(jié)能燈泡工作幾分鐘。同時(shí)消耗約0.000085加侖水，約合十五分之一茶匙。）

　　逼近AGI終點(diǎn)，AI奇跡成為常態(tài)

　　科技進(jìn)步將持續(xù)加速，而人類也將一如既往地適應(yīng)一切變化。

　　固然會(huì)有陣痛，比如某些行業(yè)的工作崗位整體消失，但另一方面，世界財(cái)富的增長(zhǎng)將如此迅猛，以至于我們能夠認(rèn)真探討以往無法想象的新政策構(gòu)想。

　　或許，我們不會(huì)一蹴而就地訂立全新的社會(huì)契約，但幾十年后回望，量變終將引發(fā)質(zhì)變。

　　以史為鑒，我們將找到新的目標(biāo)和新的需求，并迅速吸收新工具。期望會(huì)上升，但能力提升同樣迅速，所有人的生活品質(zhì)都會(huì)變得更好。

　　工業(yè)革命后的職業(yè)變遷，就是很好的例證

　　人類將為彼此創(chuàng)造出愈加美好的事物。

　　與AI相比，人類擁有一種長(zhǎng)期、重要且獨(dú)特的優(yōu)勢(shì)：我們天生就關(guān)心他人及其所思所為，而對(duì)機(jī)器則不太在意。

　　一千年前的農(nóng)夫，如果看到今天許多人的工作，會(huì)說這根本就是「假工作」，會(huì)認(rèn)為現(xiàn)代人不過是吃飽喝足、驕奢淫逸后，玩著游戲自娛自樂。

　　一千年后的人們看待我們這個(gè)時(shí)代的工作時(shí)，真希望他們也會(huì)覺得那是非常「假」的工作，但毫不懷疑，從事者會(huì)感到它們極其重要，心滿意足。

　　新的奇跡涌現(xiàn)速度驚人。

　　今天，我們甚至難以想象2035年會(huì)有什么新發(fā)現(xiàn)——

　　或許我們今年剛解開高能物理之謎，明年就開始了太空殖民；又或許今年在材料科學(xué)上取得重大突破，明年就擁有了真正的高帶寬腦機(jī)接口。

　　許多人會(huì)選擇一如既往地生活，但至少有一部分人可能會(huì)決定「接入」。

　　展望未來，這一切似乎匪夷所思。但當(dāng)我們身處其中時(shí)，也許會(huì)感到震撼，卻仍能應(yīng)對(duì)自如。

　　從相對(duì)的視角來看，奇點(diǎn)漸進(jìn)發(fā)生，融合緩慢進(jìn)行。

　　我們正攀登在技術(shù)指數(shù)級(jí)增長(zhǎng)的漫長(zhǎng)曲線上：向前看時(shí)，它似乎陡峭得無法攀登；向后看時(shí)，卻又顯得平坦無奇。但它始終是一條平滑的曲線。

　　（試想2020年時(shí)，若有人說2025年就會(huì)出現(xiàn)接近AGI的產(chǎn)物，聽起來會(huì)有多么不可思議，再對(duì)比一下過去這五年的真實(shí)歷程。）

　　超級(jí)智能大腦，任重道遠(yuǎn)

　　巨大的機(jī)遇，也伴隨著嚴(yán)峻的挑戰(zhàn)。

　　我們固然需要從技術(shù)和社會(huì)層面解決安全問題，但鑒于其巨大的經(jīng)濟(jì)影響，讓超級(jí)智能得到廣泛普及也至關(guān)重要。

　　最佳路徑或許是這樣的：

　　首先，解決對(duì)齊問題（alignment problem）。這意味著必須能強(qiáng)有力地保證，AI系統(tǒng)會(huì)朝著人類集體長(zhǎng)遠(yuǎn)追求的真正目標(biāo)去學(xué)習(xí)和行動(dòng)。

　　社交媒體的信息流，便是目標(biāo)錯(cuò)位的AI例子：背后的算法極其擅長(zhǎng)讓你不停刷新，也清晰地洞察你的短期偏好，但它之所以能做到這一點(diǎn)，是利用了你大腦的某種機(jī)制，而這種機(jī)制會(huì)凌駕于你的長(zhǎng)期偏好之上

　　然后，專注于讓超級(jí)智能變得廉價(jià)、易得，并且不過度集中于任何個(gè)人、公司或國(guó)家。

　　社會(huì)是富有韌性、創(chuàng)造力且適應(yīng)力極強(qiáng)的。如果能駕馭人類的集體意愿和智慧，那么盡管會(huì)犯下許多錯(cuò)誤，有些事態(tài)會(huì)變得非常糟糕，但我們終將快速學(xué)習(xí)和適應(yīng)，并利用這項(xiàng)技術(shù)實(shí)現(xiàn)效益最大化、風(fēng)險(xiǎn)最小化。

　　在社會(huì)必須劃定的寬泛邊界內(nèi)，給予用戶充分的自由，這一點(diǎn)似乎至關(guān)重要。全世界越早開始探討這些邊界，以及定義集體對(duì)齊（collective alignment），就越有利。

　　整個(gè)行業(yè)，而非僅是OpenAI，正在為世界構(gòu)建一個(gè)大腦。

　　它將是高度個(gè)性化的，人人皆可輕松使用；我們唯一的瓶頸，將是好的創(chuàng)意。

　　長(zhǎng)久以來，創(chuàng)業(yè)圈的技術(shù)人員總是取笑那些「點(diǎn)子大王」——他們有想法，卻需要找團(tuán)隊(duì)來實(shí)現(xiàn)。但在奧特曼自己看來，這些人即將迎來自己的高光時(shí)刻。

　　如今，OpenAI扮演著多重角色，但首要身份，是一家超級(jí)智能研究公司。

　　前路漫漫，任重道遠(yuǎn)，但大部分道路已被照亮，未知領(lǐng)域正迅速消散。能夠投身于我們所熱愛的事業(yè)，我們倍感榮幸。

　　「廉價(jià)到無需計(jì)量的智能」已觸手可及。這番話聽起來或許很瘋狂，但倘若我們?cè)?020年就告訴您世界將是今天的樣貌，那聽起來恐怕比我們眼下對(duì)2030年的預(yù)測(cè)還要瘋狂。

　　愿我們能平穩(wěn)、指數(shù)級(jí)且波瀾不驚地邁向超級(jí)智能時(shí)代。

　　參考資料：

　　https://blog.samaltman.com/the-gentle-singularity

　　https://x.com/sama/status/1932547247243505924