在經(jīng)歷了數(shù)論關(guān)于AI監(jiān)管的對談和磋商后，最近很少發(fā)聲的 Sam Altman 又一次接受了新訪談，5月9日，在一場Sohn 2023活動(dòng)的對談中，OpenAI的CEO 對大語言模型和AI的未來，監(jiān)管的方式，競爭對手和中國AI發(fā)展及AI領(lǐng)域的創(chuàng)投機(jī)會(huì)都表達(dá)了他新一輪，更成熟更系統(tǒng)化的思考。

在一個(gè)月之前，他說巨型模型的時(shí)代已經(jīng)見頂，但現(xiàn)在給出了如何突破的解決方案。一個(gè)月前，他對AI創(chuàng)業(yè)的商業(yè)化路徑還很少思考，現(xiàn)在他已經(jīng)可以給出幾個(gè)具體的方案。在這篇訪談中，我們還可以看到他對OpenAI的具體規(guī)劃，定位和野心。以及他對競品，尤其是谷歌和中國AI公司的關(guān)注與評價(jià)。

(相關(guān)資料圖)

基本上這次訪談就是他對整個(gè)AI產(chǎn)業(yè)的一個(gè)初步解決方案路線圖。

當(dāng)然，這也歸功于他談話的對手，Patrick Collison，一位同樣是年少功成，在20歲的年紀(jì)已成為億萬富翁的IT創(chuàng)業(yè)者。他的問題相當(dāng)犀利，而且有著不俗的邏輯和見解，也因此能碰撞出這樣多的思想火花。

劃重點(diǎn)

1.??在AI的發(fā)展中，我們正在進(jìn)入一個(gè)新階段，在某些領(lǐng)域需要大量聰明的專家給出反饋，以使模型變得盡可能智能。這可能會(huì)引發(fā)一輪的RLHF人才爭奪戰(zhàn)。大模型的數(shù)據(jù)缺口可以通過合成數(shù)據(jù)彌補(bǔ)，簡單地通過互聯(lián)網(wǎng)數(shù)據(jù)把Transformer擴(kuò)展起來的方法會(huì)失效。

2.?AI監(jiān)管應(yīng)該建立起類似原子能機(jī)構(gòu)這樣保證核不擴(kuò)散的國際組織，根據(jù)硬件和能源使用情況監(jiān)控所有AI公司，所有超過能力閾值的系統(tǒng)都需要接受審核。

3.??后續(xù)AI行業(yè)會(huì)產(chǎn)生分化，開源AI負(fù)責(zé)產(chǎn)出商業(yè)化產(chǎn)品和應(yīng)用創(chuàng)新，閉源AI負(fù)責(zé)建構(gòu)超級智能，已解決前沿的科學(xué)研究問題。商業(yè)化AI方面最有前景的領(lǐng)域是AI投資決策技術(shù)和AI自動(dòng)化辦公輔助。

4.??Google是很有力的競爭對手，中國在AI領(lǐng)域可見到的成功太少，透明度較低。

以下為訪談全文

Patrick：

謝謝Sam能和我們在一起。

去年我實(shí)際上采訪了Sam Bankman-Freed（被逮捕的加密企業(yè)FTX創(chuàng)始人）。顯然，我采訪的是錯(cuò)誤的Sam，所以很高興今年能糾正過來，和正確的Sam進(jìn)行交流。讓我們從大家關(guān)心的話題開始，我們什么時(shí)候能得到我們的Worldcoin（由Sam Altman發(fā)起的一個(gè)虛擬代幣項(xiàng)目，通過虹膜認(rèn)證替代一般身份認(rèn)證）呢？

Sam：我認(rèn)為如果你不在美國，你可能在幾周內(nèi)就能得到一個(gè)；如果你在美國，可能永遠(yuǎn)都得不到。我不知道，這取決于美國政府禁止加密貨幣的決心有多大。

Patrick：Worldcoin大約是一年前左右啟動(dòng)的？

Sam：

實(shí)際上它還沒有正式運(yùn)行，它已經(jīng)在測試階段大約一年了。但它將在美國以外的地方很快上線。在美國，你可能永遠(yuǎn)都不能使用它，我不知道。

Patrick：

好吧。

Sam：

所以這是一件瘋狂的事情。你知道，不管你對加密貨幣的漲跌有什么看法，但美國是全世界最糟糕的擁有加密貨幣公司的國家，很可能你根本就不能提供加密貨幣服務(wù)。這是一個(gè)（影響）巨大的聲明，歷史性的聲明。

Patrick：

是的，就是這樣。是的，很難想象最后一次出現(xiàn)這種情況的技術(shù)是什么。

Sam：

也許是歐洲人應(yīng)該做這個(gè)，而不是我們。

Patrick：

是的。

Sam：

超音速飛行或者類似的東西。

Patrick：

對的。

然后，我猜幾乎所有在場的人都是ChatGPT的用戶。你最常用的ChatGPT是什么樣的，就是你在不測試東西的時(shí)候，你真的想要用的時(shí)候，ChatGPT完全是你的工具。

Sam：

無疑是匯總文摘。如果沒有它，我已經(jīng)不知道怎么繼續(xù)工作。我可能無法處理電子郵件和Slack（一種基于云端運(yùn)算的即時(shí)通訊軟件）。你知道，你可以把一堆電子郵件或者Slack消息發(fā)給它。希望能隨著時(shí)間的推移，我們?yōu)檫@個(gè)場景構(gòu)建一些更好的插件；但即使是手動(dòng)操作也效果相當(dāng)好。

Patrick：

有沒有任何插件成為你的工作流程的一部分？

Sam：

我偶爾在代碼解釋器中瀏覽。但說實(shí)話，對我個(gè)人來說，它們還沒有真正像是日常習(xí)慣的一部分。

大語言模型的未來：合成數(shù)據(jù)突破數(shù)據(jù)天花板 / RLHF訓(xùn)練人才爭奪戰(zhàn)

Patrick：

所以顯然，這很有可能是我們正在經(jīng)歷的趨勢，超線性（速度）的實(shí)現(xiàn)模型能力的收益；但誰知道呢，也許我們很快就會(huì)接近極限，那是可能的，但至少是一種可能性。如果我們最后走到這個(gè)盡頭，你認(rèn)為我們回頭看，認(rèn)為原因是數(shù)據(jù)不夠，或者計(jì)算能力不足，最有可能的是什么呢？

Sam：

我真的不認(rèn)為這會(huì)發(fā)生。

但如果真的發(fā)生了，我認(rèn)為這可能是我們現(xiàn)有架構(gòu)中的某些基本問題，以一種我們現(xiàn)在還沒有察覺的方式限制了我們。比如說，我們可能永遠(yuǎn)無法讓這些系統(tǒng)變得非常穩(wěn)健，所以我們無法讓它們能夠可靠地保持在正確的軌道上，理解它們正在犯錯(cuò)誤；因此，它們不能真正在大規(guī)模上有效地獲取新知識。但我沒有理由相信這就是（會(huì)發(fā)生的）情況。

Patrick：有些人認(rèn)為我們現(xiàn)在的訓(xùn)練數(shù)據(jù)已經(jīng)接近互聯(lián)網(wǎng)的全部內(nèi)容，你不能把這個(gè)數(shù)目再增加兩個(gè)數(shù)量級，我想你可能會(huì)反駁說，是的，但是（還有）合成數(shù)據(jù)生成，你認(rèn)為數(shù)據(jù)瓶頸重要嗎？

Sam：

我認(rèn)為，就像你剛才提到的，只要你能達(dá)到這個(gè)合成數(shù)據(jù)的臨界點(diǎn)，模型足夠聰明，能制作出好的合成數(shù)據(jù)，我認(rèn)為應(yīng)該沒問題。

我們肯定需要新的技術(shù)，我不想假裝沒有這個(gè)問題。簡單地把Transformer擴(kuò)展起來，預(yù)先從互聯(lián)網(wǎng)上獲取訓(xùn)練數(shù)據(jù)，這種方法會(huì)失效，但這并不是我們的計(jì)劃。

Patrick：

所以GPD 3.5和4的一大突破就是RLHF。如果你，Sam，親自做了所有的RLHF，模型會(huì)變得明顯更聰明嗎？反饋的人是否重要？

Sam：

我認(rèn)為我們正在進(jìn)入一個(gè)階段，在某些領(lǐng)域，你真的需要聰明的專家給出反饋，以使模型變得盡可能智能。

Patrick：

所以，這會(huì)不會(huì)引發(fā)一場瘋狂的對最聰明的研究生的爭奪戰(zhàn)？

Sam：

我認(rèn)為會(huì)。我不知道這場爭奪戰(zhàn)會(huì)有多瘋狂，因?yàn)槭澜缟嫌泻芏嗦斆鞯难芯可?，但聰明的研究生將?huì)非常重要。

Patrick：

我們需要多少聰明的研究生呢？一個(gè)就夠了，還是需要10000個(gè)？

Sam：

我們正在研究這個(gè)問題。我們真的不知道，比如一個(gè)真正聰明的人能為我們帶來多大的優(yōu)勢，模型可以在哪些方面提供幫助，或者模型能自我進(jìn)行一些強(qiáng)化學(xué)習(xí)，我們對此深感興趣，但這還是個(gè)未知數(shù)。

AI監(jiān)管：建立AI國際化監(jiān)管機(jī)構(gòu)，所有超過能力閾值的系統(tǒng)都需要接受審核

Patrick：

核武器的秘密應(yīng)該被機(jī)密處理嗎？

Sam：

可能，應(yīng)該吧。我不知道我們在這方面做得有多有效。我認(rèn)為我們之所以避免了核災(zāi)難，并不完全是因?yàn)槲覀儼衙孛茏隽藱C(jī)密處理，而是我們做了一些聰明的事情。我們很幸運(yùn)，至少很長一段時(shí)間，它所需要的能量是巨大的，基本上需要國家的力量。我們建立了國際原子能機(jī)構(gòu)，我認(rèn)為總的來說這是一個(gè)好決定，還有其他一些事情。所以我認(rèn)為，你可以做任何事情來提高好結(jié)果的可能性，機(jī)密化核武器的秘密可能會(huì)有所幫助。不把它機(jī)密處理的話（其他操作）似乎沒有多大意義，另一方面，我不認(rèn)為這會(huì)是一個(gè)完全的解決方案。

Patrick：

當(dāng)我們考慮所有現(xiàn)在已經(jīng)成為中心的AI安全問題時(shí)，我們應(yīng)該從我們核不擴(kuò)散的經(jīng)驗(yàn)中吸取什么最重要的教訓(xùn)？

Sam：

首先，我認(rèn)為過分借鑒以前的技術(shù)總是一個(gè)錯(cuò)誤。每個(gè)人都想要找一個(gè)類比，每個(gè)人都想說，哦，這就像這個(gè)，或者那個(gè)，我們是這樣做的，所以我們將再次這樣做，但每種技術(shù)的形式都是不同的。然而，我認(rèn)為核材料和AI超級計(jì)算機(jī)有一些相似之處，這是我們可以借鑒和獲得啟示的地方，但我會(huì)提醒人們不要過度學(xué)習(xí)上一件事的教訓(xùn)。我認(rèn)為可以建立一個(gè)類似于國際原子能機(jī)構(gòu)的AI機(jī)構(gòu)——我知道這聽起來多么天真，這么做有多困難——但是我認(rèn)為讓每個(gè)人都參與到對極其強(qiáng)大的AI訓(xùn)練系統(tǒng)的全球監(jiān)管機(jī)構(gòu)中來，這似乎對我來說是一個(gè)非常重要的事情。我認(rèn)為這就是我們可以學(xué)到的一個(gè)教訓(xùn)。

Patrick：

如果它被建立了，明天就存在了，那么它應(yīng)該首先做什么呢？

Sam：

任何超過我們設(shè)定的閾值的系統(tǒng)——實(shí)現(xiàn)這個(gè)最容易的方法是計(jì)算閾值（最好的方法是能力閾值，但這更難以衡量）——任何超過這個(gè)閾值的系統(tǒng)，我認(rèn)為都應(yīng)該接受審核。應(yīng)該讓這個(gè)組織有完全的可視化權(quán)限，要求在發(fā)布系統(tǒng)之前通過某些安全評估。那將是第一件事。

Patrick：

有些人可能會(huì)說，我不知道該如何描述這種情況，但讓我們說，更好戰(zhàn)的一方可能會(huì)說，這一切聽起來都很好，但是中國不會(huì)這么做，因此，我們只會(huì)束縛自己。因此，這個(gè)主意在表面上看起來不如它看起來的好。

Sam：

有很多人對中國會(huì)或不會(huì)做什么發(fā)表了非常強(qiáng)硬的言論，但他們從未去過中國，也從未與過去曾經(jīng)與中國進(jìn)行過外交工作的人交談過，他們對復(fù)雜的高風(fēng)險(xiǎn)國際關(guān)系幾乎一無所知。我認(rèn)為這顯然非常困難，但我也認(rèn)為沒有人想要摧毀整個(gè)世界，所以至少有理由在這里嘗試一下。

我認(rèn)為這里有一些不尋常的事情，這就是為什么從過去任何一種技術(shù)類比中學(xué)習(xí)都是危險(xiǎn)的。

這里有一些不尋常的事情，當(dāng)然有能源簽名和所需能源的數(shù)量，但制造最有能力的GPU的人并不多，你可以要求他們都安裝一種監(jiān)測設(shè)備，如果你正在與超過10，000個(gè)其他GPU進(jìn)行通信，那么你就必須（接受監(jiān)管）。

無論如何，我們都有選擇的余地。

后續(xù)的AI發(fā)展：開源的經(jīng)濟(jì)應(yīng)用和封閉源模型的超級智能探索并行

Patrick：

今年對我來說，一個(gè)大的驚喜就是開源模型的進(jìn)步，特別是最近60天左右的瘋狂進(jìn)步。

你認(rèn)為，一年后開源模型會(huì)有多好？

Sam：

我認(rèn)為這里將會(huì)有兩個(gè)發(fā)展方向，一是超級規(guī)?；淖詈玫姆忾]源模型，二是開源社區(qū)的進(jìn)步，可能（開源）會(huì)落后幾年或者說多幾年。但我認(rèn)為我們將會(huì)生活在一個(gè)有著非常強(qiáng)大的開源模型的世界，人們會(huì)用它們來做各種各樣的事情，整個(gè)社區(qū)的創(chuàng)造力將會(huì)讓我們所有人感到驚訝。

然后還有那些擁有巨大集群的人能做什么的前沿（研究），那將會(huì)非常遙遠(yuǎn)。

我認(rèn)為這是好事，因?yàn)槲覀冇懈嗟臅r(shí)間去解決一些更恐怖的事情。

Patrick：

David Luan（前OpenAI工程副總裁）向我闡述了，經(jīng)濟(jì)有用的活動(dòng)集合，理論上是所有可能活動(dòng)的子集，而相當(dāng)好的模型可能足以解決大部分的第一套活動(dòng)。因此，可能超大型的模型在科學(xué)上非常有趣，也許你需要它們來做一些事情，比如推動(dòng)AI的進(jìn)步，但是對于大多數(shù)的實(shí)用日常案例，可能一個(gè)開源模型就足夠了。你認(rèn)為這個(gè)未來有多大可能性？

Sam：

我認(rèn)為對于許多超級經(jīng)濟(jì)價(jià)值的事情來說，這些較小的開源模型將足夠使用。但你剛剛提到了我想說的一件事，那就是幫助我們發(fā)明超級智能，那是一個(gè)非常經(jīng)濟(jì)有價(jià)值的活動(dòng)，就像治愈所有的癌癥或發(fā)現(xiàn)新的物理規(guī)律等等，這些都將首先由最大的模型來實(shí)現(xiàn)。

Patrick：

Facebook現(xiàn)在應(yīng)該開源Llama嗎？

Sam：

現(xiàn)在這個(gè)點(diǎn)上，可能應(yīng)該。

Patrick：

他們應(yīng)該采用開源他們的基礎(chǔ)模型/語言模型，還是只是特別的Llama呢？

Sam：

我認(rèn)為Facebook的AI策略在最好的情況下也只能說是混亂的，但我認(rèn)為他們現(xiàn)在開始非常認(rèn)真，并且他們有非常能干的人，我預(yù)計(jì)他們很快就會(huì)有更連貫的策略。我認(rèn)為他們將會(huì)是一個(gè)令人驚訝的新真正的玩家。

AI的安全性：大家都在指責(zé)AI不安全，但沒人給出解決方法

Patrick：

有沒有什么新的發(fā)現(xiàn)可能會(huì)顯著改變你對災(zāi)難性結(jié)果的可能性估計(jì)，無論是提高還是降低它？

Sam：

是的，我認(rèn)為有很多，我認(rèn)為從現(xiàn)在到超級智能之間的大部分新工作都會(huì)使這個(gè)概率上升或下降。

Patrick：

那么，你特別關(guān)注什么？有什么你特別想知道的事情嗎？

Sam：

首先，我不認(rèn)為強(qiáng)化學(xué)習(xí)人工智能（RLHF）是正確的長期解決方案。我不認(rèn)為我們可以依賴它。我認(rèn)為它是有幫助的，它當(dāng)然使這些模型更容易使用。但你真正想要的是理解模型內(nèi)部的運(yùn)作情況，并能夠使之對齊，比如說，精確地知道哪個(gè)電路或人工神經(jīng)元集合在發(fā)生什么，并能夠以一種能夠給模型性能帶來穩(wěn)定改變的方式調(diào)整它。

還有很多超越這個(gè)的事情，但如果我們能讓這個(gè)方向可靠地工作，我認(rèn)為每個(gè)人的災(zāi)難概率（P Doom）都會(huì)大幅降低。

Patrick：

你認(rèn)為有足夠的可解釋性工作正在進(jìn)行嗎？

Sam：

沒有。

Patrick：

為什么不呢？

Sam：

你知道，很多人都說他們非常擔(dān)憂AI的安全，所以這在表面上看起來很奇怪。

大部分聲稱他們真的很擔(dān)心AI安全的人，似乎只是在推特上花時(shí)間說他們真的很擔(dān)心AI的安全，或者做很多其他的事情。

有一些人非常擔(dān)心AI的安全，并且正在做出很好的技術(shù)工作。我們需要更多這樣的人，我們肯定在OpenAI內(nèi)部投入更多的努力，讓更多的技術(shù)人員去研究這個(gè)問題。

但是，世界需要的不是更多在Twitter上發(fā)帖寫長篇大論的AI安全人員，而是更多愿意做技術(shù)工作，使這些系統(tǒng)安全且可靠地對齊的人。我認(rèn)為這些事情正在發(fā)生，優(yōu)秀的機(jī)器學(xué)習(xí)研究者轉(zhuǎn)變焦點(diǎn)，以及新人進(jìn)入這個(gè)領(lǐng)域，兩者的結(jié)合。

Patrick：

這次通話上的很多人都是活躍的慈善家，他們中的大多數(shù)人在Twitter上發(fā)布的內(nèi)容不是很多。你知道，他們聽到這個(gè)交流，可能會(huì)想，哦，也許我應(yīng)該幫助資助可解釋性領(lǐng)域的一些事情。

如果他們有這種想法，下一步應(yīng)該做什么？

Sam：

我認(rèn)為一個(gè)還沒有做出足夠嘗試的策略是，給單個(gè)人或小團(tuán)體提供資助。

這些人非常技術(shù)性，并且想要推動(dòng)技術(shù)解決方案，也許他們正在讀研究生或者剛畢業(yè)，或者正在讀本科。我認(rèn)為嘗試這個(gè)是非常值得的，他們需要訪問到非常強(qiáng)大的模型，OpenAI正在嘗試開展一些項(xiàng)目來支持獨(dú)立的對齊研究者，但我認(rèn)為給這些人提供財(cái)務(wù)支持是非常好的一步。

Patrick：

此外，你認(rèn)為這個(gè)領(lǐng)域在多大程度上受技能瓶頸的限制？也就是說，有些人可能具備所需的內(nèi)在特性，但可能沒有所需的四年或者更長時(shí)間的學(xué)習(xí)經(jīng)歷，這對他們的有效性也產(chǎn)生了影響。

Sam：

我認(rèn)為，如果有一個(gè)聰明的人，他已經(jīng)學(xué)會(huì)了如何做好研究，并且具有正確的心態(tài)，那么只需要大約六個(gè)月的時(shí)間就能讓他從一個(gè)聰明的物理研究者變成一個(gè)有成果的AI研究者。所以我們在這個(gè)領(lǐng)域還沒有足夠的人才，但是這個(gè)很快就會(huì)到來。我們在OpenAI有一個(gè)項(xiàng)目，就是做這個(gè)的，我對它的效果感到驚訝。

情感對話機(jī)器人：未來的人類可能有更多AI朋友而不是人類朋友

Patrick：

似乎很快我們將擁有，嗯代理人，你可以以非常自然的方式與之對話，低延遲全雙工（虛擬人可以進(jìn)行聽和說），你可以像打斷整個(gè)事情一樣打斷它們。顯然，我們已經(jīng)看到了像Character和Replica這樣的產(chǎn)品，你知道，即使是這些初期的產(chǎn)品在這個(gè)方向上也取得了相當(dāng)驚人的進(jìn)展。

我認(rèn)為這些可能是一項(xiàng)巨大的成就，也許我們正在大大低估它，尤其是一旦你可以通過語音進(jìn)行對話。你認(rèn)為這樣對嗎？如果是這樣，你認(rèn)為可能的后果是什么？

Sam：

是的，我確實(shí)認(rèn)為是對的。

最近有人對我說過一句印象深刻的話，他們相當(dāng)確定，他們的孩子將來會(huì)有更多的AI朋友而不是人類朋友。至于后果，我不知道會(huì)是什么樣子。

我認(rèn)為有一點(diǎn)很重要的是，我們要盡快確立一個(gè)社會(huì)規(guī)范。

你知道，如果你在與AI或人類進(jìn)行交流，或者類似奇怪的AI輔助人類的情況，人們似乎很難在他們的頭腦中區(qū)分（對方是人還是AI），即使是像你提到的Replica這樣的早期的弱智系統(tǒng)。

不管我們大腦中渴望社交互動(dòng)的電路是什么，似乎有些人在某些情況下可以通過與AI朋友相處來滿足這種需求，這是棘手的。

Patrick：

最近有人告訴我，在Replica的Reddit上讀到的一個(gè)討論主題是，如何處理升級到Replica模型時(shí)的情感挑戰(zhàn)和創(chuàng)傷。因?yàn)槟愕呐笥淹蝗蛔兊糜悬c(diǎn)智力受損，或者至少是一個(gè)有點(diǎn)不同的人，而且，這些對話者都知道Replica實(shí)際上是一個(gè)AI，但不知何故，我們的情感反應(yīng)似乎并沒有太大的區(qū)別。

Sam：

我認(rèn)為，大多數(shù)人都覺得我們正朝著發(fā)展的是這樣一個(gè)社會(huì)，在天空中有個(gè)漂浮的至高無上的超級智能存在。而我認(rèn)為，那是一個(gè)在某種意義上不那么可怕但仍然有些奇怪的社會(huì)，一個(gè)由很多AI和人類共同整合的社會(huì)。

關(guān)于這個(gè)已經(jīng)有很長時(shí)間的電影，就像《星球大戰(zhàn)》中的C3PO或其他你想要的AI。人們知道這是AI，但它仍然很有用，人們?nèi)匀慌c之互動(dòng)，它有點(diǎn)像可愛的人，盡管你知道它不是一個(gè)人。

而在這個(gè)世界上，我們只是有一個(gè)很多AI與人類一起融入基礎(chǔ)設(shè)施的社會(huì)，這對我來說感覺更容易應(yīng)對，也不那么可怕。

AI將如何改變經(jīng)濟(jì)體系: 更高效的資本配置帶來經(jīng)濟(jì)的大幅繁榮

Patrick：

是的。嗯，這是一個(gè)金融事件(問題），這樣做將如何改變實(shí)際利率？

你知道，在經(jīng)濟(jì)學(xué)中存在著一種關(guān)于工作年齡人口變化是否推動(dòng)實(shí)際利率上升或下降的辯論，因?yàn)槟阌幸幌盗邢嗷サ窒挠绊?，他們更有生產(chǎn)力，但你還需要資本投資來使它們變得有生產(chǎn)力，等等。嗯，那么AI將如何改變實(shí)際利率呢？

Sam：

我盡量不進(jìn)行宏觀預(yù)測，但我會(huì)說它們將會(huì)發(fā)生很大改變。

Patrick：

好吧。那么， 這將如何改變經(jīng)濟(jì)增長？

Sam：

我認(rèn)為它應(yīng)該會(huì)導(dǎo)致實(shí)際經(jīng)濟(jì)增長的大幅增加，我假設(shè)我們將能夠合理地衡量它。

Patrick：

且至少在早期階段，這將是一個(gè)極其資本密集的時(shí)期。因?yàn)槲覀儸F(xiàn)在知道應(yīng)該建造哪些治療癌癥的工廠，或者哪些制藥公司，以及確切的反應(yīng)堆設(shè)計(jì)等等。

Sam：

我會(huì)持相反的觀點(diǎn)，我們不知道，但我會(huì)說，人類資本配置是如此可怕，即使我們確切知道該做什么。

Patrick：

你是指現(xiàn)今人類進(jìn)行的資本配置，對嗎？

Sam：

是的。

Patrick：

或者你是指將人們自身分配到社會(huì)中不同角色的分配？

Sam：

不，我是指我們目前的資本配置方式，比如說，你認(rèn)為我們今天在癌癥研究上花了多少錢？癌癥研究一年花了多少錢。

Patrick：

我不知道，可能這取決于你是否考慮了制藥公司，但從NIH來看，可能大約80到90億美元；然后我不知道制藥公司花了多少，可能這只是其中的一小部分。

Sam：

如果是在500到1000億美元之間......好吧，我只是猜測，數(shù)字是每年在500億到1000億美元之間。如果AI能告訴我們確切該做，并且每年只需要這個(gè)單獨(dú)項(xiàng)目上花費(fèi)500萬美元。雖然這對于一個(gè)單獨(dú)的項(xiàng)目來說是巨大的投資，但如果這是正確的答案，那將是一個(gè)巨大的效率提升。

是的，所以我們在這項(xiàng)技術(shù)的推動(dòng)下可能會(huì)變得更加資本高效，這是我的猜測。

OpenAI的未來：平臺(tái)+頂級應(yīng)用

Patrick：

對，很有趣。對于OpenAI來說，顯然你們想成為并且是一家卓越的研究機(jī)構(gòu)。但是關(guān)于商業(yè)化，是成為一家消費(fèi)者公司更重要還是成為一家基礎(chǔ)設(shè)施公司更重要？

Sam：

嗯，作為一項(xiàng)商業(yè)策略，我是支持平臺(tái)加頂級應(yīng)用的。

我認(rèn)為這在很多企業(yè)中都取得了成功，原因是充分的。我認(rèn)為我們開發(fā)的消費(fèi)者產(chǎn)品有助于改進(jìn)我們的平臺(tái)。我希望隨著時(shí)間的推移，我們能夠找到方法，讓平臺(tái)也能夠改進(jìn)消費(fèi)者應(yīng)用。我認(rèn)為這是一個(gè)良好的連貫策略，將它們同時(shí)進(jìn)行。

但正如你指出的，我們的目標(biāo)是成為世界上最優(yōu)秀的研究機(jī)構(gòu)，這對我們來說比任何產(chǎn)品化更重要。我們建立這樣一個(gè)組織，能夠不斷取得突破性的進(jìn)展，雖然并非所有嘗試都會(huì)成功，我們走過了一些彎路，但我們已經(jīng)找到了比其他人更多的范式轉(zhuǎn)變，并且我認(rèn)為我們將在這里實(shí)現(xiàn)下一個(gè)重大突破。這是我們努力的重點(diǎn)。

Patrick：

你對OpenAI最引以為豪的突破是哪個(gè)？

Sam：

整個(gè)GPT范式，我認(rèn)為那是具有變革性和對世界的重要貢獻(xiàn)的，它源于OpenAI擅長結(jié)合多種工作方式的工作。

競爭對手和中國：Google最近很專注，中國的成果不明確

Patrick：

明天是Google I/O，如果你是Google的CEO，你會(huì)怎么做？

Sam：

我認(rèn)為Google做得很好，他們最近非常專注和緊張，真的在努力尋找如何重新打造公司來適應(yīng)這項(xiàng)新技術(shù)，我對他們的表現(xiàn)印象深刻。

這些模型和它們的注意力能力是否真的對搜索構(gòu)成威脅，還是只是一種表面上的反應(yīng)，可能過于倉促？

我認(rèn)為它們可能會(huì)以某種重大方式改變搜索，但并不威脅搜索的存在。所以，如果Google什么都不做，那將是對Google構(gòu)成威脅，但顯然Google不會(huì)無所作為。

Patrick：

中國的機(jī)器學(xué)習(xí)研究有多重要？

Sam：

我很想知道這個(gè)問題的答案：中國的機(jī)器學(xué)習(xí)研究對我們而言有多重要，我們能夠看到多少成果。

Patrick：

不太多，你說對了，從已發(fā)表的文獻(xiàn)中了解的并不多。

Sam：

但也不是完全沒有。

Patrick：

你是否了解任何的原因。因?yàn)橹袊芯咳藛T的發(fā)表論文數(shù)量非常大，也有很多在美國進(jìn)行出色工作的中國研究人員，那么為什么中國的研究論文在單篇論文影響力方面相對較低？

Sam：

我猜測很多人懷疑的是他們沒有發(fā)表最重要的研究成果。

Patrick：

你認(rèn)為這可能是真的嗎？

Sam：

對于這個(gè)問題，我對自己的直覺不太確定，我感到困惑。

對AI未來應(yīng)用的暢想：更多取代日常工作，產(chǎn)生出獨(dú)立的優(yōu)于人的判斷

Patrick：

你更希望OpenAI能夠?qū)崿F(xiàn)訓(xùn)練效率的10倍提升，還是推理效率的10倍提升？

Sam：

這是一個(gè)好問題。取決于合成數(shù)據(jù)的重要性。強(qiáng)迫選擇的話，我會(huì)選擇推理效率。但我認(rèn)為正確的衡量指標(biāo)是考慮所有用于模型訓(xùn)練和推理的計(jì)算量，然后進(jìn)行優(yōu)化。

Patrick：

你提到的推理效率可能是該方程式中占主導(dǎo)地位的項(xiàng)。

你說推出GPT-2時(shí)，只有少數(shù)人注意到并真正理解其意義。關(guān)于突破的重要性，現(xiàn)在是否正在發(fā)生類似的GPT-2時(shí)刻？

Sam：

我們正在做很多工作，我認(rèn)為其中一些工作將成為類似GPT-2的重要時(shí)刻，如果它們能夠結(jié)合在一起。但目前還沒有什么發(fā)布的東西，我可以有很高的信心說這是2023年的GPT-2。但我希望到今年年底或明年會(huì)有所改變（發(fā)布）。

Patrick：

什么是你使用的最好的非OpenAI的AI產(chǎn)品？

Sam：

坦率地說，我想不出其他什么產(chǎn)品。我對世界的了解比較狹窄，但ChatGPT是我每天使用的唯一AI產(chǎn)品。

Patrick：

有沒有你希望存在的AI產(chǎn)品，你認(rèn)為我們當(dāng)前的能力或即將實(shí)現(xiàn)的能力使得這種產(chǎn)品成為可能，你期待著它的出現(xiàn)？

Sam：

我希望有一種像“副駕駛”一樣的產(chǎn)品，可以控制我的整個(gè)電腦。它可以查看我的Slack、電子郵件、Zoom、iMessage以及龐大的待辦事項(xiàng)和文檔，并且在很大程度上完成我的工作。

Patrick：

一種類似Siri Plus Plus的產(chǎn)品。

嗯，你提到了治療癌癥，這些技術(shù)和技術(shù)對科學(xué)的顯而易見的應(yīng)用有哪些，你認(rèn)為我們已經(jīng)或即將具備的能力，但目前人們并沒有看到人們明顯追求的應(yīng)用？

Sam：

有一個(gè)無聊的答案和一個(gè)令人興奮的答案。

無聊的答案是，如果你能夠開發(fā)出非常好的工具，如我剛提到的那個(gè)，并且將每個(gè)科學(xué)家的工作速度提高三倍、五倍甚至十倍，那么科學(xué)發(fā)現(xiàn)的速度可能會(huì)大大增加，即使它并非直接從事科學(xué)本身。

更令人興奮的是，我認(rèn)為類似的系統(tǒng)可以開始閱讀所有的文獻(xiàn)，產(chǎn)生新的想法，在模擬中進(jìn)行一些有限的測試，然后給科學(xué)家發(fā)送電子郵件，說：“嘿，你能幫我在濕實(shí)驗(yàn)室中運(yùn)行這個(gè)嗎？”這樣可能會(huì)取得真正的進(jìn)展。

Patrick：

我不知道這里的本體論如何工作，但你可以想象構(gòu)建更好的通用模型，類似于人類，它可以閱讀大量的文獻(xiàn)，可能比人類更聰明、記憶更好，然后你可以想象基于某些數(shù)據(jù)集訓(xùn)練的模型，它們在某個(gè)特定領(lǐng)域做一些完全不同于人類的工作，例如將CRISPR映射到編輯精確度之類的事情。這真的是一種特殊用途的模型，在特定領(lǐng)域做一些與人類完全不同的事情。

你認(rèn)為對這些模型來說，最有用的應(yīng)用是屬于第一類，即創(chuàng)造更好的人類，還是屬于第二類，即為目前不易處理的問題域創(chuàng)建這些預(yù)測性的架構(gòu)？

Sam：

我真的不知道。在大多數(shù)領(lǐng)域，我都愿意給出一些粗略的觀點(diǎn)，但在這個(gè)領(lǐng)域，我對科學(xué)過程和偉大科學(xué)家是如何工作的沒有足夠深入的了解，無法說出我的觀點(diǎn)。我覺得，如果我們能夠有一天找到如何構(gòu)建出真正擅長推理的模型，那么它們應(yīng)該能夠自己做出一些科學(xué)上的飛躍，但這需要更多的工作。

投資和創(chuàng)業(yè)：硅谷走偏了，太重視短期收益；AI的下一個(gè)風(fēng)口可能在AI投資應(yīng)用上

Patrick：

OpenAI在籌款方面做得非常出色，具有非常特殊的資本結(jié)構(gòu)，與非營利組織和微軟的交易等等，那么這些奇特的資本結(jié)構(gòu)被低估了嗎？企業(yè)和創(chuàng)始人是否應(yīng)該更加開放地思考，無論是默認(rèn)的還是已經(jīng)默認(rèn)的，如同我們只是一個(gè)德拉華州的C公司？（是否要考慮特殊的資本結(jié)構(gòu)）

Sam：

我懷疑不是，我懷疑在這方面進(jìn)行創(chuàng)新可能是一件可怕的事情，你應(yīng)該在產(chǎn)品和科學(xué)方面進(jìn)行創(chuàng)新，而不是企業(yè)結(jié)構(gòu)方面。

我們所面臨的問題形式非常奇特，盡管我們盡力而為，但我們不得不采取一些奇怪的措施，但總體而言，這是一種令人不快的體驗(yàn)，也是一個(gè)時(shí)間消耗的過程。

對我參與的其他項(xiàng)目來說，它總是采用正常的資本結(jié)構(gòu)，我認(rèn)為那樣更好。

Patrick：

我們是否低估了資本的重要程度？你所參與的很多公司都需要大量的資本。可能OpenAI就是最需要資本的公司，雖然誰知道還有沒有別的更需要的。

我們是否低估了資本對未實(shí)現(xiàn)的創(chuàng)新的限制？這是否是你所參與的各種努力中的共同主題？

Sam：

是的，我認(rèn)為這是個(gè)問題，基本上我參與的四家公司中，除了只是作為投資者寫支票的那些，所有的公司都需要大量的資本。

Patrick：

你想要列舉一下這些公司嗎？對于在場的觀眾。

Sam：

OpenAI和Healing是我最花時(shí)間的項(xiàng)目，然后還有Retro和Worldcoin。

但你知道，所有這些公司在任何產(chǎn)品出現(xiàn)之前都籌集了至少九位數(shù)的資金，而且在OpenAI的情況下，這個(gè)數(shù)字更大，所有公司都在第一輪融資或在發(fā)布產(chǎn)品之前籌集了九位數(shù)的資金，它們都需要很長時(shí)間，花費(fèi)多年時(shí)間才能發(fā)布產(chǎn)品。

我認(rèn)為愿意做這樣的事情是有很大價(jià)值的，而這種方式在某個(gè)時(shí)候在硅谷失寵了。

我理解為什么，像那些只需要籌集幾十萬，一百萬美元就可以盈利的公司也很好，但我認(rèn)為我們過度傾向于這個(gè)方向了，我們已經(jīng)忘記了如何進(jìn)行高風(fēng)險(xiǎn)高回報(bào)的大量資本和時(shí)間密集型的投資，這些也是有價(jià)值的，我們應(yīng)該能夠支持兩種模式。

Patrick：

這涉及到，嗯，為什么沒有更多的埃隆馬斯克。

我猜，在過去的20年里，兩家最成功的硬件公司（SpaceX和Tesla）在更廣泛的意義上（Tesla是Elon收購重建）都是由同一個(gè)人創(chuàng)辦的。這看起來像一個(gè)令人驚訝的事實(shí)。

顯然，埃隆在很多方面都是獨(dú)一無二的。但你對這個(gè)問題的回答是什么，我們是否喜歡他這種特殊的情況，是不是實(shí)際上資本的故事與你所說的線索相符，如果讓你去創(chuàng)造更多的世界上的SpaceX和Tesla，嗯，你可能在自己的工作中也試圖做到這一點(diǎn)，但如果你不得不以系統(tǒng)的方式推動(dòng)這個(gè)方向，你會(huì)嘗試改變什么？

Sam：

我從未遇見過另一個(gè)埃隆，我從未遇見過我認(rèn)為可以輕易地被培養(yǎng)成另一個(gè)埃隆的人。他是一種奇怪的獨(dú)一無二的人物。我很高興他存在于世界上；但你知道，他也是一個(gè)復(fù)雜的人。我不知道如何創(chuàng)造更多像他那樣的人，我不知道。我不知道你對如何創(chuàng)造更多的想法是什么，我很好奇。

Patrick：

我不知道，我懷疑創(chuàng)始人和資本方面的文化有一些東西，以及創(chuàng)始人想要?jiǎng)?chuàng)造的公司類型。

以及在某種程度上，但也許在較小程度上，資金來源的基金結(jié)構(gòu)（也有關(guān)系）。嗯，你知道，當(dāng)我在過去的15年里對這個(gè)領(lǐng)域了解得更多時(shí)，這個(gè)領(lǐng)域有限的或者基本上有限的一套資金模型，每一個(gè)都有特定的激勵(lì)方式，大部分都有特定的社會(huì)學(xué)。比如風(fēng)險(xiǎn)投資本身就是一種投資，私募股權(quán)在其現(xiàn)代形式下，基本上是一種投資發(fā)明，

所以，我懷疑我們是否完成了資金模型發(fā)明的過程，我懷疑是否有一些模型，至少在某種程度上，與今天的主流模型不同，而這種模型在某種程度上更適合于這種類型的創(chuàng)新。

Sam：

好的，我很興奮的一件事是，我認(rèn)為你是一個(gè)很好的例子。但我認(rèn)為在上一個(gè)周期里成為科技億萬富翁的所有人都幾乎都對投入大量資本到長期項(xiàng)目中很感興趣，而這種一開始就投入大量資本的高風(fēng)險(xiǎn)高回報(bào)的長期項(xiàng)目依賴于基礎(chǔ)的科學(xué)和創(chuàng)新，這將會(huì)或者已經(jīng)發(fā)生了巨大的變化。所以我認(rèn)為將會(huì)有更多的資本可用于此，你仍然需要像埃隆那樣的人去做這個(gè)。

有一個(gè)我一直很想嘗試的一個(gè)項(xiàng)目，我們要確定比如說我們可以找到想要從事這類項(xiàng)目的最有才華的100個(gè)人，給他們每年25萬美元，大概10年左右，就像給一個(gè)20歲的人10年的時(shí)間，這感覺像是終身職位，讓他們自由地去 在沒有大多數(shù)人感受到的壓力的情況下進(jìn)行長時(shí)間的探索，比如說，不必承受賺大錢的壓力，讓他們與優(yōu)秀的導(dǎo)師和優(yōu)秀的同伴群體在一起。然后財(cái)務(wù)模型就是，如果沒有創(chuàng)立公司那沒關(guān)系，那沒關(guān)系，像作家、政治家、思考者一樣；如果你創(chuàng)立了一家公司，投資項(xiàng)目就可以按照預(yù)定的條款進(jìn)行投資。

嗯，我認(rèn)為這是值得嘗試的，有人應(yīng)該去做這件事。

Patrick：

這就是大學(xué)的模式，我想說的并不是這已經(jīng)存在了，不是說只是重新發(fā)明輪子。我的意思是，這是證據(jù)表明它可以工作，而且通常大學(xué)在支持其衍生品方面并不擅長，但至少在某種程度上是這樣。

Arc的一個(gè)主張實(shí)際上是通過更加正式地鼓勵(lì)這種情況，可能比現(xiàn)在的情況更有效。

西爾瓦娜，Arc的聯(lián)合創(chuàng)始人，我從青少年時(shí)代開始就認(rèn)識她了，我們一起度過了一半以上的歲月。帕特里克·蘇（Patrick Sue）是另一位聯(lián)合創(chuàng)始人，她與他共同攻讀博士學(xué)位，所以她認(rèn)識他已經(jīng)很久了。關(guān)于長期投資，我之所以對此感到滿意，部分原因是我已經(jīng)認(rèn)識這個(gè)人很長時(shí)間了。

當(dāng)你考慮像你提到的Retro或其他公司這樣的公司時(shí)，你是如何決定這個(gè)人是否是你可以承擔(dān)這個(gè)超長期探險(xiǎn)的人呢？

Sam：

實(shí)際上，我已經(jīng)認(rèn)識Joe很長時(shí)間了。

Patrick：

我想這是一個(gè)不好的例子，問題是實(shí)際上是，你是否需要認(rèn)識這個(gè)人很長時(shí)間？

Sam：

這非常重要，雖然并非總是有效，但我盡量與我認(rèn)識了十年以上的人合作。

你當(dāng)然不想只做這類合作，你希望在混合中有新的能量和波動(dòng)性，但與你相識已久、與你合作已久的人占有一定比例，我認(rèn)為這是非常有價(jià)值的。

就像在OpenAI的例子中，我已經(jīng)認(rèn)識Greg Brockman（OpenAI聯(lián)合創(chuàng)始人）很久了，我可能在我們創(chuàng)辦公司之前只認(rèn)識Ilya一年，甚至不到一年，但我們在一起度過了很多時(shí)間。這是一個(gè)很好的組合。

我從與人們的長期工作關(guān)系中得到了極大的快樂，經(jīng)過幾十年的時(shí)間，通過多個(gè)項(xiàng)目，感覺像是一起建設(shè)向著一個(gè)很長的弧線前進(jìn)的事情，這是非常有趣的。

Patrick：

同意。

嗯，哪家并未被視為AI公司的公司將在未來五年從AI中受益最多？

Sam：

我認(rèn)為有一種投資工具會(huì)找出如何利用AI成為一個(gè)非凡的投資者，并且有著瘋狂的超額回報(bào)，所以像是利用這些新技術(shù)的Rentech。

Patrick：

那么，你看到有哪家（上市）運(yùn)營公司呢？

Sam：

嗯，你認(rèn)為微軟是一家AI公司嗎？

Patrick：

就此問題而言，我們假設(shè)答案是否定的。

Sam：

我認(rèn)為微軟將在幾乎所有方面都將通過AI進(jìn)行自我變革。

Patrick：

那是因?yàn)樗麄兏J(rèn)真對待這個(gè)問題，還是因?yàn)槲④浀男再|(zhì)使他們特別適合這個(gè)問題，更能理解這個(gè)問題？

Sam：

他們比其他人更早地認(rèn)識到這個(gè)問題，并且比其他人更認(rèn)真地對待這個(gè)問題。

對監(jiān)管的態(tài)度：過度官僚化監(jiān)管可能會(huì)拖慢創(chuàng)新速度和意愿

Patrick：

你認(rèn)為我們會(huì)意識到GPT-4在某種程度上過度擬合了它所接受訓(xùn)練的問題的可能性有多大？

或者說，我們?nèi)绾沃浪欠襁^度擬合了，或者你甚至是否考慮過度擬合作為一種關(guān)于代碼強(qiáng)制問題的擔(dān)憂，你知道，比如在21年之前和之后的問題，早期（模型）的問題表現(xiàn)更好，等等。

Sam：

我認(rèn)為基本模型并沒有顯著地過度擬合，但是我們對RLHF（強(qiáng)化學(xué)習(xí)和人類反饋）過程的理解還不夠，我們可能在這個(gè)過程中對模型造成了比我們意識到的更大的破壞。

Patrick：

你認(rèn)為G，也就是普遍的智力指標(biāo)在人類中存在嗎？除了作為一個(gè)統(tǒng)計(jì)學(xué)的產(chǎn)物之外？如果答案是肯定的，你認(rèn)為在模型中存在類似的共同因素嗎？

Sam：

我認(rèn)為這是一個(gè)非常不精確的概念。但是，很明顯，它在人類和模型中都有一些實(shí)際的含義。所以我認(rèn)為，我們可能過度解讀了這個(gè)概念，當(dāng)人們試圖去討論它時(shí)，往往會(huì)有太多的顯著性數(shù)字。但是，我的經(jīng)驗(yàn)確實(shí)告訴我，非常聰明的人可以很快地學(xué)習(xí)很多事情，盡管我不會(huì)說是任意的事情。有些人在某一種事情上比另一種事情更擅長。我不想在這里過多地爭論細(xì)節(jié)，但我會(huì)說，我相信模型的智力也會(huì)在某種程度上有所不同。

Patrick：

基于你的經(jīng)驗(yàn)，你如何看待所有這些AI安全問題？你認(rèn)為合成生物學(xué)應(yīng)該如何被監(jiān)管？

Sam：

我希望我們不再有另一種合成病原體導(dǎo)致全球大流行。

我想我們都同意這不是一次好的經(jīng)歷，雖然與可能發(fā)生的情況相比，這并不算太糟糕；但我對此并沒有更多的全球協(xié)調(diào)行動(dòng)感到驚訝。我認(rèn)為我們應(yīng)該有更多的協(xié)調(diào)行動(dòng)。

Patrick：

那么我們實(shí)際上該怎么做呢？因?yàn)槲艺J(rèn)為與人工智能一樣，同樣的挑戰(zhàn)也適用于合成生物學(xué)。我認(rèn)為這是一種生產(chǎn)裝置，你知道，合成病原體的生產(chǎn)裝置并不一定那么大，觀測和遙測是困難的。

Sam：

我認(rèn)為這個(gè)問題比AI的挑戰(zhàn)要復(fù)雜得多，我們確實(shí)有一些這樣的特征，比如巨大的能量和大量的圖形處理器。我沒有過多地思考這個(gè)問題，我會(huì)問你我們應(yīng)該怎么做。我想如果有人告訴我這是個(gè)問題，我們應(yīng)該怎么做，我會(huì)打電話給你，所以我們應(yīng)該怎么做呢？

Patrick：

我不知道我是否有一個(gè)現(xiàn)成的解決方案。我想說的是，我不確定這有多大的幫助，我們需要更多的一般性可觀察性，例如廢水測序等等，我們應(yīng)該無論如何都這樣做。你知道，這并不能幫助我們，你知道，防止合成生物學(xué)的攻擊，我們沒有一個(gè)巨大的關(guān)聯(lián)數(shù)據(jù)集，比如人們所感染的病原體，以及隨后的縱向健康結(jié)果，這就是一個(gè)普遍的瘋狂事實(shí)。

顯然，有一些無法計(jì)數(shù)的傳染病類別，人們通常最容易感染，顯然，新冠病毒本身就是一個(gè)例子。所以我認(rèn)為我們可以在治療和疫苗的開發(fā)上取得更多的進(jìn)步。

如果真的證實(shí)新冠病毒是人為制造的，我認(rèn)為我們可以顯著提高對那些對已有傳染病進(jìn)行微小修改的實(shí)例的保護(hù)。顯然，讓人擔(dān)憂的類別將是完全新的病原體，那將是一個(gè)無窮的搜索空間。然后你需要考慮如何，我是說，有一些有限的方式可以進(jìn)入細(xì)胞，比如受體等等，所以也許你可以用這些來覆蓋可能的治療方式的空間，然后你需要投資更多的剩余生產(chǎn)能力，比我們現(xiàn)有的新疫苗生產(chǎn)能力要多，希望mRNA平臺(tái)和類似的技術(shù)可以讓我們更容易擁有通用的生產(chǎn)能力。

但是，從這個(gè)長篇的回答中，你可以看出，我不認(rèn)為有一種靈丹妙藥，即使你做了我剛才說的所有事情，你可能還是不夠。

Sam：

我認(rèn)為，提高我們的快速響應(yīng)、治療和接種能力是一件明顯需要做的事情，我本來希望我們現(xiàn)在能有更多的進(jìn)步。

Patrick：

我非常同意這一點(diǎn)，臨床試驗(yàn)是限制我們應(yīng)對新冠病毒的一步。我認(rèn)為這已經(jīng)被廣泛地報(bào)道和評論了，我們在1月份就有了疫苗候選品，之后發(fā)生的一些事情顯然是生產(chǎn)的擴(kuò)大，但大部分的時(shí)間都是在驗(yàn)證疫苗的效果和安全性。我認(rèn)為這是整個(gè)生物醫(yī)學(xué)領(lǐng)域里最容易采取的方法。

埃茲拉·克萊恩和德里克·湯普森正在寫一本書，關(guān)于豐富議程的概念。他們認(rèn)為，很多左翼的觀念，是關(guān)于自我克制，某種新清教主義的概念。他們認(rèn)為，為了實(shí)現(xiàn)我們所關(guān)心的價(jià)值，我們需要更多的東西，在許多不同的領(lǐng)域，更多的亨利·亞當(dāng)斯曲線實(shí)現(xiàn)。他們經(jīng)常指出，許許多各種各樣的，出于善意的但卻是自我設(shè)限的禁止，阻礙了這一過程的實(shí)現(xiàn)。從你所參與的各種事情來看，你認(rèn)為自我設(shè)限和限制對實(shí)際進(jìn)展的影響有多大？

Sam：

這肯定很重要，但我也認(rèn)為，有很多人喜歡說，這是唯一的問題，如果我們只能解決許可的問題，我們都會(huì)很高興。我不認(rèn)為問題就這么簡單。

我確實(shí)認(rèn)為，我們需要更多的豐富性，我個(gè)人認(rèn)為，豐富的能源和豐富的智能將是兩個(gè)非常重要的因素，但也有許多其他的因素。當(dāng)我們開始能夠?yàn)槭澜缣峁┐罅康木圩兡茉磿r(shí)，理解要實(shí)現(xiàn)這些目標(biāo)的過程有多么痛苦，至少可以說是令人沮喪。這迫使我們開始考慮我們可以盡快做的各種奇怪的事情，而不是等待所有的許可過程，將這些能源連接到電網(wǎng)上。在某個(gè)國家進(jìn)行海水淡化，只需要他們的核能機(jī)構(gòu)或其他機(jī)構(gòu)的許可，這比連接到電網(wǎng)要容易得多。

我認(rèn)為這是一個(gè)真正的問題，我認(rèn)為我們社會(huì)對解決這個(gè)問題的意愿并不強(qiáng)烈，這使得問題變得更糟。但我不認(rèn)為這是唯一的問題。

Patrick：

如果埃茲拉和德里克采訪你，我猜他們應(yīng)該會(huì)這么做，對于這本書，如果他們問你，你認(rèn)為什么是限制豐富議程的主要病因，你可能會(huì)說是什么？

Sam：

我認(rèn)為是社會(huì)集體信念，我們實(shí)際上可以使未來變得更好。最后，我們對這個(gè)問題投入的努力，每一個(gè)額外的障礙都會(huì)使這些事情更不可能發(fā)生。所以你有這樣的情況，創(chuàng)辦一家新公司真的很難，說服人們這是一件好事也很難，特別是現(xiàn)在，人們對此持懷疑態(tài)度。然后你有這樣一個(gè)監(jiān)管問題，它需要很多時(shí)間，所以也許你甚至不會(huì)嘗試去做，然后你知道它會(huì)更貴，所以就像在從想法到在世界上大規(guī)模部署的過程中，每一個(gè)階段都有太多的阻力和疑慮。我認(rèn)為這使得人們嘗試的次數(shù)比以前少，或者信念比以前少。

Patrick：

當(dāng)我們第一次見面，大約是15年前，馬克·扎克伯格在技術(shù)行業(yè)中處于領(lǐng)先地位，那時(shí)他還在20多歲。不久之前，馬丁·斯瑞森在該行業(yè)處于領(lǐng)先地位，那時(shí)他也還在20多歲。再往前，比爾·蓋茨和史蒂夫·喬布斯等人也是如此?？偟膩碚f，在軟件行業(yè)的歷史上，20多歲的年輕人一直都是行業(yè)的頂尖人物之一。

然而，現(xiàn)在似乎并非如此。當(dāng)然，20多歲的人中有很多優(yōu)秀的人......

Sam：

但我不確定這個(gè)問題是否真的很嚴(yán)重。是的，情況不好，這是一個(gè)真正出了問題的地方。關(guān)于這個(gè)問題，有很多討論，但是，20多歲的優(yōu)秀創(chuàng)始人都去哪兒了？

這并不是那么明顯。當(dāng)然，有一些人，我希望我們能看到更多。我希望這只是歷史上的一個(gè)奇怪巧合。但也許我們的教育體系、社會(huì)或者我們對公司以及人們的期望發(fā)生了重大變化。我認(rèn)為這是一個(gè)值得關(guān)注和研究的問題。

Patrick

我想我們已經(jīng)到了時(shí)間。非常感謝你接受這次采訪，也感謝各位，以及Graham的主持。

Sam：

謝謝

本文作者：?天空之城城主，來源：Web3天空之城?，原文標(biāo)題：《OpenAI Sam Altman對AI的最新思考：5.9 投資人峰會(huì)訪談 （全文+視頻）》

風(fēng)險(xiǎn)提示及免責(zé)條款 市場有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議，也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。

關(guān)鍵詞：