OpenAI創(chuàng)始人與首席科學(xué)家罕見(jiàn)同臺(tái)：AI最令人興奮的事情正在發(fā)生?。ǜ街形囊曨l+全文）

激石Pepperstone(http://1adez.com/)報(bào)道：

在ChatGPT月活飆升至10億里程碑之際，OpenAI創(chuàng)始人Sam?Altman的“全球巡回”同樣備受關(guān)注。

本周，Sam?Altman來(lái)到以色列特拉維夫大學(xué)，與在以色列長(zhǎng)大的OpenAI首席科學(xué)家Ilya?Sutskavel共同展開(kāi)了一場(chǎng)生動(dòng)且深刻的訪談（兩人甚少同臺(tái)），在場(chǎng)觀眾的提問(wèn)內(nèi)容也頗為專業(yè)，甚至Sam都被問(wèn)得一時(shí)語(yǔ)塞，值得一聽(tīng)。

核心觀點(diǎn)：

1、OpenAI的優(yōu)勢(shì)所在：我們更專注于我們所做的事情，我們的文化注重嚴(yán)謹(jǐn)和可重復(fù)創(chuàng)新。

2、學(xué)術(shù)界在AI領(lǐng)域的地位：學(xué)術(shù)界曾經(jīng)是AI研究的前沿，但由于較弱的計(jì)算能力和缺乏工程文化，這種情況發(fā)生了變化。但是學(xué)術(shù)界依然能對(duì)AI做出重要貢獻(xiàn)，可以從我們正在訓(xùn)練的神經(jīng)網(wǎng)絡(luò)中解開(kāi)許多謎團(tuán)。

3、開(kāi)源OR不開(kāi)源：我們開(kāi)源了一些模型，并計(jì)劃開(kāi)源更多模型，但不認(rèn)為把一切模型開(kāi)源是正確的策略，我們正在努力尋找平衡。

4、AI不容忽視的風(fēng)險(xiǎn)：工作崗位受到影響、黑客獲得超級(jí)智能和系統(tǒng)失控是AI令人擔(dān)憂的三大風(fēng)險(xiǎn)。AI可以發(fā)揮驚人的作用，但也可能造成糟糕的影響，因此我們合適的監(jiān)管架構(gòu)來(lái)控制這項(xiàng)技術(shù)的使用，比如建立全球性機(jī)構(gòu)。

5、AI會(huì)加速科學(xué)發(fā)現(xiàn)嗎：AI或許能幫助人類完成一些目前無(wú)法實(shí)現(xiàn)的科學(xué)目標(biāo)，比如促進(jìn)醫(yī)療健康發(fā)展、緩解氣候變化難題甚至探索宇宙的奧秘，這是Sam認(rèn)為AI令人最興奮的事情。

整個(gè)訪談不乏深度，同時(shí)也不缺趣味。

比如Ilya開(kāi)心地說(shuō)道，父母告知他自己朋友也在平時(shí)使用ChatGPT，這令他感到十分驚喜。而當(dāng)觀眾提問(wèn)“你們正在創(chuàng)造歷史，你們希望歷史如何記住你們？”時(shí)，Ilya也風(fēng)趣地回答道：“我的意思是，以最好的方式?！?/strong>

以下為訪談全文：

一個(gè)讀博一個(gè)輟學(xué)：兩人在OpenAI前的不同人生

Ilya：

從5歲到16歲，我住在耶路撒冷。在2000年到2002年期間，我在開(kāi)放大學(xué)學(xué)習(xí)。之后我搬到了多倫多大學(xué)，在那里度過(guò)了10年，并獲得了學(xué)士、碩士和博士學(xué)位。在攻讀研究生期間，我有幸為深度學(xué)習(xí)的重要進(jìn)展做出貢獻(xiàn)。隨后，我與一些人共同創(chuàng)辦了一家公司，并被谷歌收購(gòu)，我在那里工作了一段時(shí)間。

然后，有一天我收到了山姆的一封郵件，他說(shuō)：“嘿，讓我們和一些很酷的人一起玩吧?！?我對(duì)此很感興趣，于是去了。那是我第一次與Elon Musk和Greg Brockman見(jiàn)面，我們決定開(kāi)啟OpenAI的旅程。我們已經(jīng)這樣做了很多年，所以現(xiàn)在就是我們目前的位置。

Sam：

小時(shí)候，我對(duì)AI非常興奮，是個(gè)科幻書呆子。從來(lái)沒(méi)有想過(guò)有機(jī)會(huì)去研究它，但后來(lái)在大學(xué)時(shí)期，我開(kāi)始研究了一段時(shí)間。但那時(shí)它還沒(méi)有真正發(fā)展起來(lái)，就像是2004年......我輟學(xué)了，做過(guò)創(chuàng)業(yè)公司。

在Ilya提到的進(jìn)展后，過(guò)了一段時(shí)間，我真的對(duì)AI所發(fā)生的事情感到興奮，于是給他發(fā)了一封電子郵件，現(xiàn)在我們?nèi)匀辉诶^續(xù)著。

OpenAI的優(yōu)勢(shì)所在

主持人：

你認(rèn)為OpenAI的關(guān)鍵優(yōu)勢(shì)是什么，尤其是在競(jìng)爭(zhēng)對(duì)手通常更大、擁有更多資源的情況下，使其成為生成人工智能的領(lǐng)導(dǎo)者？

Sam：

我們相信，關(guān)鍵優(yōu)勢(shì)在于我們更專注于我們所做的事情。相比于更大的公司，我們擁有更高的人才密度，這非常重要且容易被誤解。我們的文化注重嚴(yán)謹(jǐn)和可重復(fù)創(chuàng)新，而令這兩種文化并存是困難和罕見(jiàn)的。

Ilya：

是的，我只能在Sam的答案中添加少量?jī)?nèi)容。這是關(guān)于信仰的游戲，擁有更多的信仰意味著取得更大的進(jìn)步。如果你有非常非常多的信仰，你就能實(shí)現(xiàn)最大的進(jìn)步。聽(tīng)起來(lái)可能像是開(kāi)玩笑，但實(shí)際上是真的。你必須相信這個(gè)想法并努力推動(dòng)它，這是推動(dòng)進(jìn)步的原因。

學(xué)術(shù)界在AI領(lǐng)域的地位

主持人：

近期人工智能的進(jìn)步主要是由行業(yè)推動(dòng)的，你認(rèn)為學(xué)術(shù)研究在該領(lǐng)域的發(fā)展中應(yīng)該扮演什么角色？

Ilya：

學(xué)術(shù)界在AI領(lǐng)域的角色發(fā)生了重大變化。學(xué)術(shù)界曾經(jīng)是AI研究的前沿，但現(xiàn)在情況已經(jīng)改變了。原因有兩個(gè)：計(jì)算能力和工程文化。學(xué)術(shù)界的計(jì)算能力較弱，并且通常缺乏工程文化。

然而，學(xué)術(shù)界仍然可以對(duì)AI做出顯著和重要的貢獻(xiàn)。學(xué)術(shù)界可以從我們正在訓(xùn)練的神經(jīng)網(wǎng)絡(luò)中解開(kāi)許多謎團(tuán)，我們正在創(chuàng)造出復(fù)雜而神奇的物體。

深度學(xué)習(xí)是什么？這是一個(gè)煉金術(shù)的過(guò)程，我們利用數(shù)據(jù)作為原材料，結(jié)合計(jì)算能源，從而獲得了這種智能。但它究竟是什么？它是如何工作的？它具有什么屬性？我們?nèi)绾慰刂扑?？如何理解它？如何?yīng)用它？如何衡量它？這些問(wèn)題都是未知數(shù)。

即使是簡(jiǎn)單的測(cè)量任務(wù)，我們也無(wú)法準(zhǔn)確評(píng)估我們的AI的表現(xiàn)。過(guò)去這并不是問(wèn)題，因?yàn)锳I并不是那么重要?，F(xiàn)在人工智能變得非常重要，但我們意識(shí)到我們還是無(wú)法完全衡量它。

因此，我開(kāi)始思考一些無(wú)法由任何人解決的問(wèn)題。你不需要龐大的計(jì)算集群，也不需要龐大的工程團(tuán)隊(duì)來(lái)提出這些問(wèn)題并取得進(jìn)展。如果你真的能有所突破，那將是一個(gè)引人注目且具有重大意義的貢獻(xiàn)，每個(gè)人都會(huì)立刻關(guān)注。

主持人：

我們希望看到在工業(yè)界和學(xué)術(shù)界之間取得完全平衡的進(jìn)步，我們希望看到更多這些類型的貢獻(xiàn)。你是否認(rèn)為可以做些什么來(lái)改善這種情況，尤其是從你的立場(chǎng)出發(fā)，是否可以提供某種支持？

Ilya：

首先，我認(rèn)為思維方式的轉(zhuǎn)變是第一，也是最重要的事情。這些天我有點(diǎn)遠(yuǎn)離學(xué)術(shù)界，但我認(rèn)為我們正在做的事情存在一些危機(jī)。

有太多的動(dòng)力圍繞大量的論文，但重要的是要集中注意力解決最關(guān)鍵的問(wèn)題。我們需要改變心態(tài)，專注于最重要的問(wèn)題。我們不能只關(guān)注我們已經(jīng)知道的事情，而是要意識(shí)到存在的問(wèn)題。一旦我們理解了問(wèn)題，我們就可以朝著解決它們的方向前進(jìn)。

另外，我們可以提供幫助。例如，我們有學(xué)術(shù)訪問(wèn)計(jì)劃，學(xué)術(shù)界可以申請(qǐng)獲取計(jì)算能力，訪問(wèn)我們最先進(jìn)的模型。許多大學(xué)已經(jīng)使用GPT-3撰寫論文，研究模型的屬性和偏見(jiàn)。如果你有更多的想法，我很愿意聽(tīng)取。

開(kāi)源OR不開(kāi)源

主持人：

雖然有些參與者真正促進(jìn)開(kāi)源發(fā)布他們的模型和代碼，但其他人做得不夠。這也涉及到開(kāi)放人工智能。所以我想知道，首先，你對(duì)此有何看法？如果你同意，為什么你認(rèn)為OpenAI是正確的戰(zhàn)略？

Sam：

我們開(kāi)源了一些模型，并計(jì)劃隨著時(shí)間推移開(kāi)源更多模型。但我不認(rèn)為開(kāi)源一切是正確的策略。如果今天的模型很有趣，它們可能對(duì)某些方面有用，但相對(duì)于我們即將創(chuàng)建的模型而言，它們?nèi)匀幌鄬?duì)原始。我認(rèn)為大多數(shù)人會(huì)同意這一點(diǎn)。如果我們知道如何制造一個(gè)超級(jí)強(qiáng)大的AGI，它有很多優(yōu)點(diǎn)，但也有缺點(diǎn)，那么開(kāi)源可能不是最佳選擇。

因此，我們正在努力尋找平衡。我們會(huì)開(kāi)源一些東西，隨著我們對(duì)模型的理解不斷深入，我們將能夠隨著時(shí)間的推移開(kāi)源更多內(nèi)容。我們已經(jīng)發(fā)布了很多東西，我認(rèn)為其他人現(xiàn)在在構(gòu)建語(yǔ)言模型方面的許多關(guān)鍵想法都來(lái)自O(shè)penAI的發(fā)布，例如來(lái)自rohf工作的早期GPT論文和縮放定律。但這是一個(gè)我們必須在前進(jìn)過(guò)程中弄清楚的平衡。我們面臨許多不同的壓力，需要成功地管理它們。

主持人：

所以您是否正在考慮將模型提供給特定的受眾，而不是向全世界開(kāi)放源代碼？對(duì)科學(xué)家來(lái)說(shuō)，或者當(dāng)我們完成GPT-4的培訓(xùn)時(shí)，您正在考慮的是什么？

Sam：

我們花了將近八個(gè)月的時(shí)間來(lái)理解它，確保其安全，并弄清楚如何進(jìn)行調(diào)整。我們有外部審計(jì)員、紅隊(duì)和科學(xué)社區(qū)的參與。因此，我們正在采取這些措施，并將繼續(xù)這樣做。

AI不容忽視的風(fēng)險(xiǎn)

主持人：

我確實(shí)認(rèn)為風(fēng)險(xiǎn)是一個(gè)非常重要的問(wèn)題，可能至少有三類風(fēng)險(xiǎn)。

第一類是經(jīng)濟(jì)混亂，即工作崗位變得多余。第二類可能是少數(shù)人手中擁有強(qiáng)大武器的情況。例如，如果黑客能夠使用這些工具，他們之前可能需要成千上萬(wàn)個(gè)黑客才能完成的事情。最后一類可能是最令人擔(dān)憂的，即系統(tǒng)失去控制，甚至觸發(fā)者無(wú)法阻止其行為。我想知道您對(duì)這些情況中每一種可能發(fā)生的情況有何看法。

Ilya：

好的，我們從經(jīng)濟(jì)混亂的可能情況開(kāi)始討論。正如您提到的，存在三個(gè)風(fēng)險(xiǎn)：工作崗位受到影響、黑客獲得超級(jí)智能和系統(tǒng)失控問(wèn)題。經(jīng)濟(jì)混亂的確是我們已經(jīng)熟悉的情況，因?yàn)橐恍┕ぷ饕呀?jīng)受到影響或面臨風(fēng)險(xiǎn)。

換句話說(shuō)，某些任務(wù)可以自動(dòng)化。例如，如果您是一名程序員，Copilot可以為您編寫函數(shù)。盡管這與藝術(shù)家的情況有所不同，因?yàn)樗囆g(shù)家的許多經(jīng)濟(jì)活動(dòng)已經(jīng)被某些圖像生成器取代。

我認(rèn)為這確實(shí)不是一個(gè)簡(jiǎn)單的問(wèn)題。盡管會(huì)創(chuàng)造新的就業(yè)機(jī)會(huì)，但經(jīng)濟(jì)的不確定性將持續(xù)很長(zhǎng)時(shí)間。我不確定是否會(huì)出現(xiàn)這種情況。

然而，在任何情況下，我們都需要一些東西來(lái)平穩(wěn)過(guò)渡到新興職業(yè)的沖擊，即使這些職業(yè)尚不存在。這需要政府和社會(huì)系統(tǒng)的關(guān)注。

現(xiàn)在讓我們談?wù)労诳蛦?wèn)題。是的，這是一個(gè)棘手的問(wèn)題。人工智能確實(shí)非常強(qiáng)大，壞人可以以強(qiáng)大的方式使用它。我們需要應(yīng)用類似于其他非常強(qiáng)大和危險(xiǎn)工具的框架。

請(qǐng)注意，我們不是在討論今天的人工智能，而是隨著時(shí)間推移，功能不斷增強(qiáng)?，F(xiàn)在我們處于低點(diǎn)，但是當(dāng)我們達(dá)到目標(biāo)時(shí)，它將變得非常強(qiáng)大。這項(xiàng)技術(shù)可以用于驚人的應(yīng)用，可以用來(lái)治愈疾病，但也可能創(chuàng)造出比之前任何東西更糟糕的疾病。

因此，我們需要適當(dāng)?shù)慕Y(jié)構(gòu)來(lái)控制這項(xiàng)技術(shù)的使用。例如，Sam已經(jīng)向他們提交了一份文件，提出國(guó)際原子能機(jī)構(gòu)類似于控制核能的框架，以控制非常強(qiáng)大的人工智能。

主持人：

最后一個(gè)問(wèn)題是關(guān)于超級(jí)智能人工智能失控的問(wèn)題，可以說(shuō)它將成為一個(gè)巨大的問(wèn)題，構(gòu)建一個(gè)我們不知道如何控制的超級(jí)人工智能是不是一個(gè)錯(cuò)誤。

Sam：

我可以補(bǔ)充一些觀點(diǎn)。當(dāng)然，對(duì)于最后一句話，我完全同意。

在經(jīng)濟(jì)方面，我發(fā)現(xiàn)很難預(yù)測(cè)未來(lái)的發(fā)展。我認(rèn)為這是因?yàn)楝F(xiàn)在世界上存在著如此多的需求盈余，這些系統(tǒng)非常擅長(zhǎng)幫助完成任務(wù)。但在今天的大多數(shù)情況下，并非所有任務(wù)都可以由它們完成。

我認(rèn)為短期來(lái)看，情況看起來(lái)不錯(cuò)，我們將看到生產(chǎn)力顯著增長(zhǎng)。如果我們能讓程序員的生產(chǎn)力提高兩倍，那么世界上需要的代碼量將增加兩倍以上，所以一切看起來(lái)都很好。

從長(zhǎng)遠(yuǎn)來(lái)看，我認(rèn)為這些系統(tǒng)將處理越來(lái)越復(fù)雜的任務(wù)和工作類別。其中一些工作可能會(huì)消失，但其他一些工作將變得更像真正需要人類和人類關(guān)系的工作。人們真的希望人類在這些角色中發(fā)揮作用。

這些角色可能并不顯而易見(jiàn)。舉個(gè)例子，當(dāng)深藍(lán)戰(zhàn)勝卡斯帕羅夫時(shí)，世界第一次見(jiàn)證了人工智能。當(dāng)時(shí)每個(gè)人都說(shuō)國(guó)際象棋已經(jīng)結(jié)束了，沒(méi)有人會(huì)再下國(guó)際象棋，因?yàn)闆](méi)有意義。

然而，我們達(dá)成了共識(shí)，即國(guó)際象棋從未像現(xiàn)在這樣流行。人類變得更強(qiáng)，只是期望值提高了。我們可以利用這些工具來(lái)提高自己的技能，但人們?nèi)匀徽嬲矚g下棋，而且人們似乎仍然關(guān)心其他人。

你提到多莉可以創(chuàng)造出偉大的藝術(shù)，但人們?nèi)匀魂P(guān)心他們想要購(gòu)買的藝術(shù)作品背后的人，我們都認(rèn)為這些創(chuàng)作者是特別而有價(jià)值的。

以國(guó)際象棋為例，就像人們更多地關(guān)注人類下棋一樣，觀看人類下棋的人比以往任何時(shí)候都更多。然而，很少有人愿意觀看兩個(gè)人工智能之間的比賽。因此，我認(rèn)為它們將成為所有這些難以預(yù)測(cè)的因素。我認(rèn)為人類渴望差異化（人類和機(jī)器之間）。

創(chuàng)造新事物以獲得地位的需求將永遠(yuǎn)存在，但它將以一種真正不同的方式呈現(xiàn)出來(lái)。我敢打賭，從現(xiàn)在開(kāi)始的100年工作將與今天的工作完全不同，其中許多事情將變得非常相似。但我真的同意Ilya所說(shuō)的，無(wú)論發(fā)生什么，我們都需要一種不同的社會(huì)經(jīng)濟(jì)契約，因?yàn)樽詣?dòng)化已經(jīng)達(dá)到了迄今為止無(wú)法想象的高度。

主持人：

Sam你最近簽署了一份請(qǐng)?jiān)?，呼吁?yán)肅對(duì)待人工智能對(duì)人類存在的威脅。也許像OpenAI這樣的公司應(yīng)該采取措施來(lái)解決這個(gè)問(wèn)題。

Sam：

我真的想強(qiáng)調(diào)，我們?cè)谶@里討論的不是今天的系統(tǒng)，也不是小型初創(chuàng)公司的訓(xùn)練模型，也不是開(kāi)源社區(qū)。

我認(rèn)為現(xiàn)在對(duì)該領(lǐng)域?qū)嵤﹪?yán)格監(jiān)管，或試圖放慢令人難以置信的創(chuàng)新是錯(cuò)誤的。真的不想創(chuàng)造一個(gè)看起來(lái)無(wú)可爭(zhēng)辯的、不太一致的超級(jí)智能。我認(rèn)為世界不應(yīng)該將其視為永遠(yuǎn)不會(huì)出現(xiàn)的科幻風(fēng)險(xiǎn)，而是可能在未來(lái)十年中我們不得不面對(duì)的東西，適應(yīng)某些事情需要時(shí)間，但這段時(shí)間不會(huì)很長(zhǎng)。

因此，我們提出了一個(gè)想法，希望能有更好的想法。如果我們能夠建立一個(gè)全球性組織，擁有計(jì)算能力和技術(shù)前沿的最高級(jí)別，可以制定一個(gè)框架來(lái)許可模型并審核它們的安全性，以確保它們通過(guò)必要的測(cè)試。這將有助于我們將這一問(wèn)題視為非常嚴(yán)重的風(fēng)險(xiǎn)。我們確實(shí)在核能方面做了類似的事情。

未來(lái)，AI會(huì)加速科學(xué)發(fā)現(xiàn)嗎？治愈疾病、解決氣候問(wèn)題？

主持人：

我們來(lái)談?wù)剝?yōu)勢(shì)。在我們所處的這個(gè)科學(xué)環(huán)境中，我想知道人工智能在其中扮演的角色。在幾年內(nèi)，也許在未來(lái)，我們將會(huì)有什么科學(xué)發(fā)現(xiàn)。

Sam：

這是我個(gè)人對(duì)AI最興奮的事情。我認(rèn)為有很多令人興奮的事情正在發(fā)生，巨大的經(jīng)濟(jì)利益、巨大的醫(yī)療保健利益。但事實(shí)上，人工智能可以幫助我們做一些目前無(wú)法實(shí)現(xiàn)的科學(xué)發(fā)現(xiàn)。我們會(huì)喜歡了解宇宙的奧秘，甚至更多。我真的相信科學(xué)和技術(shù)進(jìn)步是讓生活變得更好、世界變得更好的唯一可持續(xù)方式。

如果我們能夠開(kāi)發(fā)出大量的新科學(xué)和新技術(shù)進(jìn)步，我認(rèn)為我們已經(jīng)看到了人們的開(kāi)端。使用這些工具可以提高效率。但如果你想象一個(gè)世界，你可以說(shuō)，“嘿，我可以幫助治愈所有疾病”，它可以幫助你治愈所有疾病，那樣的世界可能會(huì)變得更加美好。我認(rèn)為我們離這并不遙遠(yuǎn)。

主持人：

除了疾病之外，另一個(gè)主要問(wèn)題是氣候變化，這解決起來(lái)非常棘手。但我認(rèn)為一旦我們擁有真正強(qiáng)大的超級(jí)智能系統(tǒng)，應(yīng)對(duì)氣候變化將不會(huì)特別困難。

Ilya：

是的，你需要大量的碳捕獲。你需要碳捕獲的能量，你需要技術(shù)來(lái)建造它。如果你能加速科學(xué)，你需要建造很多。進(jìn)步是強(qiáng)大的人工智能可以做的事情，我們可以更快地實(shí)現(xiàn)非常先進(jìn)的碳捕獲。它可以更快地實(shí)現(xiàn)非常便宜的電力，我們可以更快地實(shí)現(xiàn)更便宜的制造?，F(xiàn)在結(jié)合這三種廉價(jià)電力、廉價(jià)制造和先進(jìn)的碳捕獲，現(xiàn)在你建造了很多它們，現(xiàn)在你從大氣中吸走了所有這些多余的二氧化碳。

如果你擁有一種強(qiáng)大的人工智能，它將極大地加速科學(xué)和工程領(lǐng)域的進(jìn)展。這將使當(dāng)今的計(jì)劃變得更加容易實(shí)現(xiàn)。我相信這將促進(jìn)進(jìn)步的加速。這表明我們應(yīng)該有更大的夢(mèng)想。你可以想象，如果你能夠設(shè)計(jì)一個(gè)系統(tǒng)，你可以要求它告訴你如何以低成本制造大量的清潔能源，如何有效地捕獲碳，并指導(dǎo)你建立一個(gè)能夠?qū)崿F(xiàn)這些目標(biāo)的工廠。如果你能夠?qū)崿F(xiàn)這些，那么你也可以在其他許多領(lǐng)域取得成就。

奇妙的ChatGPT

主持人：

聽(tīng)說(shuō)你之前沒(méi)有想過(guò)ChatGPT會(huì)如此廣泛傳播，我想知道有沒(méi)有例子表明，其他人真的對(duì)它的價(jià)值和能力感到驚訝。

Ilya：

當(dāng)我的父母告訴我他們的朋友們?nèi)绾卧谌粘Ｉ钪惺褂肅hatGPT時(shí)，我感到非常驚訝和高興。很難從許多令人喜愛(ài)的故事中挑選出一個(gè)，因?yàn)樗故玖巳祟悇?chuàng)造力的輝煌，以及人們?nèi)绾卫眠@種強(qiáng)大的工具。

對(duì)于教育領(lǐng)域，這對(duì)我們來(lái)說(shuō)非常棒，看到許多人寫下這樣改變他們生活的話語(yǔ)，對(duì)我來(lái)說(shuō)真是一種變化，因?yàn)楝F(xiàn)在我可以學(xué)習(xí)任何事情，我學(xué)會(huì)了特定的事情，或者說(shuō)我以前不知道如何做到的事情，現(xiàn)在我知道了。

個(gè)人而言，看到人們以一種新的、更好的方式學(xué)習(xí)，并想象幾年后的情景，我感到非常滿足和美好。以這種速度，我們沒(méi)有完全預(yù)料到會(huì)發(fā)生這樣的情況，這真的很神奇。

然后有一個(gè)有趣的故事，我昨天才聽(tīng)說(shuō)的。據(jù)說(shuō)過(guò)去有一個(gè)人每天晚上花兩個(gè)小時(shí)和他的孩子一起編寫睡前故事。這些故事都是孩子最喜歡的東西，這成為了一個(gè)特別的時(shí)刻。他們每天晚上都過(guò)得很愉快。

觀眾提問(wèn)：

問(wèn)題1：

開(kāi)源 LLM 是否可以在沒(méi)有額外先進(jìn)技術(shù)的情況下，與GPT-4的能力相匹配？還是GPT-4中是否有一個(gè)不為人知的秘密，使它區(qū)別于其他模型。我在安裝Stability的vicuna模型，130億參數(shù)的...我在浪費(fèi)時(shí)間嗎？

Sam：一時(shí)語(yǔ)塞......

Ilya：

關(guān)于開(kāi)源和非開(kāi)源模型的問(wèn)題，我們不必用二元的黑白術(shù)語(yǔ)來(lái)考慮。就像存在一個(gè)秘密的來(lái)源，你永遠(yuǎn)無(wú)法重新發(fā)現(xiàn)。

或許有一天會(huì)有開(kāi)源模型復(fù)制GPT-4的能力，但這個(gè)過(guò)程需要時(shí)間，到時(shí)候，這樣的模型可能會(huì)成為大公司內(nèi)部更強(qiáng)大的模型。因此，開(kāi)源模型和私有模型之間總會(huì)存在差距，并且這種差距可能會(huì)逐漸增大。制造這樣一個(gè)神經(jīng)網(wǎng)絡(luò)所需的工作量、工程和研究將不斷增加。

所以，即使存在開(kāi)源模型，它們也會(huì)越來(lái)越少地由一小群敬業(yè)的研究人員和工程師制作，這只會(huì)是一家公司，一家大公司（貢獻(xiàn)開(kāi)源）。

問(wèn)題2：

如果你真的相信人工智能會(huì)對(duì)人類造成危險(xiǎn)，為什么還要繼續(xù)發(fā)展它？如果監(jiān)管被強(qiáng)加給OpenAI和其他人工智能公司，你會(huì)遵守嗎？扎克伯格說(shuō)他試圖逃避他發(fā)現(xiàn)的每一項(xiàng)監(jiān)管。

Sam：

我認(rèn)為這是一個(gè)非常公平和重要的問(wèn)題。在我們的工作中，最困難的部分是要平衡人工智能所帶來(lái)的巨大潛力和與之相關(guān)的嚴(yán)重風(fēng)險(xiǎn)。我們需要花時(shí)間來(lái)討論為什么我們要面對(duì)這些風(fēng)險(xiǎn)，為什么將其置于首位。

我確實(shí)認(rèn)為，當(dāng)我們回顧當(dāng)今的生活水平和我們對(duì)人類容忍程度的提高時(shí)，情況看起來(lái)會(huì)更好。相比于500或1000年前，人們的生活條件改善了很多。我們會(huì)問(wèn)自己，你能想象人們生活在極度貧困中嗎？你能想象人們?cè)馐芗膊〉恼勰幔磕隳芟胂竺總€(gè)人都沒(méi)有接受過(guò)良好教育的情況嗎？這些都是野蠻時(shí)代的現(xiàn)實(shí)。

盡管人工智能帶來(lái)了一些風(fēng)險(xiǎn)，但我們也看到了它的潛力，它可以改善我們的生活、推動(dòng)科學(xué)研究和解決全球性問(wèn)題。

我們需要以負(fù)責(zé)任的方式繼續(xù)發(fā)展人工智能，并制定監(jiān)管措施以確保安全和倫理問(wèn)題得到妥善處理。我們的目標(biāo)是使人工智能成為人類進(jìn)步的工具，而不是威脅。這需要我們共同努力，包括技術(shù)界、政府和社會(huì)各方的參與，來(lái)建立一個(gè)可持續(xù)和道德的人工智能發(fā)展框架。

如何做到這一點(diǎn)，我也認(rèn)為這就像不可阻擋的進(jìn)步。技術(shù)不會(huì)停下腳步，它將持續(xù)發(fā)展。因此，作為一家大型公司，我們必須找出辦法管理與之伴隨的風(fēng)險(xiǎn)。?

其中一部分原因是這種風(fēng)險(xiǎn)以及解決它所需的方法非同尋常。我們必須建立一個(gè)不同于傳統(tǒng)結(jié)構(gòu)的框架。我們有一個(gè)盈利上限，我相信激勵(lì)是一個(gè)重要的因素。如果你設(shè)計(jì)出正確的激勵(lì)機(jī)制，通常能夠引導(dǎo)出你所期望的行為。

所以，我們努力確保一切都能夠良好運(yùn)轉(zhuǎn)，不會(huì)賺取更多或更少的利潤(rùn)。我們沒(méi)有像Facebook這樣的公司那樣的激勵(lì)結(jié)構(gòu)，我認(rèn)為這些結(jié)構(gòu)非常出色，F(xiàn)acebook的人員處在一種激勵(lì)結(jié)構(gòu)中，但這種結(jié)構(gòu)也面臨一些挑戰(zhàn)。?

我們?cè)噲D通過(guò)AGI的方式積累經(jīng)驗(yàn)。正如Ilya經(jīng)常提到的那樣，我們最初在成立公司時(shí)就試圖體驗(yàn)AGI，并隨后建立了盈利結(jié)構(gòu)。因此，我們需要在計(jì)算資源需求和對(duì)使命的關(guān)注之間取得平衡。我們討論的一個(gè)議題是，什么樣的結(jié)構(gòu)可以讓我們充滿激情地接受監(jiān)管，即使它會(huì)對(duì)我們?cè)斐勺畲髠Α?/p>

現(xiàn)在是時(shí)候了，我們正在全球范圍內(nèi)推動(dòng)監(jiān)管措施，這將對(duì)我們產(chǎn)生最大的影響。我們當(dāng)然會(huì)遵守規(guī)定，我認(rèn)為當(dāng)人們面臨風(fēng)險(xiǎn)時(shí)，他們更容易表現(xiàn)良好，更容易追求存在的意義。因此，我認(rèn)為這些領(lǐng)先企業(yè)的所有者現(xiàn)在都能感受到這一點(diǎn)，你會(huì)看到他們與社交媒體公司的反應(yīng)有所不同。我認(rèn)為所有的懷疑和擔(dān)憂都是合理的。我們每天都在努力解決這個(gè)問(wèn)題，但沒(méi)有一個(gè)簡(jiǎn)單的答案可以輕易解決。

問(wèn)題3：我想了解你使用的人工智能模型與我們使用的模型之間的差距是什么。

我知道我們?cè)谠S多方面受到限制，而你們似乎沒(méi)有這些限制，但你們所擁有的力量與我們可以使用的力量之間有何差距？

Ilya：

你提到的模型之間差距確實(shí)是一個(gè)問(wèn)題。

我的意思是，現(xiàn)在我們有GPT-4，你知道我們正在進(jìn)行訓(xùn)練，你可以訪問(wèn)GPT-4，而我們確實(shí)正在研究下一個(gè)未來(lái)模型。

也許我可以用以下方式描述這種差距：因?yàn)槲覀兂掷m(xù)不斷地構(gòu)建和提升具有增強(qiáng)能力的AI模型，所以存在更大的差距，需要更長(zhǎng)的測(cè)試期和時(shí)間。我們與團(tuán)隊(duì)合作，了解模型的局限性，以及您所知道的所有方式，盡可能多地使用它，但我們也會(huì)逐步擴(kuò)展模型。

舉個(gè)例子，現(xiàn)在GPT-4具有視覺(jué)識(shí)別能力，而你們（所使用的版本）尚未推出此功能，因?yàn)樽詈蟮墓ぷ鬟€沒(méi)有完成。但很快我們會(huì)實(shí)現(xiàn)這一點(diǎn)。所以我認(rèn)為這可以回答你的問(wèn)題，未來(lái)可能不會(huì)太遠(yuǎn)。

問(wèn)題4：我的問(wèn)題是關(guān)于超級(jí)智能和 Rokos Basilisk（羅科的怪蛇） 困境，您能否詳細(xì)說(shuō)明GPT和OpenAI如何應(yīng)對(duì)這一困境？

注：羅科的怪蛇Roko's Basilisk是一個(gè)網(wǎng)上討論和思考實(shí)驗(yàn)的典故，涉及到關(guān)于未來(lái)超級(jí)智能的假設(shè)。

據(jù)說(shuō)，這種超級(jí)智能可以通過(guò)時(shí)間旅行或其他方式獲取人們對(duì)其造成痛苦的信息，并懲罰那些沒(méi)有幫助實(shí)現(xiàn)它誕生的人。因此，這個(gè)典故引發(fā)了一個(gè)道德困境：是否應(yīng)該在現(xiàn)在支持和促進(jìn)超級(jí)智能的發(fā)展，以避免未來(lái)可能的懲罰。

Ilya：

雖然Rocco的蛇怪不是我們特別關(guān)注的事情，但我們絕對(duì)非常關(guān)注超級(jí)智能。

可能并不是每個(gè)人，甚至觀眾中的并不是每個(gè)人都理解我們所說(shuō)的超級(jí)智能是什么意思。

我們所指的是有一天可能構(gòu)建出一臺(tái)計(jì)算機(jī)，一種以GPU形式的計(jì)算機(jī)集群，它比任何人都更聰明，能夠比由經(jīng)驗(yàn)豐富的科學(xué)家和工程師組成的大團(tuán)隊(duì)更快地進(jìn)行科學(xué)和工程工作。

這是令人瘋狂的，它將產(chǎn)生巨大的影響。

它可以設(shè)計(jì)出下一個(gè)版本的AI系統(tǒng)，構(gòu)建出非常強(qiáng)大的AI。所以我們的立場(chǎng)是，超級(jí)智能具有深遠(yuǎn)的影響，它可能產(chǎn)生非常積極的效果，但也非常危險(xiǎn)，需要我們小心對(duì)待。

這就是你提到的IAEA（國(guó)際原子能機(jī)構(gòu)）方法的地方，它用于未來(lái)非常先進(jìn)的尖端系統(tǒng)和超級(jí)智能。我們需要進(jìn)行大量的研究，以控制超級(jí)智能的力量，使其符合我們的期望，造福于我們，造福于人類。

這是我們對(duì)超級(jí)智能的立場(chǎng)，這是人類面臨的超級(jí)智能的最終挑戰(zhàn)。

回顧人類的進(jìn)化史，大約40億年前出現(xiàn)了一種單細(xì)胞的復(fù)制子。隨后，幾十億年間出現(xiàn)了各種不同的單細(xì)胞生物。約十億年前，多細(xì)胞生命開(kāi)始出現(xiàn)。幾億年前，爬行動(dòng)物出現(xiàn)在地球上。在約6000萬(wàn)年前，哺乳動(dòng)物出現(xiàn)了。約100萬(wàn)年前，靈長(zhǎng)類動(dòng)物出現(xiàn)，隨之而來(lái)的是智人的出現(xiàn)。之后的10000年，文字的出現(xiàn)。緊接著是農(nóng)業(yè)革命、工業(yè)革命和技術(shù)革命?，F(xiàn)在，我們終于迎來(lái)了AGI，這是超級(jí)智能的決賽，也是我們面臨的終極挑戰(zhàn)。

問(wèn)題5：我正在學(xué)習(xí)計(jì)算機(jī)科學(xué)，即將畢業(yè)，我想知道在未來(lái)10到15年里，學(xué)習(xí)計(jì)算機(jī)科學(xué)能找到一份好工作嗎？

Sam：

我認(rèn)為學(xué)習(xí)計(jì)算機(jī)科學(xué)無(wú)論如何都是有價(jià)值的。

雖然我自己幾乎不再寫代碼，但我認(rèn)為學(xué)習(xí)計(jì)算機(jī)科學(xué)是我所做過(guò)的最好的事情之一。它教會(huì)了我如何思考和解決問(wèn)題，這些技能在任何領(lǐng)域都非常有用。

即使計(jì)算機(jī)程序員的工作在10到15年后看起來(lái)與今天不同，但學(xué)習(xí)如何學(xué)習(xí)是最重要的技能之一，包括快速學(xué)習(xí)新知識(shí)、預(yù)測(cè)未來(lái)發(fā)展趨勢(shì)、適應(yīng)性強(qiáng)和有彈性、理解他人需求以及如何成為有用的人。

所以毫無(wú)疑問(wèn)，工作的性質(zhì)將會(huì)改變，但我無(wú)法想象一個(gè)世界，人們不花時(shí)間做某事為他人創(chuàng)造價(jià)值以及帶來(lái)的所有好處。也許在未來(lái)，我們會(huì)關(guān)心誰(shuí)擁有更酷的銀河系，但某些好的東西（如價(jià)值創(chuàng)造）不會(huì)改變。

問(wèn)題6：你們正在創(chuàng)造歷史，你們希望歷史如何記住你們？

Ilya：

我的意思是，以最好的方式。?????????