4月13日周四，OpenAI的CEO Sam Altman表示，他同意特斯拉CEO馬斯克、蘋果聯(lián)合創(chuàng)始人Steve Wozniak等科技界領(lǐng)袖簽署的生命未來研究所公開信的部分內(nèi)容。

【資料圖】

這封公開信呼吁暫停6個(gè)月的AI研究。但Altman補(bǔ)充說，這封信“遺漏了關(guān)于我們需要暫停的大部分技術(shù)細(xì)節(jié)?！?/p>

Altman說：

我認(rèn)為謹(jǐn)慎行事和對安全問題越來越嚴(yán)格非常重要，但我不認(rèn)為這封信是解決這個(gè)問題的最佳方式。

3 月，馬斯克、Wozniak和其他數(shù)十位學(xué)者呼吁立即停止訓(xùn)練與“比 GPT-4 更強(qiáng)大”的大型語言模型相關(guān)的“實(shí)驗(yàn)”，稱其“對社會和人類構(gòu)成潛在風(fēng)險(xiǎn)”。這其中首當(dāng)其沖的就是OpenAI的旗艦大型語言模型。當(dāng)前，這封公開信已經(jīng)有超過2.5萬人簽名。

這封信說：

人工智能實(shí)驗(yàn)室和獨(dú)立專家應(yīng)該利用六個(gè)月的暫停時(shí)間，來開發(fā)和實(shí)施一套由獨(dú)立外部專家嚴(yán)格審計(jì)和監(jiān)督的高級人工智能設(shè)計(jì)和開發(fā)的共享安全協(xié)議。

Altman周四說：

我也同意，隨著AI能力變得越來越強(qiáng)大，安全標(biāo)準(zhǔn)必須提高。

今年早些時(shí)候，Altman承認(rèn)人工智能技術(shù)讓他“有點(diǎn)害怕”。 白宮、國會和美國各地各界都提出了關(guān)于安全和合乎道德地使用AI的問題。

Altman說：

我們正在GPT-4之上做其他事情，我認(rèn)為這些事情存在各種需要解決的重要安全問題，但這封信卻只字不提。

這封發(fā)布在非營利性組織“未來生命研究所”網(wǎng)站上的公開信主張，在開發(fā)強(qiáng)大的AI系統(tǒng)之前，應(yīng)先確認(rèn)其帶來影響是積極的、風(fēng)險(xiǎn)是可控的。

信中詳述了具有人類水平智能的AI系統(tǒng)可能對社會和人類帶來極大的風(fēng)險(xiǎn)，稱“這一點(diǎn)已經(jīng)得到大量研究和頂級AI實(shí)驗(yàn)室的認(rèn)同”，并連續(xù)拋出四個(gè)疑問：

我們是否應(yīng)該讓機(jī)器用宣傳和謊言淹沒我們的信息渠道?

我們是否應(yīng)該讓所有的工作自動化，包括那些令人滿意的工作?

我們是否應(yīng)該發(fā)展最終可能在數(shù)量上超過我們、在智能上超越我們、能夠淘汰并取代我們的非人類思維?

我們應(yīng)該冒著失去對我們文明控制的風(fēng)險(xiǎn)嗎?

顯然，比起技術(shù)，公開信的支持者更在意的，是人工智能可能出現(xiàn)的“野蠻生長”，以及它的發(fā)展可能帶來的社會和倫理難題。

公開信中提到，此番暫停并不意味著從總體上暫停人工智能的開發(fā)，而是從危險(xiǎn)競賽中“后退一步”。人工智能的研究和開發(fā)應(yīng)該重新聚焦于使當(dāng)今強(qiáng)大的、最先進(jìn)的系統(tǒng)變得更加準(zhǔn)確、安全、可解釋、透明、穩(wěn)健、一致、可信且可靠。

風(fēng)險(xiǎn)提示及免責(zé)條款 市場有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議，也未考慮到個(gè)別用戶特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶應(yīng)考慮本文中的任何意見、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。

關(guān)鍵詞：