外媒SemiAnalysis公布了一篇文章，叫《我們沒(méi)有護(hù)城河，OpenAI也沒(méi)有》

(資料圖片僅供參考)

據(jù)悉，這份文件是一名匿名人士在Discord服務(wù)器上分享出來(lái)的，文章來(lái)自谷歌內(nèi)部的一名研究員，真實(shí)性已被確認(rèn)。

SemiAnalysis特別強(qiáng)調(diào)，這份文件僅代表谷歌員工的意見(jiàn)，不代表谷歌。

這篇文章的內(nèi)容大致意思是，雙方最大的競(jìng)爭(zhēng)對(duì)手是：開(kāi)源。

今年三月份的時(shí)候，Meta泄露了其基礎(chǔ)語(yǔ)言大模型LLaMA，這個(gè)大模型可能不及谷歌和OpenAI，但是有了這個(gè)模型，開(kāi)源社區(qū)一日千里。

來(lái)自全球各地的無(wú)數(shù)開(kāi)源愛(ài)好者通過(guò)低成本的訓(xùn)練，能迅速的改造大模型，并通過(guò)微調(diào)模型（lora），耗費(fèi)極低（100美元左右）就能實(shí)現(xiàn)巨頭們斥資千萬(wàn)美金成本實(shí)現(xiàn)的效果。

據(jù)斯坦福的論文稱(chēng)，他們共花費(fèi)了幾百美元，讓用戶(hù)的微調(diào)指令可以與原始代碼分開(kāi)，從而使其獨(dú)立于Meta的許可證。

這樣一來(lái)，任何人都可以分享和應(yīng)用不斷微調(diào)后的模型。

看起來(lái)是Meta的模型泄露了，但是反過(guò)來(lái)講，開(kāi)源愛(ài)好者們做出的所有努力都是基于LLaMa的，Meta想用的話可以直接拿來(lái)主義，反而受益了。谷歌和OpenAI的大模型是閉源的，自然無(wú)法直接用。

開(kāi)源的威力有多大？

比如清華版的ChatGLM把6B版開(kāi)源，短短一個(gè)月下載量超百萬(wàn)。申請(qǐng)合作的企業(yè)包括微軟、谷歌等巨頭，甚至極短的時(shí)間內(nèi)已經(jīng)有了商業(yè)化落地的案例（哈勃）。

我有一塊3060的顯卡，12G顯存。雖然很多網(wǎng)友說(shuō)30系列默認(rèn)礦卡，我按全新價(jià)格買(mǎi)的不算便宜，但煉丹一個(gè)多月后，這塊顯卡還是很超值的。

ChatGLM-6B需要13G顯存，但量化版可以8G顯存跑起來(lái)。

我部署完畢后，問(wèn)了ChatGLM幾個(gè)問(wèn)題。

這幾個(gè)問(wèn)題沒(méi)有什么關(guān)聯(lián)性，跳躍性很大。

需要指出的是，太陽(yáng)系最高的山在火星。木星作為一個(gè)氣態(tài)行星，表面是沒(méi)有固體的“山”的概念。

無(wú)論任何領(lǐng)域，除了個(gè)別一本正經(jīng)的瞎編外，ChatGLM基本都能對(duì)答如流。

冷知識(shí)：ChatGLM-6B是離線模式。

這意味著，它掌握的所有知識(shí)，都被存在這塊顯卡里。

這個(gè)大模型，幾乎塞進(jìn)了全世界有史以來(lái)的全部文本知識(shí)。

盡管谷歌和OpenAI還在閉門(mén)造車(chē)，也許有一天它們也會(huì)拿出開(kāi)源版本，這些整合了全人類(lèi)全部知識(shí)的大模型，很可能一塊（或者幾塊）消費(fèi)級(jí)顯卡（當(dāng)然有點(diǎn)高消費(fèi)）就可以裝下。

24G顯存的消費(fèi)級(jí)頂級(jí)顯卡4090才1萬(wàn)塊，高級(jí)的80G顯存的算力卡A100才10萬(wàn)塊。

掌握全人類(lèi)的全部知識(shí)，比上MBA都便宜。

本文作者：天淵三，來(lái)源：星空財(cái)研，原文標(biāo)題：《OpenAI沒(méi)有護(hù)城河：當(dāng)我們能把世界塞進(jìn)一塊顯卡里》

風(fēng)險(xiǎn)提示及免責(zé)條款 市場(chǎng)有風(fēng)險(xiǎn)，投資需謹(jǐn)慎。本文不構(gòu)成個(gè)人投資建議，也未考慮到個(gè)別用戶(hù)特殊的投資目標(biāo)、財(cái)務(wù)狀況或需要。用戶(hù)應(yīng)考慮本文中的任何意見(jiàn)、觀點(diǎn)或結(jié)論是否符合其特定狀況。據(jù)此投資，責(zé)任自負(fù)。

關(guān)鍵詞：