国产亚洲精品美女久久久,国产精品国色综合久久

焦點(diǎn)日報(bào)：關(guān)于爆火的Auto-GPT的科普文

2023-04-15 19:17:26 來源：雪球網(wǎng) 小 中

Auto-GPT是如何工作的？

不得不說，Auto-GPT在AI領(lǐng)域掀起了巨大的波瀾，它就像是賦予了GPT-4記憶和實(shí)體一樣，讓它能夠獨(dú)立應(yīng)對任務(wù)，甚至從經(jīng)驗(yàn)中學(xué)習(xí)，不斷提高自己的性能。

為了便于Auto-GPT是如何工作的，讓我們可以用一些簡單的比喻來分解它。

【資料圖】

首先，想象Auto-GPT是一個(gè)足智多謀的機(jī)器人。

我們每分配一個(gè)任務(wù)，Auto-GPT都會給出一個(gè)相應(yīng)的解決計(jì)劃。比如，需要瀏覽互聯(lián)網(wǎng)或使用新數(shù)據(jù)，它便會調(diào)整其策略，直到任務(wù)完成。這就像擁有一個(gè)能處理各種任務(wù)的私人助手，如市場分析、客戶服務(wù)、市場營銷、財(cái)務(wù)等。

具體來說，想讓Auto-GPT運(yùn)行起來，就需要依靠以下4個(gè)組件：

架構(gòu)：

Auto-GPT是使用強(qiáng)大的GPT-4和GPT-3.5語言模型構(gòu)建的，它們充當(dāng)機(jī)器人的大腦，幫助它思考和推理。

自主迭代：

這就像機(jī)器人從錯(cuò)誤中學(xué)習(xí)的能力。Auto-GPT 可以回顧它的工作，在以前的努力的基礎(chǔ)上再接再厲，并利用它的歷史來產(chǎn)生更準(zhǔn)確的結(jié)果。

內(nèi)存管理：

與矢量數(shù)據(jù)庫（一種內(nèi)存存儲解決方案）集成，使Auto-GPT能夠保留上下文并做出更好的決策。這就像給機(jī)器人配備了長時(shí)記憶，可以記住過去的經(jīng)歷。

多功能性：

Auto-GPT的文件操作、網(wǎng)頁瀏覽和數(shù)據(jù)檢索等功能使其用途廣泛。這就像賦予機(jī)器人多種技能來處理更廣泛的任務(wù)。

然而，這些誘人的前景可能還尚未轉(zhuǎn)化為Auto-GPT真正可以實(shí)現(xiàn)的能力。

天價(jià)的成本

想要在現(xiàn)實(shí)的生產(chǎn)環(huán)境中使用Auto-GPT，首先面臨的障礙便是其高昂的成本。

由于任務(wù)需要通過一系列的思維迭代來完成，為了供更好的推理和提示，模型每個(gè)step通常都會用盡所有token。

然而，GPT-4的token并不便宜。

根據(jù)OpenAI的說法，具有8K上下文窗口的GPT-4模型，對于提示部分，每1000個(gè)token收費(fèi)0.03美元；而對于結(jié)果部分，每1000個(gè)token收費(fèi)0.06美元。

而1000個(gè)token大概可以換算成750個(gè)英文單詞。

讓我們分解思維鏈中每個(gè)step的成本，假設(shè)每個(gè)動作都用盡了8000個(gè)token的上下文窗口，其中80%是提示（6,400個(gè)token），20%是結(jié)果（1,600個(gè)token）。

提示成本：6,400個(gè)token x 0.03美元/1,000個(gè)token = 0.192美元

結(jié)果成本：1,600 個(gè)代幣 x 0.06 美元/1,000個(gè)token = 0.096美元

因此，每個(gè)step的成本就是：0.192美元 + 0.096美元 = 0.288美元

平均而言，Auto-GPT完成一項(xiàng)小任務(wù)需要50個(gè)step。

因此，完成單個(gè)任務(wù)的成本就是：50個(gè)step x 0.288美元/step = 14.4美元

以VueGPT為例：這是一個(gè)Auto-GPT創(chuàng)建的AI，旨在使用Vue JS創(chuàng)建網(wǎng)站應(yīng)用程序，我們來看看它在思維鏈中的一個(gè)step

而且這還是一次就能出結(jié)果的情況，如果需要重新生成，成本會更高。

從這個(gè)角度來看，Auto-GPT目前對大部分用戶和組織來說，都是不現(xiàn)實(shí)的。

開發(fā)與生產(chǎn)

一看，花14.4美元來完成一項(xiàng)復(fù)雜的任務(wù)，好像并無不妥。

舉個(gè)例子，我們首先讓Auto-GPT制作一份圣誕節(jié)食譜。然后，再找它要一份感恩節(jié)食譜的話，猜猜會發(fā)生什么？

沒錯(cuò)，Auto-GPT會按照相同的思維鏈從頭再做一遍，也就是說，我們需要再花14.4美元才行。

但實(shí)際上，這兩個(gè)任務(wù)在「參數(shù)」的區(qū)別應(yīng)該只有一個(gè)：節(jié)日。

既然我們已經(jīng)花了14.4美元開發(fā)了一種創(chuàng)建食譜的方法，那么再用化相同的錢來調(diào)整參數(shù)，顯然是不符合邏輯的。

想象一下，在玩《我的世界》（Minecraft），每次都要從頭開始建造一切。顯然，這會讓游戲變得非常無趣

而這便暴露了Auto-GPT的一個(gè)根本問題：它無法區(qū)分開發(fā)和生產(chǎn)。

當(dāng)Auto-GPT完成目標(biāo)時(shí)，開發(fā)階段就完成了。不幸的是，我們并沒有辦法將這一系列操作「序列化」為一個(gè)可重用的函數(shù)，從而投入生產(chǎn)。

因此，用戶每次想要解決問題時(shí)都必須從開發(fā)的起點(diǎn)開始，不僅費(fèi)時(shí)費(fèi)力，而且還費(fèi)錢。

這種低下效率，引發(fā)了關(guān)于Auto-GPT在現(xiàn)實(shí)世界生產(chǎn)環(huán)境中實(shí)用性的質(zhì)疑，也突顯了Auto-GPT在為大型問題解決提供可持續(xù)、經(jīng)濟(jì)有效的解決方案方面的局限性。

循環(huán)的泥潭

不過，如果14.4美元真的能解決問題，那么它仍然是值得的。

但問題在于，Auto-GPT在實(shí)際使用時(shí)，經(jīng)常會陷入到死循環(huán)里……

那么，為什么Auto-GPT會陷入這些循環(huán)？

理解這一點(diǎn)，我們可以把Auto-GPT看作是依賴GPT來使用一種非常簡單的編程語言來解決任務(wù)。

解決任務(wù)的成功取決于兩個(gè)因素：編程語言中可用的函數(shù)范圍和GPT的分治法能力（divide and conquer ），即GPT能夠多好地將任務(wù)分解成預(yù)定義的編程語言。遺憾的是，GPT在這兩點(diǎn)上都是不足的。

Auto-GPT提供的有限功能可以在其源代碼中觀察到。例如，它提供了用于搜索網(wǎng)絡(luò)、管理內(nèi)存、與文件交互、執(zhí)行代碼和生成圖像的功能。然而，這種受限的功能集縮小了Auto-GPT能夠有效執(zhí)行的任務(wù)范圍。

此外，GPT的分解和推理能力仍然受到限制。盡管GPT-4相較于GPT-3.5有了顯著的改進(jìn)，但其推理能力遠(yuǎn)非完美，進(jìn)一步限制了Auto-GPT的解決問題的能力。

這種情況類似于嘗試使用Python構(gòu)建像《星際爭霸》這樣復(fù)雜的游戲。雖然Python是一種強(qiáng)大的語言，但將《星際爭霸》分解為Python函數(shù)極具挑戰(zhàn)性。

本質(zhì)上，有限功能集和GPT-4受限的推理能力的結(jié)合，最終造成了這個(gè)循環(huán)的泥潭，使Auto-GPT在許多情況下無法實(shí)現(xiàn)預(yù)期的結(jié)果。

人類與GPT的區(qū)別

分治法是Auto-GPT的關(guān)鍵。盡管GPT-3.5/4在前任基礎(chǔ)上有了顯著的進(jìn)步，但在使用分治法時(shí)，其推理能力仍然無法達(dá)到人類水平。

問題分解不充分：

分治法的有效性在很大程度上取決于將復(fù)雜問題分解為較小、易于管理的子問題的能力。人類推理通常可以找到多種分解問題的方法，而GPT-3.5/4可能沒有同樣程度的適應(yīng)性或創(chuàng)造力。

識別合適基本案例的難度：

人類可以直觀地選擇適當(dāng)?shù)幕景咐缘玫接行У慕鉀Q方案。相比之下，GPT-3.5/4可能難以確定給定問題的最有效基本案例，這會顯著影響分治過程的整體效率和準(zhǔn)確性。

問題背景理解不充分：

雖然人類可以利用其領(lǐng)域知識和背景理解來更好地應(yīng)對復(fù)雜問題，但GPT-3.5/4受其預(yù)先訓(xùn)練的知識所限，可能缺乏用分治法有效解決某些問題所需的背景信息。

處理重疊子問題：

人類通?？梢宰R別出解決重疊子問題時(shí)，并有策略地重用先前計(jì)算過的解決方案。而GPT-3.5/4可能沒有同樣程度的意識，可能會多次冗余地解決相同的子問題，從而導(dǎo)致解決方案的效率降低。

Vector DB：過度的解決方案

Auto-GPT依賴向量數(shù)據(jù)庫進(jìn)行更快的k-最近鄰（kNN）搜索。這些數(shù)據(jù)庫檢索先前的思維鏈，并將它們?nèi)谌氲疆?dāng)前查詢上下文中，以便為GPT提供一種記憶效果。

然而，考慮到Auto-GPT的約束和局限性，這種方法被批評為過度且不必要地消耗資源。其中，反對使用向量數(shù)據(jù)庫的主要論點(diǎn)源于與Auto-GPT思維鏈相關(guān)的成本約束。

一個(gè)50步的思維鏈將花費(fèi)14.4美元，而一個(gè)1000步的鏈將花費(fèi)更多。因此，記憶大小或思維鏈的長度很少超過四位數(shù)。在這種情況下，對最近鄰點(diǎn)進(jìn)行窮舉搜索（即256維向量與10,000 x 256矩陣之間的點(diǎn)積）被證明是足夠高效的，用時(shí)不到一秒鐘。

相比之下，每個(gè)GPT-4調(diào)用大約需要10秒鐘來處理，所以實(shí)際上限制系統(tǒng)處理速度的是GPT，而非數(shù)據(jù)庫。

盡管在特定場景下，向量數(shù)據(jù)庫可能在某些方面具有優(yōu)勢，但在Auto-GPT系統(tǒng)中實(shí)現(xiàn)向量數(shù)據(jù)庫以加速kNN「長時(shí)記憶」搜索似乎是一種不必要的奢侈和過度的解決方案。

智能體機(jī)制的誕生

Auto-GPT引入了一個(gè)非常有趣的概念，允許生成智能體來委托任務(wù)。

雖然，這種機(jī)制還處于初級階段，其潛力尚未被充分挖掘。不過，有多種方法可以增強(qiáng)和擴(kuò)展當(dāng)前的智能體系統(tǒng)，為更高效、更具動態(tài)性的互動提供新的可能性。

使用異步智能體可以顯著提高效率

一個(gè)潛在的改進(jìn)是引入異步智能體。通過結(jié)合異步等待模式，智能體可以并發(fā)操作而不會阻塞彼此，從而顯著提高系統(tǒng)的整體效率和響應(yīng)速度。這個(gè)概念受到了現(xiàn)代編程范式的啟發(fā)，這些范式已經(jīng)采用了異步方法來同時(shí)管理多個(gè)任務(wù)。

另一個(gè)有前景的方向是實(shí)現(xiàn)智能體之間的相互通信。通過允許智能體進(jìn)行通信和協(xié)作，它們可以更有效地共同解決復(fù)雜問題。這種方法類似于編程中的IPC概念，其中多個(gè)線程/進(jìn)程可以共享信息和資源以實(shí)現(xiàn)共同目標(biāo)。