亚洲va在线va天堂xxxx中文 ,女子奶水太多喂老头中文字幕,亚洲性啪啪无码av天堂,无码H肉动漫在线观看免费中文

我們也在優(yōu)化方面做了一些工作，優(yōu)化是一個(gè)瓶頸。研究生James Martens取得了突破，他提出了一種優(yōu)化方法用二階函數(shù)來(lái)實(shí)現(xiàn)。但重點(diǎn)是它證明了我們可以訓(xùn)練這些神經(jīng)元。如果你能訓(xùn)練神經(jīng)網(wǎng)絡(luò)，你就把他變大一些，然后去找一些數(shù)據(jù)，你就會(huì)成功那么接下來(lái)的問題是，找什么樣的數(shù)據(jù)？答案是ImageNet。當(dāng)時(shí)ImageNet是一個(gè)難度很高的數(shù)據(jù)集，但若想訓(xùn)練一個(gè)大型卷積神經(jīng)網(wǎng)絡(luò)，在數(shù)據(jù)集上它必須成功。

神經(jīng)網(wǎng)絡(luò)所學(xué)習(xí)的，是產(chǎn)生文本的過(guò)程的一些表述。這些文本實(shí)際上是這個(gè)世界的一個(gè)映射，所以神經(jīng)網(wǎng)絡(luò)正在學(xué)習(xí)從世界越來(lái)越多的方面看待這個(gè)世界，看待人類和社會(huì)。神經(jīng)網(wǎng)絡(luò)學(xué)習(xí)一個(gè)壓縮的、抽象的、可用的表述。這就是從準(zhǔn)確預(yù)測(cè)下一個(gè)詞的任務(wù)中學(xué)到的東西。此外，你對(duì)下一個(gè)詞的預(yù)測(cè)越準(zhǔn)確，還原度越高，在這個(gè)過(guò)程中你得到世界的分辨率就越高，這就是預(yù)訓(xùn)練階段的作用，但這并不能讓神經(jīng)網(wǎng)絡(luò)表現(xiàn)出我們希望它能夠表現(xiàn)出的行為。

一個(gè)語(yǔ)言模型，它真正要做的是回答以下問題，如網(wǎng)上有一些隨機(jī)的文本，以一些前綴開始，一些提示，它將如何完成?如果只是隨機(jī)尋找一些片段填充，這和我想擁有一個(gè)助手是不同的，我想要的助手要誠(chéng)實(shí)，要有幫助，要遵守一定的指導(dǎo)規(guī)則，這就是微調(diào)，這就是對(duì)來(lái)自于人類教師強(qiáng)化學(xué)習(xí)和其他形式的人工智能協(xié)助可以發(fā)揮作用的對(duì)方，不僅僅是向人類學(xué)習(xí)，也是人類和AI合作的強(qiáng)化學(xué)習(xí)。在這里我們不是在教授它，我們是在與它交流，希望它成為什么樣。而這個(gè)過(guò)程，也就是第二階段也是非常重要的。第二階段做得越好，這個(gè)神經(jīng)網(wǎng)絡(luò)就越有用，越可靠。所以第二階段是非常重要的，第一階段，盡可能多地從世界的映射中學(xué)習(xí)，也就是文字。

(相關(guān)資料圖)

AI的可靠性是由是否可以被信任決定的，未來(lái)肯定可以達(dá)到完全信賴的地步。如果它不明白，也會(huì)通過(guò)提問來(lái)問清楚，它會(huì)告訴你它不知道，但同時(shí)會(huì)向你詢問更多的知識(shí)。我認(rèn)為這是AI可用性影響最大的領(lǐng)域，未來(lái)會(huì)有最大的進(jìn)步。

我們現(xiàn)在就面臨一個(gè)挑戰(zhàn)，比如讓神經(jīng)網(wǎng)絡(luò)總結(jié)長(zhǎng)的文檔，獲取摘要，挑戰(zhàn)就是能確定重要的細(xì)節(jié)沒被忽略嗎？當(dāng)他的總結(jié)可以達(dá)到所有人都認(rèn)同的時(shí)候，我們就可以說(shuō)它的內(nèi)容是可靠的。對(duì)于內(nèi)容護(hù)欄也一樣，它是否清楚的遵循用戶的意圖也會(huì)成為衡量的標(biāo)準(zhǔn)。

___________________________________

在今年的 GTC 上，NVIDIA 創(chuàng)始人兼首席執(zhí)行官黃仁勛與 OpenAI 聯(lián)合創(chuàng)始人、首席科學(xué)家 Ilya Sutskever 進(jìn)行了一場(chǎng)深度對(duì)話，討論了 GPT-4、ChatGPT 背后的故事，也聊了下深度學(xué)習(xí)的未來(lái)。

如今，OpenAI 可以說(shuō)是整個(gè) AI 領(lǐng)域最火的研究機(jī)構(gòu)。憑借強(qiáng)大的 GPT-4 以及與微軟必應(yīng)、Office 等產(chǎn)品的融合，這家公司似乎要掀起一場(chǎng)生產(chǎn)力革命。

這一成就是由多方面的力量來(lái)驅(qū)動(dòng)的，包括聰明的頭腦和強(qiáng)大的基礎(chǔ)設(shè)施。

在「聰明的頭腦」里，Ilya Sutskever 頗具代表性。2012 年，他和他的導(dǎo)師 Geoffrey Hinton 以及同學(xué) Alex Krizhevsky 一起，用深度神經(jīng)網(wǎng)絡(luò)刷新了 ImageNet 的歷史記錄，拉開了卷積神經(jīng)網(wǎng)絡(luò)統(tǒng)治計(jì)算機(jī)視覺的序幕，標(biāo)志著新一波人工智能浪潮的開始。2021 年，這個(gè)名為 AlexNet 的論文被引量突破 10 萬(wàn)。

「為了加速訓(xùn)練，我們用到了非飽和神經(jīng)元和一個(gè)非常高效的 GPU 卷積操作實(shí)現(xiàn)。」Ilya Sutskever 等人在 AlexNet 的相關(guān)介紹中提到了這樣一條關(guān)鍵信息。他們還詳細(xì)說(shuō)明了如何將他們的網(wǎng)絡(luò)映射到多個(gè) GPU 上。從這時(shí)起，GPU 和神經(jīng)網(wǎng)絡(luò)緊緊地綁定在一起。黃仁勛領(lǐng)導(dǎo)的英偉達(dá)自然也成了這波 AI 浪潮中不可或缺的一環(huán)。

2015 年，Ilya Sutskever 參與創(chuàng)辦了 OpenAI，并帶領(lǐng)這家公司一路向著 AI 大模型的方向前進(jìn)。但隨著模型變得越來(lái)越大，訓(xùn)練它們所需的算力也急劇增長(zhǎng)。

「加速計(jì)算并非易事，2012 年，計(jì)算機(jī)視覺模型 AlexNet 動(dòng)用了 GeForce GTX 580，每秒可處理 262 PetaFLOPS。該模型引發(fā)了 AI 技術(shù)的爆炸。十年之后，Transformer 出現(xiàn)了，GPT-3 動(dòng)用了 323 ZettaFLOPS 的算力，是 AlexNet 的 100 萬(wàn)倍，創(chuàng)造了 ChatGPT 這個(gè)震驚全世界的 AI。嶄新的計(jì)算平臺(tái)出現(xiàn)了，AI 的 iPhone 時(shí)代已經(jīng)來(lái)臨。」黃仁勛在 GPT 大會(huì)的 Keynote 中說(shuō)道。在這次大會(huì)上，英偉達(dá)發(fā)布了 ChatGPT 專用的 GPU，推理速度提升了 10 倍。

一路走來(lái)，Ilya Sutskever 和黃仁勛都是這波 AI 浪潮的見證者和重要推動(dòng)者。在即將到來(lái)的「AI iPhone 時(shí)代」，兩人也必將扮演重要的領(lǐng)導(dǎo)者角色。

在這場(chǎng)對(duì)話中，兩人談到了深度神經(jīng)網(wǎng)絡(luò)的能力、限制和內(nèi)部工作方式，并勾勒了一些未來(lái)的圖景。

在打造 GPT-4 的過(guò)程中，Ilya Sutskever 堅(jiān)信「（模型）越大越好，擴(kuò)大規(guī)模是 OpenAI 的目標(biāo)之一」。這自然是黃仁勛喜聞樂見的。

I had a very strong belief that bigger is better, and a goal at OpenAI was to scale. ——Ilya Sutskever

兩人的談話進(jìn)行了大約 1 個(gè)小時(shí)，就像老朋友邊喝咖啡邊聊天一樣。以下是這次談話的完整視頻（帶中文字幕），大家可以在其中感受時(shí)代的脈搏。

英偉達(dá)博客：網(wǎng)頁(yè)鏈接 視頻鏈接：網(wǎng)頁(yè)鏈接

關(guān)鍵詞：