但更為重要的智慧在于我們退后一步，深入理解了深度學習的本質。它的基礎是什么？它的長期影響是什么？它的潛力是什么？我們意識到，這項技術擁有巨大的潛力，能夠繼續(xù)擴展幾十年前發(fā)明和發(fā)現(xiàn)的算法，結合更多的數(shù)據(jù)、更大的網(wǎng)絡和至關重要的計算資源，深度學習突然間能夠實現(xiàn)人類算法無法企及的任務。

現(xiàn)在，想象一下，如果我們進一步擴大架構，擁有更大的網(wǎng)絡、更多的數(shù)據(jù)和計算資源，將會發(fā)生什么？因此，我們致力于重新發(fā)明一切。自2012年以來，我們改變了GPU的架構，增加了張量核心，發(fā)明了MV-Link，推出了cuDNN、TensorRT、Nickel，還收購了Mellanox，推出了Triton推理服務器。

這些技術集成在一臺全新的計算機上，它超越了當時所有人的想象。沒有人預料到，沒有人提出這樣的需求，甚至沒有人理解它的全部潛力。事實上，我自己也不確定是否會有人會想買它。

但在GTC大會上，我們正式發(fā)布了這項技術。舊金山一家名叫OpenAI的初創(chuàng)公司迅速注意到了我們的成果，并請求我們提供一臺設備。我親自為OpenAI送去了世界上首臺人工智能超級計算機DGX。

2016年，我們持續(xù)擴大研發(fā)規(guī)模。從單一的人工智能超級計算機，單一的人工智能應用，擴大到在2017年推出了更為龐大且強大的超級計算機。隨著技術的不斷進步，世界見證了Transformer的崛起。這一模型的出現(xiàn)，使我們能夠處理海量的數(shù)據(jù)，并識別和學習在長時間跨度內連續(xù)的模式。

如今，我們有能力訓練這些大語言模型，以實現(xiàn)自然語言理解方面的重大突破。但我們并未止步于此，我們繼續(xù)前行，構建了更大的模型。到了2022年11月，在極為強大的人工智能超級計算機上，我們使用數(shù)萬顆英偉達GPU進行訓練。

僅僅5天后，OpenAI宣布ChatGPT已擁有100萬用戶。這一驚人的增長速度，在短短兩個月內攀升至1億用戶，創(chuàng)造了應用歷史上最快的增長記錄。其原因十分簡單——ChatGPT的使用體驗便捷而神奇。

用戶能夠與計算機進行自然、流暢的互動，仿佛與真人交流一般。無需繁瑣的指令或明確的描述，ChatGPT便能理解用戶的意圖和需求。

ChatGPT的出現(xiàn)標志著一個劃時代的變革，這張幻燈片恰恰捕捉到了這一關鍵轉折。請允許我為大家展示下。

直至ChatGPT的問世，它才真正向世界揭示了生成式人工智能的無限潛能。長久以來，人工智能的焦點主要集中在感知領域，如自然語言理解、計算機視覺和語音識別，這些技術致力于模擬人類的感知能力。但ChatGPT帶來了質的飛躍，它不僅僅局限于感知，而是首次展現(xiàn)了生成式人工智能的力量。

它會逐個生成Token，這些Token可以是單詞、圖像、圖表、表格，甚至是歌曲、文字、語音和視頻。Token可以代表任何具有明確意義的事物，無論是化學物質、蛋白質、基因，還是之前我們提到的天氣模式。

這種生成式人工智能的崛起意味著，我們可以學習并模擬物理現(xiàn)象，讓人工智能模型理解并生成物理世界的各種現(xiàn)象。我們不再局限于縮小范圍進行過濾，而是通過生成的方式探索無限可能。

如今，我們幾乎可以為任何有價值的事物生成Token，無論是汽車的轉向盤控制、機械臂的關節(jié)運動，還是我們目前能夠學習的任何知識。因此，我們所處的已不僅僅是一個人工智能時代，而是一個生成式人工智能引領的新紀元。

更重要的是，這臺最初作為超級計算機出現(xiàn)的設備，如今已經(jīng)演化為一個高效運轉的人工智能數(shù)據(jù)中心。它不斷地產出，不僅生成Token，更是一個創(chuàng)造價值的人工智能工廠。這個人工智能工廠正在生成、創(chuàng)造和生產具有巨大市場潛力的新商品。

正如19世紀末尼古拉·特斯拉（Nikola Tesla）發(fā)明了交流發(fā)電機，為我們帶來了源源不斷的電子，英偉達的人工智能生成器也正在源源不斷地產生具有無限可能性的Token。這兩者都有巨大的市場機會，有望在每個行業(yè)掀起變革。這確實是一場新的工業(yè)革命！

我們現(xiàn)在迎來了一個全新的工廠，能夠為各行各業(yè)生產出前所未有的、極具價值的新商品。這一方法不僅極具可擴展性，而且完全可重復。請注意，目前，每天都在不斷涌現(xiàn)出各種各樣的人工智能模型，尤其是生成式人工智能模型。如今，每個行業(yè)都競相參與其中，這是前所未有的盛況。

價值3萬億美元的IT行業(yè)，即將催生出能夠直接服務于100萬億美元產業(yè)的創(chuàng)新成果。它不再僅僅是信息存儲或數(shù)據(jù)處理的工具，而是每個行業(yè)生成智能的引擎。這將成為一種新型的制造業(yè)，但它并非傳統(tǒng)的計算機制造業(yè)，而是利用計算機進行制造的全新模式。這樣的變革以前從未發(fā)生過，這確實是一件令人矚目的非凡之事。

生成式AI推動軟件全棧重塑，展示NIM云原生微服務

這開啟了計算加速的新時代，推動了人工智能的迅猛發(fā)展，進而催生了生成式人工智能的興起。而如今，我們正在經(jīng)歷一場工業(yè)革命。關于其影響，讓我們深入探討一下。

對于我們所在的行業(yè)而言，這場變革的影響同樣深遠。正如我之前所言，這是過去六十年來的首次，計算的每一層都正在發(fā)生變革。從CPU的通用計算到GPU的加速計算，每一次變革都標志著技術的飛躍。

過去，計算機需要遵循指令執(zhí)行操作，而現(xiàn)在，它們更多地是處理LLM（大語言模型）和人工智能模型。過去的計算模型主要基于檢索，幾乎每次你使用手機時，它都會為你檢索預先存儲的文本、圖像或視頻，并根據(jù)推薦系統(tǒng)重新組合這些內容呈現(xiàn)給你。

但在未來，你的計算機會盡可能多地生成內容，只檢索必要的信息，因為生成數(shù)據(jù)在獲取信息時消耗的能量更少。而且，生成的數(shù)據(jù)具有更高的上下文相關性，能更準確地反映你的需求。當你需要答案時，不再需要明確指示計算機“給我獲取那個信息”或“給我那個文件”，只需簡單地說：“給我一個答案?！?/p>

此外，計算機不再僅僅是我們使用的工具，它開始生成技能。它執(zhí)行任務，而不再是一個生產軟件的行業(yè)，這在90年代初是一個顛覆性的觀念。記得嗎？微軟提出的軟件打包理念徹底改變了PC行業(yè)。沒有打包軟件，我們的PC將失去大部分功能。這一創(chuàng)新推動了整個行業(yè)的發(fā)展。

現(xiàn)在我們有了新工廠、新計算機，而在這個基礎上運行的是一種新型軟件——我們稱之為Nim（NVIDIA Inference Microservices）。在這個新工廠中運行的Nim是一個預訓練模型，它是一個人工智能。

這個人工智能本身相當復雜，但運行人工智能的計算堆棧更是復雜得令人難以置信。當你使用ChatGPT這樣的模型時，其背后是龐大的軟件堆棧。這個堆棧復雜而龐大，因為模型擁有數(shù)十億到數(shù)萬億個參數(shù)，且不僅在一臺計算機上運行，而是在多臺計算機上協(xié)同工作。