騰訊科技訊 6月1日消息，機器學(xué)習(xí)和人工智能初創(chuàng)公司Humanloop首席執(zhí)行官拉扎·哈比比（Raza Habib）最近邀請人工智能研究公司OpenAI首席執(zhí)行官薩姆·奧特曼（Sam Altman）以及其他20多位開發(fā)者，共同探討了人工智能的未來。奧特曼非常坦率地分享了OpenAI未來兩年的產(chǎn)品路線圖，還談到OpenAI的使命以及人工智能的社會影響等問題。

      以下為訪談要點：

      1、OpenAI嚴重受制于GPU短缺

        在整個討論中出現(xiàn)的一個共同主題是，目前OpenAI的GPU供應(yīng)非常有限，這導(dǎo)致他們推遲了許多短期計劃。客戶最大的抱怨是API的可靠性和速度。奧特曼承認存在這種擔憂，并解釋說大部分問題是因GPU短缺所致。

        長度為32k的上下文功能還不能推廣給更多的人。OpenAI還沒有克服相關(guān)技術(shù)挑戰(zhàn)，所以雖然看起來他們很快(今年)就會有100k到1M令牌的上下文窗口，但更大的窗口都需要在研究上取得突破。

        微調(diào)API目前也受到GPU可用性的限制。它們還沒有使用Adapters或LoRa等高效的調(diào)優(yōu)方法，因此調(diào)優(yōu)的運行和管理需要大量的計算。將來會有更好的微調(diào)支持。他們甚至可以托管一個社區(qū)貢獻模型的市場。

        專用容量供應(yīng)受GPU可用性的限制。OpenAI也提供專用容量，為客戶提供該模型的私人副本。但要使用這項服務(wù)，客戶必須愿意支付相當于10萬美元的費用。

      2、OpenAI的近期路線圖

        奧特曼分享了他所看到的OpenAI API臨時近期路線圖。

      2023年:

        更便宜、更快的GPT-4：這是OpenAI的首要任務(wù)?？偟膩碚f，OpenAI的目標是盡可能地降低“智能成本”，因此他們將努力隨著時間的推移繼續(xù)降低API的成本。

        更長的上下文窗口：在不久的將來，上下文窗口可能高達100萬令牌。

        微調(diào)API：微調(diào)API將擴展到最新的模型上，但其確切形式將由開發(fā)者真正想要的元素來決定。

        支持會話狀態(tài)的API：當你今天調(diào)用聊天API時，你必須反復(fù)地傳遞相同的會話歷史，并反復(fù)支付同樣的令牌。將來，會有一個版本的API可以記住會話歷史記錄。

      2024年:

        多模態(tài)：這在GPT-4發(fā)布時進行了演示，但在更多GPU上線之前不能擴展到所有人。

      3、插件“沒有PMF”，可能不會很快出現(xiàn)在API中

        許多開發(fā)人員都對通過API訪問ChatGPT插件感興趣，但奧特曼說他認為這些插件不會很快發(fā)布。除了瀏覽，插件的使用表明他們還沒有PMF。奧特曼表示，很多人認為他們希望自己的應(yīng)用被集成到ChatGPT中，但實際上，他們真正想要的是將ChatGPT引入自己的應(yīng)用中。

      4、OpenAI將避免與他們的客戶競爭，除了ChatGPT

        許多開發(fā)者表示，他們對使用OpenAI API構(gòu)建產(chǎn)品感到緊張，因為OpenAI最終可能會發(fā)布與他們競爭的產(chǎn)品。對此，奧特曼表示，OpenAI不會發(fā)布更多ChatGPT之外的產(chǎn)品。他說，許多偉大的平臺公司都有自己的殺手級應(yīng)用，ChatGPT將允許他們通過成為自家產(chǎn)品的客戶來改進API。ChatGPT的愿景是成為一個超級智能的工作助手，但還有很多其他的GPT用例是OpenAI無法觸及的。

      5、監(jiān)管是必要的，但開源同樣重要

        雖然奧特曼呼吁對未來的模型進行監(jiān)管，但他并不認為現(xiàn)有的模型是危險的，認為監(jiān)管或禁止它們將是一個大錯誤。奧特曼強調(diào)了開源的重要性，并表示OpenAI正在考慮開源GPT-3。他們還沒有開源的部分原因在于，他懷疑有多少個人和公司有能力托管大語言模型。

      6、縮放定律仍然成立

        最近許多文章都聲稱“巨型人工智能模型的時代已經(jīng)結(jié)束”，但奧特曼表示，這并沒有準確地表達他的意思。

        OpenAI的內(nèi)部數(shù)據(jù)表明，模型性能的縮放定律仍然成立，擴大模型將繼續(xù)可以幫助提升性能。但這種擴展速度無法維持下去，因為OpenAI在短短幾年內(nèi)就把模型放大了數(shù)百萬倍，這樣做是不可持續(xù)的。不過，這并非意味著OpenAI將停止擴大模型，只是意味著它們的規(guī)?？赡苊磕曛粫黾右槐痘蛉?，而不是以指數(shù)級速度增長。

        縮放定律繼續(xù)發(fā)揮作用的事實對通用人工智能（AGI）開發(fā)的時間線具有重要意義。縮放假設(shè)是指，我們可能已經(jīng)具備了構(gòu)建AGI所需的大部分要素，剩下的大部分工作將是采用現(xiàn)有方法，并將其擴展到更大的模型和更大的數(shù)據(jù)集上。如果縮放時代已經(jīng)結(jié)束，那么我們應(yīng)該期待AGI離我們更遙遠。但事實上，縮放定律繼續(xù)成立的事實強烈地暗示了時間線正變得更短。