馬斯克稱將在今年年底訓(xùn)練出全球最強AI。
當(dāng)?shù)貢r間7月22日,特斯拉CEO埃隆·馬斯克在旗下社交平臺X上表示,xAI團隊、X團隊、英偉達(dá)及其他支持公司已經(jīng)于當(dāng)?shù)貢r間凌晨4時20分開始在“孟菲斯超級集群(Memphis Supercluster)”上進(jìn)行訓(xùn)練。
他介紹,“孟菲斯超級集群”由10萬個液冷H100 GPU組成,在單個RDMA結(jié)構(gòu)(即遠(yuǎn)程直接數(shù)據(jù)存儲結(jié)構(gòu),可解決網(wǎng)絡(luò)傳輸中服務(wù)器端數(shù)據(jù)處理的延遲)上運行,是“世界上最強大的人工智能訓(xùn)練集群”。
馬斯克還補充說,目標(biāo)是在今年12月前訓(xùn)練出“按每項指標(biāo)衡量都是世界上最強大的人工智能”。
此前,馬斯克就曾透露,將用該集群訓(xùn)練xAI旗下第三代大語言模型Grok-3。
今年5月份,馬斯克透露,旗下人工智能企業(yè)xAI計劃打造一臺超級計算機,名為“算力的超級工廠”,預(yù)計規(guī)模是市場上最強大競爭對手的四倍。該計算機將采用英偉達(dá)H100 GPU。
一年前,xAI宣布正式成立,并表示公司的宗旨是“了解宇宙的真實本質(zhì)”。xAI在官網(wǎng)表示,“我們是一家獨立于X Corp的公司,但將與X、特斯拉和其他公司密切合作,以實現(xiàn)使命?!?/span>
2023年11月,xAI發(fā)布第一款大模型Grok-1。
本月,馬斯克宣布Grok-2將于8月推出,將帶來更先進(jìn)的AI功能。同時他還透露,Grok-3將使用10萬塊英偉達(dá)H100芯片進(jìn)行訓(xùn)練,預(yù)計將于年底發(fā)布,相信它會“非常特別”。
今年5月份,xAI宣布獲得60億美元B輪融資,主要投資者包括安德森·霍洛維茨基金(Andreessen Horowitz)、紅杉資本(Sequoia Capital)等。xAI的投前估值為180億美元,本輪融資后的投后估值將達(dá)到240億美元。
在AI潮流下,算力已經(jīng)成為科技巨頭們的必爭之地。Meta公司在今年1月透露,公司計劃到今年年底部署35萬塊英偉達(dá)H100 GPU,將Meta的算力擴展到相當(dāng)于60萬塊英偉達(dá)H100 GPU的水平;微軟和OpenAI在計劃構(gòu)建一臺名為“星際之門”的新超級計算機,其成本可能高達(dá)1000億美元,并計劃在2030年完全開發(fā)完成。