2020久久精品国产免费,久久综合偷偷噜噜噜色,国产不卡毛片视频,成人在线免费小视频

新華通訊社主管

首頁(yè) >> 正文

李開(kāi)復(fù):AI大模型產(chǎn)業(yè)如何找到“算力”最優(yōu)解
2024-06-17 記者 熊琳 來(lái)源: 經(jīng)濟(jì)參考報(bào)

  “隨著AI從1.0進(jìn)入2.0大模型技術(shù)階段,我們迎來(lái)了有史以來(lái)最重要的科技革命和平臺(tái)革命。”零一萬(wàn)物CEO、創(chuàng)新工場(chǎng)董事長(zhǎng)李開(kāi)復(fù)日前在接受記者采訪時(shí)表示,算力作為AI 2.0發(fā)展的關(guān)鍵環(huán)節(jié),需要采用更務(wù)實(shí)、更統(tǒng)籌優(yōu)化的方法來(lái)應(yīng)對(duì)當(dāng)前的挑戰(zhàn)。未來(lái),期待著人工智能尖端企業(yè)能夠更廣泛、深入?yún)⑴c到國(guó)家AI算力建設(shè)中來(lái),各方優(yōu)勢(shì)資源充分融合,更好賦能AI大模型產(chǎn)業(yè)發(fā)展。

  “多地正在積極建設(shè)超算中心,打造國(guó)家級(jí)的算力底座,促進(jìn)超算算力一體化運(yùn)營(yíng),是非常好的探索和嘗試。”李開(kāi)復(fù)認(rèn)為,超算中心匯聚云計(jì)算、大數(shù)據(jù)和人工智能研發(fā)等多重功能及要素,聚集了豐富的AI發(fā)展資源和動(dòng)能,未來(lái)可期。如何更好發(fā)揮各方優(yōu)勢(shì)構(gòu)建超強(qiáng)AI算力,或可從以下四個(gè)方面入手:

  首先,遵循規(guī)模定律(Scaling Law),提升計(jì)算效率。大模型規(guī)模定律的重要性在這個(gè)時(shí)代得以凸顯——人類(lèi)能夠用更多計(jì)算和數(shù)據(jù)不斷增加大模型的智慧,這條被多方驗(yàn)證的路徑還在推進(jìn)中,還遠(yuǎn)沒(méi)有觸達(dá)天花板。

  同時(shí),大模型的智慧來(lái)自于接近無(wú)損的壓縮,這點(diǎn)也非常重要。因?yàn)橐?guī)模定律過(guò)程中不能盲目堆更多的GPU,所以需要有一個(gè)方法評(píng)估大模型企業(yè)有沒(méi)有越做越好或者哪個(gè)方法做得更好。遵循規(guī)模定律也成為當(dāng)前諸多大模型企業(yè)規(guī)模化應(yīng)用大模型時(shí)嘗試突破算力限制,將計(jì)算效率最優(yōu)化的有效途徑之一。

  零一萬(wàn)物內(nèi)部有嚴(yán)謹(jǐn)?shù)南嚓P(guān)方法論,且用壓縮的理念去評(píng)估,讓以往漫無(wú)目的訓(xùn)模過(guò)程變得更系統(tǒng)、更科學(xué)并有數(shù)學(xué)根據(jù),較大提升了自身大模型的計(jì)算效率。

  第二,加強(qiáng)“模基共建”,尋找算力最優(yōu)解。目前,發(fā)達(dá)國(guó)家AI領(lǐng)域GPU的數(shù)量和規(guī)模是我國(guó)的數(shù)倍左右,面對(duì)這樣的差距,我們需要采取更務(wù)實(shí)有效的舉措——自研AI Infra(AI Infrastructure人工智能基礎(chǔ)架構(gòu)技術(shù))。AI Infra主要涵蓋大模型訓(xùn)練和部署提供各種底層技術(shù)設(shè)施。在國(guó)外一線大廠,最高效訓(xùn)練模型的方式是算法與Infra共建,不僅關(guān)注模型架構(gòu),而是從優(yōu)化底層訓(xùn)練方法出發(fā)。零一萬(wàn)物自成立起便將自研AI Infra設(shè)立為重要方向,選擇跟國(guó)際一線梯隊(duì)齊平的“模基共建”戰(zhàn)略,模型團(tuán)隊(duì)和AI Infra團(tuán)隊(duì)高度共建,人數(shù)比為1:1。零一萬(wàn)物在此基礎(chǔ)上自研了人工智能基礎(chǔ)架構(gòu)技術(shù),從底層優(yōu)化訓(xùn)練方法,較大節(jié)省成本,找到了當(dāng)前條件下算力運(yùn)用的優(yōu)質(zhì)路徑。從零一萬(wàn)物國(guó)際領(lǐng)先的千億參數(shù)大模型“Yi-Large”訓(xùn)練過(guò)程來(lái)看,經(jīng)優(yōu)化后,Yi-Large千億參數(shù)模型的訓(xùn)練成本同比大幅下降。

  第三,打造“模應(yīng)一體”,探尋TC-PMF(Product-Market-Technology-Cost Fit,技術(shù)成本×產(chǎn)品市場(chǎng)契合度)。在大模型時(shí)代,模型訓(xùn)練和推理成本構(gòu)成了幾乎每個(gè)創(chuàng)業(yè)公司都必須要面對(duì)的增長(zhǎng)陷阱。用戶增長(zhǎng)需要優(yōu)質(zhì)的應(yīng)用,而優(yōu)質(zhì)應(yīng)用離不開(kāi)強(qiáng)大的基座模型,強(qiáng)大基座模型的背后往往是高昂的訓(xùn)練成本,接著還需要考慮隨用戶規(guī)模增長(zhǎng)的推理成本。能夠率先察覺(jué)、并達(dá)到 TC-PMF這一普惠點(diǎn)的企業(yè)無(wú)疑會(huì)占盡先機(jī)。要做到這一點(diǎn),模型、AI Infra、應(yīng)用這“三位一體”的優(yōu)異能力缺一不可。基于此,零一萬(wàn)物將“模應(yīng)一體”與“模基共建”一同列為公司的頂層核心戰(zhàn)略,在人才密度和協(xié)作方式上,也快速打磨出一整套能夠融合不同專業(yè)的優(yōu)秀人才跨界共創(chuàng)的組織體系。基座模型、AI Infra、API、C端應(yīng)用AI助手“萬(wàn)知”,這些全棧式業(yè)務(wù)部署,使得零一萬(wàn)物能夠以更全面的視野來(lái)看待大模型時(shí)代的增長(zhǎng)陷阱,也為其在應(yīng)用層的商業(yè)落地帶來(lái)了更大發(fā)揮空間。

  第四,充分發(fā)揮尖端AI企業(yè)示范優(yōu)勢(shì)。李開(kāi)復(fù)認(rèn)為,我國(guó)在發(fā)展AI算力等領(lǐng)域具有一定優(yōu)勢(shì)。除了豐富的大數(shù)據(jù)資源外,我國(guó)的社會(huì)資源動(dòng)員力、融合度較高,在科研、應(yīng)用領(lǐng)域的研發(fā)效率、落地效果較好。同時(shí),我國(guó)有非常多卓越的互聯(lián)網(wǎng)企業(yè)和現(xiàn)象級(jí)App應(yīng)用,比如抖音、美團(tuán)等等,這些企業(yè)在AI算力、算法領(lǐng)域的探索有用戶支持作為基礎(chǔ),企業(yè)更易研發(fā)出更具有前瞻性、應(yīng)用性的應(yīng)用,是AI大模型產(chǎn)業(yè)發(fā)展的重要推力。“未來(lái),希望國(guó)家級(jí)超算中心、國(guó)內(nèi)可靠尖端AI企業(yè)、多領(lǐng)域企業(yè)間能夠增強(qiáng)資源的整合利用,充分發(fā)揮各方優(yōu)勢(shì),更好融合發(fā)展,為AI更好賦能千行百業(yè)發(fā)展再添新動(dòng)能。”

凡標(biāo)注來(lái)源為“經(jīng)濟(jì)參考報(bào)”或“經(jīng)濟(jì)參考網(wǎng)”的所有文字、圖片、音視頻稿件,及電子雜志等數(shù)字媒體產(chǎn)品,版權(quán)均屬《經(jīng)濟(jì)參考報(bào)》社有限責(zé)任公司,未經(jīng)書(shū)面授權(quán),不得以任何形式刊載、播放。獲取授權(quán)

“進(jìn)”的勢(shì)頭更勁 “穩(wěn)”的基礎(chǔ)更牢

“進(jìn)”的勢(shì)頭更勁 “穩(wěn)”的基礎(chǔ)更牢

長(zhǎng)春,被譽(yù)為新中國(guó)汽車(chē)工業(yè)搖籃,制造出第一輛汽車(chē)、第一輛東風(fēng)牌小轎車(chē)、第一輛紅旗牌高級(jí)轎車(chē)。

·深入實(shí)施創(chuàng)新驅(qū)動(dòng)發(fā)展戰(zhàn)略 吉林國(guó)企加速跑

《經(jīng)濟(jì)參考報(bào)》社有限責(zé)任公司版權(quán)所有 本站所有新聞內(nèi)容未經(jīng)協(xié)議授權(quán),禁止轉(zhuǎn)載使用

新聞線索提供熱線:010-63074375 63072334 報(bào)社地址:北京市宣武門(mén)西大街57號(hào)

JJCKB.CN 京ICP備18039543號(hào)

010140010080000000000000011100001310778519