首頁(yè)|必讀|視頻|專(zhuān)訪|運(yùn)營(yíng)|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片|報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁(yè) >> 頭條資訊 >> 正文

中國(guó)AI企業(yè)創(chuàng)造性壓低大模型成本 部分價(jià)格下降90%以上

2024年10月22日 08:36  愛(ài)集微  作 者:張杰

由于面臨美國(guó)芯片限制和比西方同行更少的預(yù)算,中國(guó)人工智能(AI)公司正在降低成本以創(chuàng)建具有競(jìng)爭(zhēng)力的模型。01.ai(零一萬(wàn)物)和DeepSeek(深度求索)等初創(chuàng)公司通過(guò)采取一些策略來(lái)降低價(jià)格,例如專(zhuān)注于較小的數(shù)據(jù)集來(lái)訓(xùn)練人工智能模型,以及聘請(qǐng)低價(jià)但熟練的計(jì)算機(jī)工程師。

阿里巴巴、百度和字節(jié)跳動(dòng)等大型科技集團(tuán)也展開(kāi)了價(jià)格戰(zhàn),以降低“推理”成本(即調(diào)用大型語(yǔ)言模型生成響應(yīng)的價(jià)格),大模型價(jià)格下降90%以上,僅為美國(guó)同行的一小部分。

總部位于北京的01.ai由前谷歌中國(guó)區(qū)總裁李開(kāi)復(fù)領(lǐng)導(dǎo),該公司表示,通過(guò)構(gòu)建以較少數(shù)據(jù)量進(jìn)行訓(xùn)練、需要較少計(jì)算能力的模型并優(yōu)化硬件,該公司已經(jīng)降低了推理成本。

李開(kāi)復(fù)表示:“中國(guó)的優(yōu)勢(shì)在于制造出真正價(jià)格實(shí)惠的推理引擎,然后讓其應(yīng)用廣泛傳播!

近日,在加州大學(xué)伯克利分校SkyLab和LMSYS的研究人員發(fā)布的排名中,01.ai的Yi-Lightning模型與馬斯克名下公司x.AI的Grok-2在LLM(大模型)公司中并列第三,但落后于OpenAI和谷歌。

評(píng)估基于用戶對(duì)不同模型對(duì)查詢(xún)答案的評(píng)分。字節(jié)跳動(dòng)、阿里巴巴和DeepSeek等其他中國(guó)公司也在大模型排名榜上名列前茅。

01.ai的Yi-Lightning的推理成本為每百萬(wàn)token 14美分,而OpenAI的較小模型GPT o1-mini的推理成本為26美分。與此同時(shí),OpenAI規(guī)模更大的GPT 4o的推理成本為每百萬(wàn)token 4.40美元。用于生成響應(yīng)的token數(shù)量取決于查詢(xún)的復(fù)雜性。

李開(kāi)復(fù)還表示,Yi-Lightning的“預(yù)訓(xùn)練”成本為300萬(wàn)美元,初始模型訓(xùn)練之后可以針對(duì)不同用例進(jìn)行微調(diào)或定制。這只是OpenAI等公司對(duì)其大型模型所報(bào)成本的一小部分。他補(bǔ)充說(shuō),其目標(biāo)不是擁有“最佳模型”,而是一個(gè)具有競(jìng)爭(zhēng)力的模型,開(kāi)發(fā)人員使用它來(lái)構(gòu)建應(yīng)用程序的成本“要低5到10倍”。

01.ai、DeepSeek、MiniMax、Stepfun等許多中國(guó)人工智能團(tuán)體都采用了所謂的“混合專(zhuān)家模型(MoE)”方法,這一策略首先由美國(guó)研究人員推廣。

該方法不是在從互聯(lián)網(wǎng)和其他來(lái)源抓取數(shù)據(jù)的龐大數(shù)據(jù)庫(kù)上一次性訓(xùn)練一個(gè)“密集模型”,而是結(jié)合了許多針對(duì)行業(yè)特定數(shù)據(jù)進(jìn)行訓(xùn)練的神經(jīng)網(wǎng)絡(luò)。

研究人員認(rèn)為,混合專(zhuān)家模型方法是實(shí)現(xiàn)與密集模型相同智能水平但計(jì)算能力較低的關(guān)鍵方法。但這種方法更容易失敗,因?yàn)楣こ處煴仨殔f(xié)調(diào)多個(gè)“專(zhuān)家”的訓(xùn)練過(guò)程,而不是在一個(gè)模型中。

由于難以獲得穩(wěn)定充足的高端人工智能芯片供應(yīng),中國(guó)人工智能企業(yè)在過(guò)去一年中一直在競(jìng)相開(kāi)發(fā)最高質(zhì)量的數(shù)據(jù)集,以訓(xùn)練這些“專(zhuān)家”,從而使自己在競(jìng)爭(zhēng)中脫穎而出。

李開(kāi)復(fù)說(shuō):“中國(guó)的優(yōu)勢(shì)不在于在預(yù)算不受限制的情況下,進(jìn)行前所未有的突破性研究。中國(guó)的優(yōu)勢(shì)在于建設(shè)得好、快、可靠且便宜!

編 輯:路金娣
飛象網(wǎng)版權(quán)及免責(zé)聲明:
1.本網(wǎng)刊載內(nèi)容,凡注明來(lái)源為“飛象網(wǎng)”和“飛象原創(chuàng)”皆屬飛象網(wǎng)版權(quán)所有,未經(jīng)允許禁止轉(zhuǎn)載、摘編及鏡像,違者必究。對(duì)于經(jīng)過(guò)授權(quán)可以轉(zhuǎn)載,請(qǐng)必須保持轉(zhuǎn)載文章、圖像、音視頻的完整性,并完整標(biāo)注作者信息和飛象網(wǎng)來(lái)源。
2.凡注明“來(lái)源:XXXX”的作品,均轉(zhuǎn)載自其它媒體,在于傳播更多行業(yè)信息,并不代表本網(wǎng)贊同其觀點(diǎn)和對(duì)其真實(shí)性負(fù)責(zé)。
3.如因作品內(nèi)容、版權(quán)和其它問(wèn)題,請(qǐng)?jiān)谙嚓P(guān)作品刊發(fā)之日起30日內(nèi)與本網(wǎng)聯(lián)系,我們將第一時(shí)間予以處理。
本站聯(lián)系電話為86-010-87765777,郵件后綴為cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
中國(guó)電信李峻:只有當(dāng)人工智能成為公共基礎(chǔ)設(shè)施,才能普惠大眾
精彩專(zhuān)題
2024中國(guó)算力大會(huì)
2024年國(guó)際信息通信展
中國(guó)信科亮相2024年國(guó)際信息通信展
第25屆中國(guó)國(guó)際光電博覽會(huì)
CCTIME推薦
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱(chēng): 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書(shū)面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像