然而,只要嘗試在本地設(shè)備中部署AI能力后,就能發(fā)現(xiàn),端側(cè)AI很好很強(qiáng)大,但有些對(duì)于普通消費(fèi)者來(lái)說(shuō)的隱憂,廠商并沒(méi)有主動(dòng)提及。">
首頁(yè)|必讀|視頻|專(zhuān)訪|運(yùn)營(yíng)|制造|監(jiān)管|大數(shù)據(jù)|物聯(lián)網(wǎng)|量子|元宇宙|博客|特約記者
手機(jī)|互聯(lián)網(wǎng)|IT|5G|光通信|人工智能|云計(jì)算|芯片|報(bào)告|智慧城市|移動(dòng)互聯(lián)網(wǎng)|會(huì)展
首頁(yè) >> 必讀 >> 正文

端側(cè)AI很好很強(qiáng)大,但有些隱憂廠商沒(méi)有說(shuō)

2024年1月4日 08:37  CCTIME飛象網(wǎng)  作 者:魏德齡

飛象網(wǎng)訊(魏德齡/文)這個(gè)冬天,無(wú)論是電腦還是手機(jī),端側(cè)AI能力都成為電子產(chǎn)品的新促銷(xiāo)點(diǎn),無(wú)需連接網(wǎng)絡(luò)就能讓本地產(chǎn)品獲得如同ChatGPT般的能力,并且通過(guò)對(duì)于模型與算法的優(yōu)化,還能獲得極快的響應(yīng)速度。

然而,只要嘗試在本地設(shè)備中部署AI能力后,就能發(fā)現(xiàn),端側(cè)AI很好很強(qiáng)大,但有些對(duì)于普通消費(fèi)者來(lái)說(shuō)的隱憂,廠商并沒(méi)有主動(dòng)提及。

吃緊的硬盤(pán)空間

如今,硬盤(pán)空間無(wú)疑成為了廠商在銷(xiāo)售電子產(chǎn)品時(shí),獲得更高價(jià)格空間的重要手段。很多用戶往往無(wú)法選擇購(gòu)買(mǎi)最低硬盤(pán)空間的起售價(jià)格產(chǎn)品。以智能手機(jī)為例,最低的起售價(jià)格,往往意味著128GB/256GB的存儲(chǔ)空間,對(duì)于喜歡玩游戲或拍攝視頻的用戶來(lái)說(shuō),這樣的空間往往捉襟見(jiàn)肘。

不少大型游戲動(dòng)輒30GB左右,隨著蘋(píng)果開(kāi)始在手機(jī)側(cè)布局3A大作,未來(lái)這一趨勢(shì)還將愈發(fā)明顯。而隨著手機(jī)攝像頭像素的提升,支持的視頻格式愈發(fā)高階,在給用戶帶來(lái)更高畫(huà)質(zhì)、更多后期可調(diào)空間的情況下,也讓存儲(chǔ)空間更加吃緊,甚至在iPhone 15 Pro系列中,如果想拍攝4K的ProRes視頻就必須外接固態(tài)硬盤(pán)。

端側(cè)AI的實(shí)現(xiàn)除了需要在本地設(shè)備中安裝可執(zhí)行的應(yīng)用程序與環(huán)境,更重要的是需要配置好對(duì)應(yīng)相關(guān)任務(wù)的模型,以目前無(wú)論是PC還是手機(jī)廠商都喜歡進(jìn)行演示的Stable Diffusion為例,內(nèi)置的模型就至少需要7GB的空間,完整版為15GB,而如果用戶對(duì)于相關(guān)畫(huà)風(fēng)、細(xì)節(jié)有要求,甚至是希望生成出Gif動(dòng)畫(huà)效果,同樣需要再下載其它模型。一套讓端側(cè)設(shè)備實(shí)現(xiàn)文字生圖能力的應(yīng)用,在安裝完成后所占據(jù)的空間,很可能與一款大型游戲不相上下。

同理,若想實(shí)現(xiàn)類(lèi)似于ChatGPT般的對(duì)話式助理功能,一個(gè)容量為20GB以上的模型同樣少不了。才能有望讓PC或手機(jī)成為用戶的本地工作生活助理,在無(wú)需網(wǎng)絡(luò)依賴的情況下,具備撰寫(xiě)簡(jiǎn)單的文檔、回答相關(guān)問(wèn)題,或是規(guī)劃旅行日程等能力。

 

系統(tǒng)臃腫的隱憂

對(duì)于玩過(guò)大型游戲的用戶來(lái)說(shuō),每次版本迭代時(shí)的更新無(wú)疑都會(huì)經(jīng)歷一個(gè)漫長(zhǎng)的過(guò)程,而如果手機(jī)或PC廠商將本地AI能力與自身操作系統(tǒng)相結(jié)合,由于其所占據(jù)的較大硬盤(pán)空間,無(wú)疑將會(huì)讓操作系統(tǒng)本身的容量變得較為臃腫。

小米14系列發(fā)布會(huì)上曾經(jīng)公布了這樣一張標(biāo)注有手機(jī)固件大小的PPT,友商A、B、C、D的固件大小容量分別為11.36GB、12.64GB、20.61GB、21.20GB。顯然,如果不對(duì)模型進(jìn)行進(jìn)一步精簡(jiǎn),手機(jī)操作系統(tǒng)只是簡(jiǎn)單通過(guò)1+1的方式來(lái)融入端側(cè)AI能力的話,固件容量很可能將會(huì)翻升2-3倍。

這也就引出了另一個(gè)問(wèn)題,本地AI模型同樣有著定期版本升級(jí)的特性,而一旦面臨升級(jí),用戶將會(huì)面臨一個(gè)相對(duì)較長(zhǎng)的下載與替換安裝過(guò)程。這一問(wèn)題目前在工業(yè)互聯(lián)網(wǎng)領(lǐng)域已經(jīng)被業(yè)界所關(guān)注,隨著AI模型開(kāi)始在智能制造領(lǐng)域的嘗試性部署,升級(jí)過(guò)程中的高數(shù)據(jù)量同樣會(huì)產(chǎn)生較長(zhǎng)的設(shè)備更新時(shí)間。

 

質(zhì)量與能耗的取舍

盡管“1秒鐘”已經(jīng)成為了PC與手機(jī)廠商強(qiáng)調(diào)端側(cè)AI能力時(shí)的標(biāo)配指標(biāo),然而廠商很少主動(dòng)表示,1秒鐘所生成的圖片大小,PC一般為512*512,手機(jī)一般為256*256,這一分辨率對(duì)于如今的高分屏?xí)r代來(lái)說(shuō),其實(shí)有些過(guò)于小兒科。

但若想讓圖片的分辨率達(dá)到當(dāng)下普遍接受的水平,則往往需要大量的GPU資源,對(duì)于筆記本或手機(jī)這類(lèi)設(shè)備而言,一方面會(huì)產(chǎn)生不小的發(fā)熱量,另一方面等待時(shí)間也變得較為漫長(zhǎng),進(jìn)而讓使用體驗(yàn)大打折扣。

此外,“1秒鐘”本身也是模型與算法的雙重優(yōu)化結(jié)果,對(duì)于目前很多人所使用的模型而言,還無(wú)法實(shí)現(xiàn)“一秒鐘”的能力,20多秒的等待時(shí)間一般來(lái)說(shuō)是常見(jiàn)的情況,而如果在此過(guò)程中,運(yùn)算較為復(fù)雜,等待時(shí)間則會(huì)十分漫長(zhǎng),部分設(shè)備的發(fā)熱量同樣可以與運(yùn)行大型游戲相媲美。

 

寫(xiě)在最后

端側(cè)AI被業(yè)界視作是2024年挖掘電子產(chǎn)品消費(fèi)新需求的突破口,不過(guò)這項(xiàng)技術(shù)才剛剛開(kāi)始,離“成熟”二字無(wú)疑還有很長(zhǎng)的道路,后續(xù)的快速迭代升級(jí)不可避免。

編 輯:魏德齡
聲明:刊載本文目的在于傳播更多行業(yè)信息,本站只提供參考并不構(gòu)成任何投資及應(yīng)用建議。如網(wǎng)站內(nèi)容涉及作品版權(quán)和其它問(wèn)題,請(qǐng)?jiān)?0日內(nèi)與本網(wǎng)聯(lián)系,我們將在第一時(shí)間刪除內(nèi)容。本站聯(lián)系電話為86-010-87765777,郵件后綴為#cctime.com,冒充本站員工以任何其他聯(lián)系方式,進(jìn)行的“內(nèi)容核實(shí)”、“商務(wù)聯(lián)系”等行為,均不能代表本站。本站擁有對(duì)此聲明的最終解釋權(quán)。
相關(guān)新聞              
 
人物
鄔賀銓?zhuān)捍竽P拖鲁恋绞謾C(jī) 將激活萬(wàn)億元規(guī)模手機(jī)產(chǎn)業(yè)
精彩專(zhuān)題
CES 2024國(guó)際消費(fèi)電子展
2023年信息通信產(chǎn)業(yè)盤(pán)點(diǎn)暨頒獎(jiǎng)禮
飛象網(wǎng)2023年手機(jī)評(píng)選
第24屆中國(guó)國(guó)際光電博覽會(huì)
CCTIME推薦
關(guān)于我們 | 廣告報(bào)價(jià) | 聯(lián)系我們 | 隱私聲明 | 本站地圖
CCTIME飛象網(wǎng) CopyRight © 2007-2024 By CCTIME.COM
京ICP備08004280號(hào)-1  電信與信息服務(wù)業(yè)務(wù)經(jīng)營(yíng)許可證080234號(hào) 京公網(wǎng)安備110105000771號(hào)
公司名稱: 北京飛象互動(dòng)文化傳媒有限公司
未經(jīng)書(shū)面許可,禁止轉(zhuǎn)載、摘編、復(fù)制、鏡像