?隨著人工智能技術(shù)的不斷發(fā)展,生成式AI成為了終端產(chǎn)業(yè)的新趨勢(shì)。高通和聯(lián)發(fā)科等芯片制造商紛紛推出各自的AI芯片以滿足這一需求。生成式AI的應(yīng)用范圍廣泛,包括語(yǔ)音識(shí)別、圖像識(shí)別、自然語(yǔ)言處理等領(lǐng)域。而手機(jī)作為人們?nèi)粘I钪凶畛S玫闹悄茉O(shè)備,自然成為了生成式AI的重要應(yīng)用場(chǎng)景。
今年上半年,華為、小米和vivo等手機(jī)廠商紛紛宣布將接入大模型,并將其注入手機(jī)端側(cè)。這些大模型都是基于深度學(xué)習(xí)技術(shù),通過(guò)海量數(shù)據(jù)的訓(xùn)練,能夠自主學(xué)習(xí)并逐漸提高各項(xiàng)性能。
通過(guò)將大模型注入手機(jī)端側(cè),手機(jī)廠商可以為用戶提供更加智能化、高效化的服務(wù)。例如,智能語(yǔ)音助手可以幫助用戶通過(guò)語(yǔ)音指令完成各種任務(wù),智能家居控制系統(tǒng)可以自動(dòng)調(diào)節(jié)家居設(shè)備的工作狀態(tài),以實(shí)現(xiàn)節(jié)能環(huán)保的效果,而這些應(yīng)用場(chǎng)景的實(shí)現(xiàn)都離不開AI芯片的支持。
大模型在手機(jī)端的落地,也對(duì)AI芯片的算力能力帶來(lái)了考驗(yàn)。聯(lián)發(fā)科最新推出的天璣9300開創(chuàng)性地設(shè)計(jì)了“全大核”CPU架構(gòu),包含4個(gè)Cortex-X4超大核和4個(gè)主頻為2.0GHz的Cortex-A720大核,這種架構(gòu)的峰值性能相較上一代提升40%,功耗節(jié)省33%。這種全大核架構(gòu)工作速度快、效率高,具有高能效特性,無(wú)論在輕載還是重載應(yīng)用場(chǎng)景中,都能降低功耗、延長(zhǎng)續(xù)航時(shí)間。
全大核架構(gòu)的強(qiáng)勁多線程性能可以讓終端的多任務(wù)處理更加流暢。例如,同時(shí)進(jìn)行游戲和視頻直播,或是在進(jìn)行游戲的同時(shí)播放視頻。此外,由于全大核架構(gòu)的CPU性能和能效得到了顯著提升,因此可以更好地滿足用戶對(duì)于高性能、低功耗手機(jī)的需求。
天璣9300集成MediaTek第七代AI處理器APU 790,為生成式AI而設(shè)計(jì),其性能和能效得到顯著提升。
APU 790內(nèi)置了硬件級(jí)的生成式AI引擎,可實(shí)現(xiàn)更加高速且安全的邊緣AI計(jì)算,深度適配Transformer模型進(jìn)行算子加速,處理速度是上一代的8倍,1秒內(nèi)可生成圖片。
基于億級(jí)參數(shù)大語(yǔ)言模型特性,MediaTek開發(fā)了混合精度 INT4 量化技術(shù),結(jié)合MediaTek特有的內(nèi)存硬件壓縮技術(shù)NeuroPilot Compression,可以更高效地利用內(nèi)存帶寬,大幅減少AI大模型對(duì)終端內(nèi)存的占用,支持終端運(yùn)行10億、70億、130億、最高可達(dá)330億參數(shù)的AI大語(yǔ)言模型。
APU 790 還支持生成式AI模型端側(cè)“技能擴(kuò)充”技術(shù)NeuroPilot Fusion,可以基于基礎(chǔ)大模型持續(xù)在端側(cè)進(jìn)行低秩自適應(yīng)(LoRA,Low-Rank Adaptation)融合,進(jìn)而賦予基礎(chǔ)大模型更加全面的能力。
聯(lián)發(fā)科的AI開發(fā)平臺(tái)NeuroPilot構(gòu)建了豐富的AI生態(tài),支持Android、Meta Llama 2、百度文心一言大模型、百川智能百川大模型等前沿主流AI大模型,完整的工具鏈助力開發(fā)者在端側(cè)快速且高效地部署多模態(tài)生成式AI應(yīng)用,為用戶提供文字、圖像、音樂等終端側(cè)生成式AIc創(chuàng)新體驗(yàn)。
聯(lián)發(fā)科資深副總經(jīng)理暨無(wú)線通信事業(yè)部總經(jīng)理徐敬全博士表示:“天璣9300是MediaTek迄今為止最強(qiáng)大的旗艦移動(dòng)芯片,通過(guò)我們開創(chuàng)性的全大核架構(gòu)設(shè)計(jì),為旗艦智能手機(jī)帶來(lái)令人驚嘆的計(jì)算力突破。據(jù)悉,首款采用 MediaTek 天璣9300芯片的智能手機(jī)預(yù)計(jì)將于2023 年底上市。
隨著終端產(chǎn)業(yè)正式踏上生成式AI這艘大船,AI芯片將成為未來(lái)手機(jī)市場(chǎng)競(jìng)爭(zhēng)的重要焦點(diǎn),而聯(lián)發(fā)科天璣9300 5G生成式AI移動(dòng)芯片的發(fā)布,將帶動(dòng)AI在端側(cè)領(lǐng)域的發(fā)展及普及,為全球用戶帶來(lái)更多前所未有的體驗(yàn)。
(責(zé)任編輯:楊丹丹)
?????????????????????????????????????????????????????運(yùn)營(yíng)商財(cái)經(jīng)(官方微信公眾號(hào)yyscjrd)—— 主流財(cái)經(jīng)網(wǎng)站,一家全面覆蓋科技、金融、證券、汽車、房產(chǎn)、食品、醫(yī)藥、日化、酒業(yè)及其他各種消費(fèi)品網(wǎng)站。