過去50余年,芯片制程迭代沿著摩爾定律滾滾向前,并持續(xù)增強(qiáng)著芯片的算力與性能?,F(xiàn)如今,無論是在SoC上集成越來越多的功能模塊,又或是利用chiplet技術(shù)在先進(jìn)制程下進(jìn)一步提升芯片集成度,都充分展現(xiàn)了芯片性能、功耗和成本的改進(jìn)不能僅僅依賴于制程的升級(jí),而需從不同的維度拓展創(chuàng)新來延續(xù)摩爾定律的“經(jīng)濟(jì)效益”。這導(dǎo)致芯片設(shè)計(jì)變得越來越困難,IP的作用也愈加凸顯,逐漸成為企業(yè)尋求設(shè)計(jì)差異化道路上的“秘鑰”。
日前,在深圳舉辦的第10屆EEVIA年度中國(guó)硬科技媒體論壇暨產(chǎn)業(yè)鏈研創(chuàng)趨勢(shì)展望研討會(huì)上,Imagination產(chǎn)品市場(chǎng)高級(jí)經(jīng)理黃音在演講中表示,半導(dǎo)體行業(yè)對(duì)高性能SoC 需求的增長(zhǎng)提振了IP技術(shù)市場(chǎng),作為全球領(lǐng)先的半導(dǎo)體IP供應(yīng)商,Imagination正緊隨市場(chǎng)發(fā)展趨勢(shì),持續(xù)進(jìn)行技術(shù)創(chuàng)新,其核心領(lǐng)域的IP技術(shù)演變折射了未來一些熱門應(yīng)用顯著的需求變化。
Imagination產(chǎn)品市場(chǎng)高級(jí)經(jīng)理黃音在論壇上介紹Imagination IP技術(shù)如何賦能未來硬核科技創(chuàng)新
“倒金字塔”讓IP供應(yīng)商的價(jià)值重新被審視
隨著服務(wù)器市場(chǎng)蓬勃發(fā)展,物聯(lián)網(wǎng)與AIoT應(yīng)用普及落地,5G+人工智能等技術(shù)賦能經(jīng)濟(jì)社會(huì)數(shù)字化轉(zhuǎn)型,黃音表示IP也像蝴蝶一樣,從卵、幼蟲到蝶變的過程反映了應(yīng)用市場(chǎng)需求的這種變化,并推動(dòng)技術(shù)不斷發(fā)展,越來越多的半導(dǎo)體廠商開始考慮借助外力,例如專業(yè)的IP公司在某一個(gè)領(lǐng)域提供完整的技術(shù)服務(wù),從而降低成本并節(jié)省產(chǎn)品進(jìn)入市場(chǎng)的時(shí)間。
IP作為經(jīng)驗(yàn)證可復(fù)用的芯片設(shè)計(jì)模塊,從市場(chǎng)價(jià)值來看,其全球市場(chǎng)規(guī)模約為50億美元,但卻撬動(dòng)著6000億美元的半導(dǎo)體產(chǎn)業(yè)不斷演進(jìn),并賦能1.4萬億的電子信息制造業(yè)持續(xù)發(fā)展。黃音補(bǔ)充道:“據(jù)lPnest數(shù)據(jù)統(tǒng)計(jì),在年均600多億美元的全球芯片研發(fā)開支中,IP研發(fā)投入只占6%約36億,但其價(jià)值和影響力卻遠(yuǎn)遠(yuǎn)超出用金錢衡量的份額。IP作為整個(gè)半導(dǎo)體上游產(chǎn)業(yè)鏈里的核心,每一元芯片能撐起200多元的社會(huì)經(jīng)濟(jì),而每一元IP能支持20000元的社會(huì)經(jīng)濟(jì)價(jià)值。”
數(shù)十億美元的IP行業(yè)支撐著數(shù)千億美元的半導(dǎo)體行業(yè)
為何小小的IP,卻如此重要。芯片巨頭公司擁有足夠的技術(shù)、人才和資金儲(chǔ)備,能夠面向巨大市場(chǎng)的挑戰(zhàn),而中小型公司及創(chuàng)業(yè)公司,在資源的約束下只能專注于某些細(xì)分市場(chǎng)。但無論公司的體量是大是小,都面臨著激烈的市場(chǎng)競(jìng)爭(zhēng),都希望形成技術(shù)壁壘和強(qiáng)大的生態(tài)系統(tǒng)以更好地生存。而在近乎無限的科技海洋中,沒有任何一家公司能精通一切。而IP廠商們能夠以某個(gè)領(lǐng)域的專業(yè)技術(shù)能力和經(jīng)驗(yàn),提供部分核心技術(shù)的成熟產(chǎn)品,協(xié)助芯片設(shè)計(jì)公司和系統(tǒng)廠商,加快技術(shù)的產(chǎn)業(yè)化周期,提升靈活性和市場(chǎng)反應(yīng)速度,降低了研發(fā)風(fēng)險(xiǎn)、運(yùn)營(yíng)成本,加速產(chǎn)品上市和增加利潤(rùn),幫助企業(yè)專注于自身核心競(jìng)爭(zhēng)力的發(fā)展,也是其實(shí)現(xiàn)差異化的關(guān)鍵競(jìng)爭(zhēng)要素之一。
“Imagination技術(shù)創(chuàng)新始終聚焦于功能的豐富和面積、性能與功耗優(yōu)化,并致力于實(shí)現(xiàn)最佳的能效比,為客戶創(chuàng)造不可復(fù)制的核心價(jià)值。”黃音進(jìn)一步說到,“對(duì)于IP廠商來說,PPA的三個(gè)維度都是重點(diǎn)考量的標(biāo)準(zhǔn),而Imagination的IP產(chǎn)品通過合理調(diào)整三個(gè)維度的占比,來完成對(duì)不同市場(chǎng)的適應(yīng)能力,目前已在手機(jī)、PC、平板、汽車、桌面服務(wù)器、數(shù)據(jù)中心等領(lǐng)域得到了廣泛應(yīng)用。”
追求最佳PPA,30多年技術(shù)積淀賦能獨(dú)特的GPU IP創(chuàng)新
從市場(chǎng)發(fā)展趨勢(shì)來看,隨著數(shù)據(jù)中心服務(wù)器規(guī)模不斷擴(kuò)大,靈活性與可擴(kuò)展性正驅(qū)動(dòng)IP核供應(yīng)商的技術(shù)演變,而功耗、帶寬與安全性是芯片設(shè)計(jì)繞不過的坎兒,針對(duì)這些需求如何在技術(shù)層面進(jìn)行創(chuàng)新則是整個(gè)行業(yè)關(guān)注的焦點(diǎn)。黃音在演講中自信表示Imagination基于在 GPU IP領(lǐng)域三十多年的經(jīng)驗(yàn)技術(shù)積累,以多項(xiàng)獨(dú)有的專利和核心技術(shù)構(gòu)筑了行業(yè)領(lǐng)先的價(jià)值壁壘。
靈活可擴(kuò)展的GPU硬件架構(gòu)技術(shù)
Imagination的GPU硬件架構(gòu),有非常好的靈活性和延展性,根據(jù)不同的市場(chǎng)和產(chǎn)品需求,單核GPU可以配置為從1PPC、2PPC直到64PPC等不同規(guī)格,根據(jù)低、中、高不同需求可進(jìn)行多個(gè)不同圖像處理能力、浮點(diǎn)運(yùn)算能力的搭配。如果需要更大規(guī)模的配置,還可以進(jìn)一步提供松耦合的多核架構(gòu),甚至是幾個(gè)多核單元的聯(lián)合架構(gòu),以滿足超高性能超大算力的PC、服務(wù)器等產(chǎn)品需求。
Imagination的松耦合多核架構(gòu)技術(shù),能在單個(gè)芯片內(nèi)靈活地切換模式,比如在需要高性能時(shí)可以作為單GPU多核協(xié)同工作,進(jìn)行聯(lián)合渲染和計(jì)算;在需要并行的計(jì)算多個(gè)不同業(yè)務(wù)時(shí),可以作為多個(gè)單核GPU分別獨(dú)立工作,互不干擾,非常實(shí)用。而這個(gè)松耦合的技術(shù),甚至可以延展到多顆芯片之間,把一個(gè)多核GPU,合理分布到不同的芯片die上,再通過chiplet技術(shù),使它們重新連接起來,能實(shí)現(xiàn)與單芯片一樣的靈活的模式切換,既能多核聯(lián)合渲染和計(jì)算,又能分別獨(dú)立工作。在當(dāng)今瞬息萬變的市場(chǎng)環(huán)境下,這種技術(shù)給芯片設(shè)計(jì)公司提供了不需要重新流片就擁有的高靈活性和高擴(kuò)展性,可以應(yīng)對(duì)市場(chǎng)需求靈活轉(zhuǎn)身。
分塊延遲渲染技術(shù)(TBDR)
在GPU的渲染技術(shù)上,與桌面GPU通常使用的立即渲染模式不同,Imagination業(yè)內(nèi)最早提出并采用了分塊延遲渲染(Tile-based Deferred Rendering,TBDR)技術(shù),在頂點(diǎn)著色和光柵化之后加入了延遲環(huán)節(jié),充分利用系統(tǒng)內(nèi)存并通過只渲染可見的像素片段,放棄被覆蓋或被遮擋的像素片段來大幅提高整體效率,提供更高渲染性能的同時(shí)對(duì)帶寬和功耗的要求更低。TBDR技術(shù),在帶寬有效利用、工作負(fù)載高效分配和處理上,有明顯的技術(shù)優(yōu)勢(shì),這是其獨(dú)到之處。
Imagination的分塊延遲渲染(TBDR)技術(shù)
IMGIC壓縮技術(shù)
為節(jié)省帶寬,目前業(yè)內(nèi)SoC芯片大多采用硬件壓縮技術(shù),據(jù)黃音介紹,IMGIC壓縮技術(shù)可以同時(shí)支持像素完全無損壓縮和有損壓縮,有損壓縮支持四種壓縮等級(jí),包括壓縮率分別為75%(質(zhì)量接近完美)、50%(視覺無損)、37.5%(一定損失)、25%(最節(jié)省帶寬)的有損壓縮。無損壓縮之后,與原圖沒有差別,還能節(jié)省平均50%左右的帶寬。有損壓縮,則能根據(jù)配置的壓縮等級(jí),同時(shí)將帶寬、圖片存儲(chǔ)尺寸壓縮到指定比例,進(jìn)行有效節(jié)省,且在大部分情況下,肉眼很難察覺出壓縮后的圖片差異。
GPU硬件虛擬化
值得一提是,Imagination還是業(yè)界第一家實(shí)現(xiàn)GPU硬件虛擬化IP授權(quán)的公司,并已廣泛應(yīng)用于眾多車型中。黃音解釋道在汽車應(yīng)用中,利用硬件虛擬化技術(shù),OEM廠商可以實(shí)現(xiàn)服務(wù)與應(yīng)用程序的完全隔離,以確保在系統(tǒng)被入侵或數(shù)據(jù)毀損的情況下仍能保持安全。GPU硬件虛擬化解決方案可最多同時(shí)支持八個(gè)各自獨(dú)立的容器以運(yùn)行應(yīng)用程序或服務(wù),汽車 OEM 廠商能任意部署并移除服務(wù)和應(yīng)用,完全不會(huì)影響其他同時(shí)運(yùn)行的容器中的服務(wù)和應(yīng)用。除了隔離,硬件虛擬化技術(shù)還支持對(duì)多個(gè)汽車OS和應(yīng)用之間,靈活地調(diào)整業(yè)務(wù)優(yōu)先級(jí)和分配GPU性能,節(jié)省軟硬件成本。
基于固件的GPU
此外在許多架構(gòu)中,硬件圖形事件是由圖形驅(qū)動(dòng)程序在CPU上處理的,但I(xiàn)magination首創(chuàng)的基于固件的GPU能夠在內(nèi)部以超低延遲處理大多數(shù)圖形事件,這種方法還減少了圖形驅(qū)動(dòng)程序的主機(jī)CPU開銷,并提供了大量有益的額外特性,例如在GPU出錯(cuò)的時(shí)候,采集全部的數(shù)據(jù)日志進(jìn)行錯(cuò)誤分析,通過GPIO連接外部的攝像頭或壓縮解壓縮的設(shè)備進(jìn)行功耗的控制等。
“得益于諸如此類獨(dú)有的核心技術(shù),Imagination王牌IP核產(chǎn)品PowerVR GPU誕生30年,為3D、2D圖形及高性能GPU計(jì)算提供了行業(yè)領(lǐng)先的高效靈活解決方案。”黃音進(jìn)一步補(bǔ)充道,“2019年,Imagination的GPU架構(gòu)有了很大的升級(jí),推出了A系列AXT GPU,作為Imagination的第十代核,相較于第九代性能密度比提高了2.5倍,擁有更完善的運(yùn)算邏輯單元,提高了紋理處理的能力,能夠配置Cache Size,而且優(yōu)化了壓縮算法;2020年,推出B系列BXT GPU產(chǎn)品開始支持多核技術(shù),并且在算力上進(jìn)行了優(yōu)化,在微架構(gòu)上進(jìn)行了微調(diào);2021年,推出的C系列CXT GPU增加了光線追蹤(RAC)的核可以做到硬件光追加速,以滿足不同的產(chǎn)品需求。"
從2019年到2022年,Imagination 陸續(xù)推出性能強(qiáng)大的GPU IP系列
構(gòu)建算力新生態(tài),迎接異構(gòu)計(jì)算機(jī)遇與挑戰(zhàn)
過去的50年是算法和算力發(fā)展的50年,計(jì)算的創(chuàng)新和演進(jìn)聚焦于可擴(kuò)展性、靈活性、效能、效率以及可編程性上。而當(dāng)數(shù)據(jù)大爆發(fā)帶來了AI計(jì)算的需求,包括SoC設(shè)計(jì)公司在內(nèi)的芯片公司,都在追求更高性能、更低功耗、更節(jié)省帶寬的方案,異構(gòu)計(jì)算便是必由之路。這需要在硬件和SoC整體設(shè)計(jì)上采用異構(gòu)解決方案,把不同類型的核進(jìn)行集成,如CPU、GPU、NPU、神經(jīng)網(wǎng)絡(luò)加速單元等進(jìn)行疊加,對(duì)數(shù)據(jù)進(jìn)行專業(yè)分工和更先進(jìn)的處理。
針對(duì)異構(gòu)計(jì)算的趨勢(shì),據(jù)黃音介紹,Imagination將從多個(gè)方向進(jìn)行創(chuàng)新。首先GPU將持續(xù)在多核架構(gòu)上演進(jìn)、在性能跟功耗上優(yōu)化。黃音指出:“Imagination的GPU架構(gòu)支持16和32位浮點(diǎn)運(yùn)算(FLOAT Operation),以及INT 8/16/32定點(diǎn)運(yùn)算,而紋理處理單元、反扭曲處理、基礎(chǔ)過濾、結(jié)合著色器做更加復(fù)雜的過濾……這些都能通過GPU里的不同運(yùn)算器來實(shí)現(xiàn)。” 從A系列開始,PowerVR GPU使用了全新的算術(shù)邏輯單元(ALU)架構(gòu)、調(diào)度更簡(jiǎn)單的引擎,可以在相同的芯片面積和功耗預(yù)算中使用更多的通道,完全擁抱大規(guī)模線程級(jí)并行的設(shè)計(jì)趨勢(shì),并簡(jiǎn)化編譯器工作,從而獲得更高的利用率和效率。
Imagination針對(duì)異構(gòu)計(jì)算在IP架構(gòu)上的創(chuàng)新技術(shù)
Imagination也擁有業(yè)界領(lǐng)先的神經(jīng)網(wǎng)絡(luò)加速器NNA,采用全硬化的神經(jīng)網(wǎng)絡(luò)加速方法學(xué),達(dá)到業(yè)界領(lǐng)先的PPA。作為異構(gòu)計(jì)算的主力和最高效的部分,NNA擁有著相比CPU和GPU更大的算力和更高的算力密度,承載著大部分的計(jì)算任務(wù)。
不僅如此,在2021年底 Imagination 宣布推出全新RISC-V CPU核Catapult,作為對(duì)GPU和NNA的有效補(bǔ)充,CPU發(fā)揮其在控制流和靈活性上的優(yōu)勢(shì),高效地控制和調(diào)度好GPU和NNA進(jìn)行計(jì)算,同時(shí)也在整體上高效地查漏補(bǔ)缺,是異構(gòu)計(jì)算中不可或缺的一環(huán)。
其次,在軟件與系統(tǒng)層面,Imagination為異構(gòu)計(jì)算提供了統(tǒng)一、開放并且標(biāo)準(zhǔn)的工具鏈,支持標(biāo)準(zhǔn)的framework操作,同時(shí)為了消除數(shù)據(jù)瓶頸,對(duì)存儲(chǔ)、安全進(jìn)行了創(chuàng)新性優(yōu)化,使開發(fā)者可以快速靈活地把他們的應(yīng)用部署在異構(gòu)計(jì)算架構(gòu)上。在整個(gè)工具鏈中,無論是從編譯準(zhǔn)備還是到設(shè)備端實(shí)現(xiàn)異構(gòu)運(yùn)算,Imagination為開發(fā)者提供了豐富的部署和優(yōu)化功能,包括可以幫助開發(fā)者確定量化策略,滿足符合其應(yīng)用性能和精度的要求,并最大程度將靈活性留給開發(fā)者。
異構(gòu)計(jì)算具體到應(yīng)用層面,黃音表示在汽車行業(yè)Imagination與芯片廠商、Tier-1廠商合作以及OEM廠商積極展開生態(tài)合作,提供IP整體解決方案,重塑與車輛的交互方式。目前Imagination也是汽車行業(yè)最大的GPU IP供應(yīng)商,在駕艙領(lǐng)域擁有約51%的市場(chǎng)份額。
在游戲、VR/AR等應(yīng)用中,硬件實(shí)時(shí)光線追蹤技術(shù)是Imagination最早提出來并實(shí)現(xiàn)的。光線追蹤可以在不同的性能和效率等級(jí)下實(shí)現(xiàn),為了明確這一點(diǎn),Imagination 建立了光線追蹤等級(jí)系統(tǒng)(RTLS),確定了從Level 0到Level 5共6個(gè)等級(jí)的光線追蹤功能的要求。IMG CXT采用的Photon架構(gòu)處于RTLS的4級(jí)(Level 4),這是當(dāng)前可用的最先進(jìn)的硬件光線追蹤技術(shù),應(yīng)用在移動(dòng)端可為移動(dòng)游戲玩家和開發(fā)者提供實(shí)時(shí)硬件光線追蹤和桌面級(jí)質(zhì)量的體驗(yàn)。
邁入真正的智能時(shí)代,數(shù)字化技術(shù)成為剛需,這離不開芯片的加持,無論是移動(dòng)設(shè)備、汽車和電器等數(shù)字消費(fèi)應(yīng)用,還是數(shù)據(jù)中心、服務(wù)器等基礎(chǔ)設(shè)施行業(yè),都需要越來越多利用先進(jìn)的IP技術(shù)賦能。黃音展望道:“成立30多年來,Imagination一直致力提供高性能IP產(chǎn)品與解決方案,而Imagination在技術(shù)上的領(lǐng)先既被市場(chǎng)驅(qū)動(dòng),也引領(lǐng)市場(chǎng)發(fā)展,未來Imagination同樣將緊隨市場(chǎng)脈絡(luò),提高IP核的可擴(kuò)展性、靈活性和效率,并通過創(chuàng)建強(qiáng)大的異構(gòu)計(jì)算解決方案,在移動(dòng)、汽車、桌面和數(shù)據(jù)中心等多元化市場(chǎng)中發(fā)掘軟件、數(shù)據(jù)和服務(wù)的價(jià)值。”