柚子快報(bào)邀請(qǐng)碼778899分享:一文搞懂GPU概念、品牌、架構(gòu)
柚子快報(bào)邀請(qǐng)碼778899分享:一文搞懂GPU概念、品牌、架構(gòu)
文章目錄
一、芯片概念1.1 CPU1.2 GPU1.3 ASIC1.4 FPGA1.4 NPU1.5 SOC
二、GPU廠商2.1 知名廠商2.2 國(guó)內(nèi)廠商
三、GPU架構(gòu)四、用途分類五、名字解析六、查看GPU信息
一、芯片概念
算力、芯片、GPU、NPU … 如果你今年在關(guān)注人工智能相關(guān)的消息,是否已經(jīng)被這些芯片概念弄得暈頭轉(zhuǎn)向?到底在人工智能領(lǐng)域用的是什么芯片?這PU那PU的到底有什么不同?
1.1 CPU
CPU:central process unit,中文名叫中央處理器,它是智能設(shè)備的大腦,是發(fā)布命令、控制行動(dòng)的總指揮。CPU遵循的是馮諾伊曼架構(gòu),需要存儲(chǔ)程序并順序執(zhí)行。順序執(zhí)行就是做完一件才能去做下一件。如果事情太多,那就等著慢慢排隊(duì)吧。下圖是一張CPU的微架構(gòu)圖,黃色部分是控制單元,綠色部分是計(jì)算單元,而橙色部分是存儲(chǔ)單元。 我們可以清晰的發(fā)現(xiàn),負(fù)責(zé)計(jì)算的綠色部分占比很小,占比最多的是橙色的存儲(chǔ)單元和黃色的控制單元,因此CPU雖然可以應(yīng)對(duì)各種計(jì)算,但其最擅長(zhǎng)的并不是計(jì)算,而是控制和管理。就好比一個(gè)大公司的領(lǐng)導(dǎo),基層業(yè)務(wù)也是熟悉的,但是做統(tǒng)籌管理才更能發(fā)揮其價(jià)值。CPU的代表廠商就是在電腦領(lǐng)域制霸多年的Intel奔騰和酷睿系列,想必有電腦的人都接觸過(guò)。在手機(jī)通信領(lǐng)域則是高通公司,我們熟知的芯片如高通驍龍系列的處理器。
1.2 GPU
CPU的弊端 有了電腦手機(jī)了,就想著玩游戲、看視頻,對(duì)畫(huà)質(zhì)的要求越來(lái)越高,這就帶來(lái)了一個(gè)問(wèn)題:巨大的計(jì)算量。我們所看見(jiàn)的每一幀圖像、每一個(gè)像素點(diǎn)都要經(jīng)過(guò)計(jì)算,這時(shí)候CPU就有些應(yīng)接不暇了,也沒(méi)空去處理其他的任務(wù),手機(jī)、電腦就變得卡頓起來(lái)。
GPU的優(yōu)勢(shì) 圖形計(jì)算有個(gè)特點(diǎn),那就是每個(gè)像素點(diǎn)處理的過(guò)程和方式都十分相似,因此GPU就應(yīng)運(yùn)而生了。 GPU全稱為graphics processing unit,中文名圖形處理器,俗稱顯卡。GPU采用數(shù)量眾多的計(jì)算單元和超長(zhǎng)的流水線,特別擅長(zhǎng)于處理大量類型統(tǒng)一的數(shù)據(jù)。這張圖就是GPU的微架構(gòu)圖。 我們發(fā)現(xiàn),黃色的控制單元和橙色的存儲(chǔ)單元占比很少,綠色的計(jì)算單元占據(jù)了絕大部分面積,而且是多條流水線一樣的計(jì)算單元并行排列。圖形計(jì)算是要處理每一個(gè)像素點(diǎn),把一張圖片不同的像素點(diǎn)分配到GPU不同的流水線同時(shí)計(jì)算,效率瞬間大幅提升,畫(huà)面也就流暢了,手機(jī)也不卡了。 這就好比原來(lái)公司缺人,經(jīng)理親自跑去搬磚,結(jié)果整個(gè)公司的運(yùn)作一團(tuán)亂麻?,F(xiàn)在招了幾個(gè)身強(qiáng)體壯的GPU專門搬磚經(jīng)理回到了管理崗位上,公司的運(yùn)作又正常了起來(lái)。
GPU與AI 在人工智能領(lǐng)域,經(jīng)常聽(tīng)到GPU的名字,這里首先明確,雖然圖形計(jì)算催生了GPU的誕生,但是GPU并非只為圖形計(jì)算而設(shè)計(jì),它在結(jié)構(gòu)上并沒(méi)有專門的圖形部件,只是對(duì)CPU的結(jié)構(gòu)進(jìn)行了優(yōu)化調(diào)整,所以GPU仍然是一種通用的芯片,它可以應(yīng)用于圖像處理,也可以用于科學(xué)計(jì)算。
密碼破解等需要大量并行計(jì)算的場(chǎng)景。人工智能領(lǐng)域,需要海量的數(shù)據(jù)對(duì)大模型進(jìn)行訓(xùn)練。
而這些數(shù)據(jù)就滿足類型統(tǒng)一、數(shù)量巨大的特點(diǎn)。因此近些年GPU在大模型的訓(xùn)練階段大放異彩。不過(guò)GPU不能單獨(dú)工作,還是需要和CPU進(jìn)行配合,CPU擅長(zhǎng)管理,GPU擅長(zhǎng)運(yùn)算。
1.3 ASIC
ASIC:Application Specific Integrated Circuit 特定應(yīng)用集成電路 CPU和GPU都是可以適應(yīng)多種場(chǎng)景的通用芯片,如果一塊芯片從誕生到退役都只用來(lái)做固定的事情,比如家用路由器里的WiFi芯片,是否可以犧牲通用性來(lái)提高其他方面的表現(xiàn)呢?答案是可以的。 asic芯片就是由此而來(lái),是為實(shí)現(xiàn)特定要求而定制的芯片,它在硬件層面實(shí)現(xiàn)對(duì)特定算法的支持,指令及簡(jiǎn)單甚至完全固化支持的功能無(wú)法再做任何更改。ASIC雖然不具備通用性,但在功耗、體積、可靠性方面有明顯優(yōu)勢(shì)。不過(guò)它有一個(gè)最大的問(wèn)題就是一旦設(shè)計(jì)有缺陷,可能所有已經(jīng)生產(chǎn)的產(chǎn)品都將面臨報(bào)廢。因此,為了確保萬(wàn)無(wú)一失,其開(kāi)發(fā)周期也非常的長(zhǎng)。
1.4 FPGA
FPGA:Field Programmable Gate Array 現(xiàn)場(chǎng)可編程邏輯陣列
ASIC開(kāi)發(fā)周期長(zhǎng),有沒(méi)有靈活一點(diǎn)的定制化芯片呢?FPGA可以通過(guò)寫(xiě)入配置文件來(lái)定義其內(nèi)部結(jié)構(gòu),使FPGA芯片可以實(shí)現(xiàn)不同的硬件設(shè)計(jì)和功能,因此FPGA的全稱是現(xiàn)場(chǎng)可編程邏輯陣列,這么靈活的東西對(duì)開(kāi)發(fā)者的要求自然也很高。FPGA就像是樂(lè)高玩具,使用不同的碎片拼接而成,而ASIC則是定制手辦出廠就是一體化的成品。 從成本上來(lái)比較,ASIC由于需要更多的開(kāi)發(fā)人員和更長(zhǎng)的開(kāi)發(fā)周期,因此在小批量生產(chǎn)時(shí),ASIC芯片的成本比FPGA更高,而當(dāng)大規(guī)模應(yīng)用上量之后,ASIC芯片的平均成本較FPGA則不斷降低,因此在項(xiàng)目初期適合采用FPGA方案進(jìn)行嘗試,而在場(chǎng)景明確、需求明確的量產(chǎn)階段,采用asic方案則是更優(yōu)解。
對(duì)于不缺人才也不差錢的大廠來(lái)說(shuō),大多會(huì)采用ASIC方案來(lái)量產(chǎn)定制化芯片,像大名鼎鼎的谷歌TPU Tensor Processing Unit,中文名張量處理單元,以及國(guó)內(nèi)自主研發(fā)的華為升騰910AI處理器,本質(zhì)上都是ASIC芯片。
1.4 NPU
NPU: Neural Network Processing Unit,中文名神經(jīng)網(wǎng)絡(luò)處理器。 人工智能時(shí)代有沒(méi)有誕生新的事物呢?NPU就是伴隨人工智能最新的成果。顧名思義,NPU是要用集成電路來(lái)模擬人腦的神經(jīng)元和突觸結(jié)構(gòu),把每個(gè)神經(jīng)元抽象為一個(gè)激勵(lì)函數(shù),通過(guò)深度學(xué)習(xí)來(lái)不斷調(diào)整優(yōu)化參數(shù)和神經(jīng)網(wǎng)絡(luò)的拓?fù)浣Y(jié)構(gòu),并且它突破了傳統(tǒng)芯片的馮諾伊曼架構(gòu),模擬人腦神經(jīng)元的存儲(chǔ)運(yùn)算一體化方式,不再將存儲(chǔ)和運(yùn)算分離設(shè)計(jì),從而大大提升了效率。
NPU的典型代表由我們中國(guó)的寒武紀(jì)和IBM的True North。 華為從MATE10開(kāi)始就在麒麟970芯片中集成了5G的NPU單元,用于優(yōu)化拍照和圖片處理等功能。如今很多手機(jī)中都包含了NPU。你也許遇見(jiàn)過(guò)某一天你的手機(jī)按照某個(gè)人物或者景點(diǎn)為你整理了一個(gè)相片合集,甚至還做成了帶配樂(lè)的短視頻。你的手機(jī)怎么會(huì)變得如此聰明呢?都能認(rèn)識(shí)哪些是你女朋友的照片了?這就是NPU的功勞。
1.5 SOC
SOC: System On a Chip 片上系統(tǒng) 除了CPU、GPU、NPU,我們還聽(tīng)說(shuō)過(guò)大腦處理器BPU、智能處理器IPU、知識(shí)處理器KPU等等,其實(shí)26個(gè)字母可能早就被用完了,除了我們剛才重點(diǎn)介紹的幾種類型的芯片,其他的大多是個(gè)概念而已,像大腦處理器BPU就是地平線機(jī)器人公司用來(lái)命名自家芯片的一個(gè)注冊(cè)商標(biāo)。
這么多類型的芯片,各有各的優(yōu)勢(shì),也各有各的不足,協(xié)同工作才能發(fā)揮最大的效率。因此把它們集成到一塊就有了SOC,SOC就像一個(gè)公司把CPU、GPU、NPU、5G等模塊都集成在一個(gè)芯片組中,總經(jīng)理是CPU, GPU、NPU等分別是不同的部門經(jīng)理,聽(tīng)從CPU調(diào)度。高通驍龍和華為海思這些年發(fā)布的手機(jī)芯片都是集成了多種單元的SOC芯片。
二、GPU廠商
2.1 知名廠商
1、NVIDIA(英偉達(dá)) NVIDIA是全球領(lǐng)先的圖形處理器(GPU)制造商,其顯卡產(chǎn)品在市場(chǎng)上占有很高的份額。NVIDIA的顯卡以性能強(qiáng)勁、技術(shù)領(lǐng)先而著稱,尤其在游戲領(lǐng)域,其顯卡的圖形處理能力得到了廣大游戲玩家的認(rèn)可。此外,NVIDIA還推出了多款針對(duì)專業(yè)圖形處理、深度學(xué)習(xí)等領(lǐng)域的顯卡,滿足了不同用戶的需求。
戰(zhàn)略合作伙伴: 一線:華碩、技嘉、微星 二線:七彩虹、影馳、索泰、映眾 三線:耕升、銘瑄、萬(wàn)麗
2、AMD(超威半導(dǎo)體) AMD是另一家重要的顯卡制造商,其產(chǎn)品線涵蓋了從入門級(jí)到高端的各個(gè)層面。AMD的顯卡在性價(jià)比方面表現(xiàn)突出,尤其在多屏輸出和高清視頻處理方面有著出色的表現(xiàn)。近年來(lái),AMD在顯卡技術(shù)上的創(chuàng)新也不斷加速,為用戶帶來(lái)了更多選擇。
PS: 圖形處理器(GPU)市場(chǎng)上兩大巨頭,AMD(A卡)和NVIDIA(N卡)
3、MSI(微星) MSI是一家知名的電腦硬件制造商,其顯卡產(chǎn)品也備受消費(fèi)者青睞。MSI的顯卡以品質(zhì)穩(wěn)定、散熱性能良好而著稱,同時(shí)在外觀設(shè)計(jì)上也頗具特色。此外,MSI還提供了豐富的顯卡附件和增值服務(wù),為用戶提供了更加完善的購(gòu)物體驗(yàn)。
4、Gigabyte(技嘉) 技嘉是一家在主板和顯卡領(lǐng)域有著深厚底蘊(yùn)的品牌。其顯卡產(chǎn)品以高性能、高穩(wěn)定性和良好的散熱性能為特點(diǎn),受到了眾多用戶的喜愛(ài)。技嘉還不斷推出創(chuàng)新的產(chǎn)品和技術(shù),以滿足市場(chǎng)的不斷變化和用戶的需求。
5、ZOTAC(索泰) 索泰是一家專注于顯卡制造的品牌,其產(chǎn)品以高性能和合理的價(jià)格贏得了消費(fèi)者的青睞。索泰顯卡在設(shè)計(jì)上注重散熱性能和穩(wěn)定性,同時(shí)在超頻方面也具有一定的潛力,為追求性能的用戶提供了更多可能性。
6、ASUS(華碩) 華碩作為一家全球知名的電腦硬件制造商,其顯卡產(chǎn)品同樣備受關(guān)注。華碩的顯卡以品質(zhì)可靠、技術(shù)領(lǐng)先而著稱,同時(shí)其獨(dú)特的散熱設(shè)計(jì)和優(yōu)秀的超頻性能也贏得了用戶的贊譽(yù)。此外,華碩還提供了豐富的顯卡附件和完善的售后服務(wù),為用戶提供了更好的使用體驗(yàn)。
2.2 國(guó)內(nèi)廠商
1、寒武紀(jì) 寒武紀(jì)自 2016 年成立以來(lái)一直專注于人工智能芯片產(chǎn)品研發(fā)與技術(shù)創(chuàng)新,致力于打造人工智能領(lǐng)域的核心處理器芯片。公司主要提供云端智能芯片及加速卡、訓(xùn)練整機(jī)、邊緣智能芯片及加速卡、終端智能處理器 IP 及配套基礎(chǔ)軟件開(kāi)發(fā)平臺(tái),產(chǎn)品廣泛應(yīng)用于消費(fèi)電子、數(shù)據(jù)中心、云計(jì)算等諸多場(chǎng)景。
2、海光信息 海光信息主要從事高端處理器、加速器等計(jì)算芯片產(chǎn)品和系統(tǒng)的研發(fā)、設(shè)計(jì)和銷售。公司的產(chǎn)品包括海光通用處理器(CPU)和海光協(xié)處理器(DCU),具有成熟而豐富的應(yīng)用生態(tài)環(huán)境,內(nèi)置專用安全硬件,可滿足互聯(lián)網(wǎng)、金融、能源等行業(yè)的廣泛應(yīng)用需求。
3、景嘉微 景嘉微致力于信息探測(cè)、處理與傳遞領(lǐng)域的技術(shù)和綜合應(yīng)用。公司產(chǎn)品涵蓋集成電路設(shè)計(jì)、小型雷達(dá)系統(tǒng)、無(wú)線通信系統(tǒng)、電磁頻譜應(yīng)用系統(tǒng)等方向,廣泛應(yīng)用于有高可靠性要求的航空、航天、航海、車載等專業(yè)領(lǐng)域。
4、芯原股份 芯原依托自主半導(dǎo)體 IP,為客戶提供平臺(tái)化、全方位、一站式芯片定制服務(wù)和半導(dǎo)體 IP 授權(quán)服務(wù),擁有獨(dú)特的“芯片設(shè)計(jì)平臺(tái)即服務(wù)”經(jīng)營(yíng)模式。公司可提供高清視頻、物聯(lián)網(wǎng)連接、數(shù)據(jù)中心等多種一站式芯片定制解決方案,擁有自主可控的圖形處理器 IP、神經(jīng)網(wǎng)絡(luò)處理器 IP 等五類處理器 IP 及 1400 多個(gè)數(shù)模混合 IP 和射頻 IP,可快速打造出從定義到測(cè)試封裝完成的半導(dǎo)體產(chǎn)品,業(yè)務(wù)范圍覆蓋消費(fèi)電子、汽車電子、物聯(lián)網(wǎng)等多種應(yīng)用領(lǐng)域。據(jù) IPnest 在 2021 年的統(tǒng)計(jì),芯原的半導(dǎo)體 IP 銷售收入排中國(guó)大陸第二,全球第七,其中公司的圖形處理器 IP 排名全球前三。
5、壁仞科技 壁仞科技創(chuàng)立于 2019 年,在 GPU、DSA(專用加速器)和計(jì)算機(jī)體系結(jié)構(gòu)等領(lǐng)域具有深厚的技術(shù)積累。公司致力于開(kāi)發(fā)原創(chuàng)性的通用計(jì)算體系,建立高效的軟硬件平臺(tái),同時(shí)在智能計(jì)算領(lǐng)域提供一體化的解決方案。
6、摩爾線程 摩爾線程專注于設(shè)計(jì)高性能通用 GPU 芯片,提供圖形計(jì)算和 AI 計(jì)算的元計(jì)算平臺(tái)的集成電路高科技公司。公司高管團(tuán)隊(duì)來(lái)自英偉達(dá)、AMD、ARM 等知名芯片公司,擁有豐富的 GPU 研究經(jīng)驗(yàn),致力于創(chuàng)新面向元計(jì)算應(yīng)用的新一代GPU,構(gòu)建融合視覺(jué)計(jì)算、3D 圖形計(jì)算、科學(xué)計(jì)算及人工智能計(jì)算的綜合計(jì)算平臺(tái),建立基于云原生 GPU 計(jì)算的生態(tài)系統(tǒng)。
7、芯動(dòng)科技 芯動(dòng)科技是國(guó)內(nèi)一站式 IP 和芯片定制及 GPU 領(lǐng)軍企業(yè),聚焦計(jì)算、存儲(chǔ)、連接等三大賽道,提供從 55 納米到 5 納米全套高速 IP 核以及高性能定制芯片解決方案。公司擁有經(jīng)驗(yàn)豐富的技術(shù)團(tuán)隊(duì),成立 16 年來(lái)已賦能全球數(shù)百家知名客戶,授權(quán)逾 80 億顆高端 SoC 芯片進(jìn)入規(guī)模量產(chǎn),擁有過(guò)十億顆 FinFET 定制芯片成功量產(chǎn)經(jīng)驗(yàn)。
8、兆芯 兆芯成立于 2013 年,提供高效、兼容、安全的自主通用處理器和芯片組等產(chǎn)品,公司掌握自主通用處理器及其系統(tǒng)平臺(tái)芯片研發(fā)設(shè)計(jì)的核心技術(shù),全面覆蓋其微架構(gòu)與實(shí)現(xiàn)技術(shù)等關(guān)鍵領(lǐng)域,擁有較為完整的知識(shí)產(chǎn)權(quán)體系,截至目前已獲權(quán)約 1300 件專利。
9、天數(shù)智芯 天數(shù)智芯致力于開(kāi)發(fā)自主可控、國(guó)際領(lǐng)先的高性能通用 GPU 產(chǎn)品并提供解決方案,是國(guó)內(nèi)頭部通用 GPU 高端芯片及超級(jí)算力系統(tǒng)提供商。公司以“成為智能社會(huì)的賦能者”為使命,立足客戶、市場(chǎng)的需求,加速 AI 計(jì)算與圖形渲染融合,探索通用 GPU 趕超發(fā)展道路,產(chǎn)品廣泛應(yīng)用于智算重心、智慧醫(yī)療、互聯(lián)網(wǎng)、智能制造等領(lǐng)域。
10、沐曦 沐曦于 2020 年 9 月成立于上海,致力于為異構(gòu)計(jì)算提供全棧 GPU 芯片及解決方案,可廣泛應(yīng)用于人工智能、智慧城市、自動(dòng)駕駛、數(shù)字孿生、元宇宙等前沿領(lǐng)域。公司擁有技術(shù)完備、設(shè)計(jì)和產(chǎn)業(yè)化經(jīng)驗(yàn)豐富的團(tuán)隊(duì),核心成員平均擁有近20 年高性能 GPU 產(chǎn)品端到端研發(fā)經(jīng)驗(yàn)。
三、GPU架構(gòu)
Volta 架構(gòu):Volta 架構(gòu)是 NVIDIA GPU 的第六代架構(gòu),發(fā)布于 2017 年。Volta 架構(gòu)專注于深度學(xué)習(xí)和人工智能應(yīng)用,并引入了 Tensor Core。代表產(chǎn)品:V100、TiTan。Turing 架構(gòu):Turing 架構(gòu)是 NVIDIA GPU 的第七代架構(gòu),發(fā)布于 2018 年。Turing 架構(gòu)引入了實(shí)時(shí)光線追蹤(RTX)和深度學(xué)習(xí)超采樣(DLSS)等重要功能。代表產(chǎn)品是T4、2080TI、RTX5000。Ampere 架構(gòu):Ampere 架構(gòu)是 NVIDIA GPU 的第八代架構(gòu),2020 年發(fā)布。Ampere 架構(gòu)在計(jì)算能力、能效和深度學(xué)習(xí)性能方面都有重大提升。Ampere 架構(gòu)的 GPU 采用了多個(gè)流多處理器(SM)和更大的總線寬度,提供了更多的 CUDA Core 和更高的頻率。它還引入了第三代Tensor Core,提供更強(qiáng)大的深度學(xué)習(xí)計(jì)算性能。Ampere 架構(gòu)的 GPU 還具有更高的內(nèi)存容量和帶寬,適用于大規(guī)模的數(shù)據(jù)處理和機(jī)器學(xué)習(xí)任務(wù)。代表產(chǎn)品是A100、A800、A30系列。Hopper 架構(gòu):Hopper 架構(gòu)是 NVIDIA GPU 的第九代架構(gòu),2022 年發(fā)布。相較于Ampere,Hopper 架構(gòu)支持第四代Tensor Core,且采用新型流式處理器,每個(gè) SM 能力更強(qiáng)。Hopper 架構(gòu)在計(jì)算能力、深度學(xué)習(xí)加速和圖形功能方面帶來(lái)新的創(chuàng)新和改進(jìn)。代表產(chǎn)品是H100、H800。
四、用途分類
以英偉達(dá)為例分為如下三類:
geforce:打游戲的卡,帶有風(fēng)扇和渦輪,可以裝在PC里。我們常說(shuō)的RTX4090(2022.10)、Titan X(2012年底發(fā)布)指的就是這個(gè)系列的產(chǎn)品。 Quadro:又稱專業(yè)卡,用來(lái)視覺(jué)計(jì)算的卡,供制作游戲、動(dòng)漫、高品質(zhì)制圖工作者使用。非專業(yè)用戶一般用不到。如RTX A6000 Tesla:通用計(jì)算,不帶風(fēng)扇,一般是裝在服務(wù)器上,統(tǒng)一散熱。人工智能領(lǐng)域經(jīng)常提到的卡,用來(lái)深度學(xué)習(xí)模型訓(xùn)練。如V100、A100、A800、H100、H800。 PS:截圖來(lái)自nvidia官網(wǎng)
五、名字解析
凡是RTX開(kāi)頭的,如RTX4060 4060TI 4070 4070TI 4080 4090等,都是采用英偉達(dá)的芯片加上主板和散熱器盡心封裝的;凡是RX開(kāi)頭的7600、7700、7800、7900都是采用AMD的芯片。
因?yàn)槎际怯ミ_(dá)或AMD的芯片和驅(qū)動(dòng),同芯片等級(jí)的所有品牌型號(hào)性能差距不到3%;
六、查看GPU信息
linux系統(tǒng)上查看GPU信息的命令:nvidia-smi 結(jié)果截圖如下 這是服務(wù)器上RTX3090的信息。 上面的表格中:
第一欄的Fan:N/A是風(fēng)扇轉(zhuǎn)速,從0到100%之間變動(dòng),這個(gè)速度是計(jì)算機(jī)期望的風(fēng)扇轉(zhuǎn)速,實(shí)際情況下如果風(fēng)扇堵轉(zhuǎn),可能打不到顯示的轉(zhuǎn)速。有的設(shè)備不會(huì)返回轉(zhuǎn)速,因?yàn)樗灰蕾囷L(fēng)扇冷卻而是通過(guò)其他外設(shè)保持低溫(比如我們實(shí)驗(yàn)室的服務(wù)器是常年放在空調(diào)房間里的)。第二欄的Temp:是溫度,單位攝氏度。第三欄的Perf:是性能狀態(tài),從P0到P12,P0表示最大性能,P12表示狀態(tài)最小性能。第四欄下方的Pwr:是能耗,上方的Persistence-M:是持續(xù)模式的狀態(tài),持續(xù)模式雖然耗能大,但是在新的GPU應(yīng)用啟動(dòng)時(shí),花費(fèi)的時(shí)間更少,這里顯示的是off的狀態(tài)。第五欄的Bus-Id是涉及GPU總線的東西,domain?device.function第六欄的Disp.A是Display Active,表示GPU的顯示是否初始化。第五第六欄下方的Memory Usage是顯存使用率。第七欄是浮動(dòng)的GPU利用率。第八欄上方是關(guān)于ECC的東西。第八欄下方Compute M是計(jì)算模式。 下面一張表示每個(gè)進(jìn)程占用的顯存使用率。
PS:顯存占用和GPU占用是兩個(gè)不一樣的東西,顯卡是由GPU和顯存等組成的,顯存和GPU的關(guān)系有點(diǎn)類似于內(nèi)存和CPU的關(guān)系。
柚子快報(bào)邀請(qǐng)碼778899分享:一文搞懂GPU概念、品牌、架構(gòu)
推薦文章
本文內(nèi)容根據(jù)網(wǎng)絡(luò)資料整理,出于傳遞更多信息之目的,不代表金鑰匙跨境贊同其觀點(diǎn)和立場(chǎng)。
轉(zhuǎn)載請(qǐng)注明,如有侵權(quán),聯(lián)系刪除。