多gpu環境下pci_e總線帶寬調整方法及系統的製作方法
2023-06-10 06:50:46 5
多gpu環境下pci_e總線帶寬調整方法及系統的製作方法
【專利摘要】一種多GPU環境下的PCI_E總線帶寬調整方法及系統，該方法包括：讀取步驟，讀取總線控制器獲取的連接各個GPU的PCI_E總線各信道流量和總線控制器計算得到的各信道流量和；判斷步驟，判斷是否存在帶寬飽和的GPU，帶寬飽和的GPU是指連接該GPU的各信道流量和不小於連接該GPU的PCI_E總線帶寬，存在帶寬飽和的GPU，進入定位步驟，否則返回讀取步驟；定位步驟，根據連接各GPU的PCI_E總線各信道流量從連接各GPU的信道中定位閒置信道；調整步驟，將閒置信道通過總線控制器開關調整至該帶寬飽和的GPU。本發明通過總線控制器開關動態調整連接多個GPU的PCI_E總線帶寬，使多個GPU可以並行運行。
【專利說明】多GPU環境下PCI_E總線帶寬調整方法及系統
【技術領域】
[0001]本發明涉及一種PCI_E總線帶寬調整方法及系統，尤其涉及一種多GPU環境下PCI_E總線帶寬調整方法及系統。
【背景技術】
[0002]GPU (Graphic Processing Unit),中文翻譯為「圖形處理器」,是顯卡的「心臟」，其作用相當於CPU在電腦中的作用，它決定了顯卡的檔次和大部分性能，隨著GPU運算的興起以及多GPU設計的出現，已經有許多企業伺服器開始採用多GPU去做一些複雜度很高的運算，但是多 GPU 共享 PCI_E (Peripheral Component Interconnect Express,是最新的總線和接口標準)總線在同一時間處理和傳遞數據需要很大的PCI_E總線帶寬，現在的PCI_E總線是無法同時滿足多個GPU並行運行的。如何去平衡每個GPU所佔用的帶寬，保持各GPU運算能順利工作，而不會發生阻塞的現象，成為一個技術難題。
【發明內容】
[0003]本發明提供一種多GPU環境下PCI_E總線帶寬調整系統，該系統包括:讀取模塊，用於從總線控制器存儲晶片中讀取由總線控制器獲取的連接各個GPU的PCI_E總線各信道流量和由總線控制器計算得到的各信道的流量和；判斷模塊，用於根據所述各信道的流量和判斷是否存在帶寬已飽和的GPU，所述帶寬已飽和的GPU是指連接該GPU的各信道的流量和不小於連接該GPU的PCI_E總線帶寬，如果存在帶寬已飽和的GPU，進入定位步驟，否則，返回讀取步驟；定位模塊，用於根據所述連接各個GPU的PCI_E總線各信道流量從連接各個GPU的信道中定位PCI_E總線閒置信道；調整模塊，用於將所述閒置信道通過總線控制器的開關調整至該帶寬已飽和的GPU。
[0004]本發明還提供一種多GPU環境下的PCI_E總線帶寬調整方法，包括:讀取步驟，從總線控制器存儲晶片中讀取由總線控制器獲取的連接各個GPU的PCI_E總線各信道流量和由總線控制器計算得到的各信道的流量和；判斷步驟，根據所述各信道的流量和判斷是否存在帶寬已飽和的GPU，所述帶寬已飽和的GPU是指連接該GPU的各信道的流量和不小於連接該GPU的PCI_E總線帶寬，如果存在帶寬已飽和的GPU，進入定位步驟，否則，返回讀取步驟；定位步驟，根據所述連接各個GPU的PCI_E總線各信道流量從連接各個GPU的信道中定位PCI_E總線閒置信道；調整步驟，將所述閒置信道通過總線控制器的開關調整至該帶寬已飽和的GPU。
[0005]本發明當連接其中一個GPU的PCI_E總線信道飽和時，將其它GPU的閒置PCI_E總線信道通過總線控制器的開關調整至該PCI_E總線信道已經飽和的GPU，實現了動態平衡PCI_E總線所連接的GPU的帶寬，使多個GPU並行運行。
【專利附圖】
【附圖說明】
[0006]圖1是本發明多GPU環境下的PCI_E總線帶寬調整系統的較佳實施方式的運行環境圖。
[0007]圖2是本發明多GPU環境下的PCI_E總線帶寬調整系統的較佳實施方式的功能模塊圖。
[0008]圖3是本發明多GPU環境下的PCI_E總線帶寬調整方法的較佳實施方式的流程圖。
[0009]主要元件符號說明_
【權利要求】
1.一種多GPU環境下的PCI_E總線帶寬調整方法，該方法應用在計算機上，該計算機包括總線控制器、GPU、主板，其特徵在於，該方法包括: 讀取步驟，從總線控制器存儲晶片中讀取由總線控制器獲取的連接各個GPU的PCI_E總線各信道流量和由總線控制器計算得到的各信道的流量和； 判斷步驟，根據所述各信道的流量和判斷是否存在帶寬已飽和的GPU，所述帶寬已飽和的GPU是指連接該GPU的各信道的流量和不小於連接該GPU的PCI_E總線帶寬，如果存在帶寬已飽和的GPU，進入定位步驟，否則，返回讀取步驟； 定位步驟，根據所述連接各個GPU的PCI_E總線各信道流量從連接各個GPU的信道中定位PCI_ES線閒置信道； 調整步驟，將所述閒置信道通過總線控制器的開關調整至該帶寬已飽和的GPU。
2.根據權利要求1所述的多GPU環境下的PCI_E總線帶寬調整方法，其特徵在於，所述總線控制器通過PCI_E插槽連接在主板上。
3.根據權利要求1所述的多GPU環境下的PCI_E總線帶寬調整方法，其特徵在於，所述GPU數量為兩個。
4.一種多GPU環境下的PCI_E總線帶寬調整系統，該系統運行在計算機上，該計算機包括總線控制器、GPU、主板，其特徵在於，該系統包括: 讀取模塊，用於從總線控制器存儲晶片中讀取由總線控制器獲取的連接各個GPU的PCI_E總線各信道流量和由總線控制器計算得到的各信道的流量和； 判斷模塊，用於根據所述各信道的流量和判斷是否存在帶寬已飽和的GPU，所述帶寬已飽和的GPU是指連接該GPU的各信道的流量和不小於連接該GPU的PCI_E總線帶寬，如果存在帶寬已飽和的GPU，進入定位步驟，否則，返回讀取步驟； 定位模塊，用於根據所述連接各個GPU的PCI_E總線各信道流量從連接各個GPU的信道中定位PCI_ES線閒置信道； 調整模塊，用於將所述閒置信道通過總線控制器的開關調整至該帶寬已飽和的GPU。
5.根據權利要求4所述的多GPU環境下的PCI_E總線帶寬調整系統，其特徵在於，所述總線控制器通過PCI_E插槽連接在主板上。
6.根據權利要求4所述的多GPU環境下的PCI_E總線帶寬調整系統，其特徵在於，所述GPU數量為兩個。
【文檔編號】G06F13/38GK103455458SQ201210168423
【公開日】2013年12月18日 申請日期:2012年5月28日 優先權日:2012年5月28日
【發明者】吳志偟 申請人:鴻富錦精密工業（深圳）有限公司, 鴻海精密工業股份有限公司