平行策略ppt课件

1、第 17 章平行战略1效能改善的兩個根本技術平行战略和管線技術 2平行電腦 多個硬體複本可以同時運作普及電腦結構的各種階層內部結構師會盡量把平行的根本技術運用在系統上，發展出完全由平行战略所控制的電腦結構，稱為平行電腦 。3平行特性 4微觀 vs 巨觀 平行战略是如此地普遍，幾乎一切的電腦系統都具有某些型式的平行硬體，我們常运用微觀平行來描画：那些確實具備平行才干，但隱藏不易看見的結構。 5微觀平行範例 ALU執行整數算術比如：32位元的互斥或閘運算暫存器通用暫存器可處理多重位元實體記憶體比如：64位元的字組記憶體系統平行匯流排結構典型32位元或64位元寬的匯流排6巨觀平行範例 多重一样處理器

2、：比如：雙處理器的PC兩個平行CPU效能依賴作業系統作業系統負責程式碼的最正确化控制多重相異處理器：特殊的協同處理器比如，高速影像電腦可以連接四個顯示器，一個顯示器运用一個特殊的影像處理器，來進行控制。7對稱 vs 非對稱 對稱平行多個一样元件同時存在的系統比如，雙處理器PC非對稱平行多個同時運作、但功能各不一样的元件比如，影像協同處理器和數學協同處理器都是非對稱平行。 8細紋 vs 粗紋 細紋平行以個別的指令或資料為單位比如，影像處理器运用16個平行硬體單元，來更新16個位元組。粗紋平行以程式或大型區塊資料為單位比如，雙處理器PC运用一個處理器來列印文件，另一個能够正在編輯電子郵件訊息。 9

3、顯性 vs 隱性 隱性平行硬體會自動地處理平行战略，毋需任何程式設計師動手來啟始或控制。顯性平行需求程式設計師來控制每一個平行單元的執行動作，稱為顯性平行。 10平行結構 系統最主要的特性就在於平行結構。平行處理器數量應該達一定的規模比如：具有32個或64000個處理器的電腦。把二個處理器参与PC，雖然也是平行战略，但習慣上稱為雙處理器電腦。参与四個處理器的PC，被稱為四處理器電腦。11平行結構分類(Flynn分類法) 12SISD單一指令單一資料流 SISD描画無法援助巨集平行的結構沒有平行的結構又稱為順序結構、或單一處理器結構傳統的范紐曼結構就是SISDSISD最重要的特徵：順序執行指令，

4、一次只執行一個指令，每個指令只能處理單一資料項目。13SIMD單一指令多重資料流 SIMD每一個指令雖然只能指定單一運算動作比如：整數加法，但可以要求多個資料項目同時動作。SIMD電腦必須具有充足的硬體，才有才干同時處理多筆資料 。14向量處理器 SIMD結構對某些數值需求一样的運算，有很好的任务效率。SIMD結構又稱為向量處理器或陣列處理器。SIMD結構常用於某些科學應用程式，處理向量數學、陣列計算或一組數值的浮點運算。15傳統電腦的正規化16向量電腦的正規化假设陣列大小沒有超過平行硬體的大小，則底層硬體可以同時執行陣列上一切數值的算術運算。如下：V VQ;假设陣列大小超過平行硬體的容量，就

5、需求多個步驟才干完成運算動作。17影像處理器典型的影像硬體运用順序位元組，來儲存螢幕每一個像素的數值。假设想要移動一個正方形視窗，則軟體必須拷貝某個區域位置的等效視窗位元組到另一個位置，一次一個位置，渐渐移動整個視窗。在SIMD結構中，程式設計師可以發佈一個複製命令，讓SIMD底層硬體會平行複製多重位元組，效率更快。 18MIMD多重指令多重資料流 描画平行結構內的每一個處理器，可以在一样的時間，各自獨立地執行計算。MIMD電腦允許程式設計師控制處理器，讓處理器各自執行獨立程式。 19SMP對稱多重處理器最知名的MIMD就是SMP電腦結構。典型的SMP設計具有N個一样的處理器，具有一样的指令集

6、、時脈速率、記憶體、以及外部設備，但可以各自執行程式。比如：Carnegie Mellon大學的C.mmp原型機Sequent公司現為IBM一切建立的SMPEncore公司的Multimax SMP 20SMP架構圖21AMP非對稱多重處理器另一種替代SMP設計的方法稱為AMPAMP包含N個處理器，可在同一時間運作，但是不一定採用一样處理器。AMP設計常用於特定的任務比如，运用處理器來管理磁碟儲存設備。运用處理器來最正确化影像的顯示任務。22AMP結構AMP結構遵照主僕方法主處理器：一個或一組處理器控制整體執行負責最正确化整體控制僕處理器：引入其它的處理器，處理其它的輔助功能，像是算術計算或I

7、/O。23AMP結構範例數學協同處理器快速計算浮點數的特殊晶片浮點數計算速度遠比CPU快速I/O處理器：I/O运用一個專用的可程式處理器可高速處理外部I/O不影響CPU速度CPU會下載程式到I/O處理器I/O處理器負責一切的I/O細節24I/O處理器比如IBM大型主機运用一種稱為通道的可程式I/O處理器。CDC結構运用週邊處理器簡稱PP來處理I/O動作。25多重處理器結構的挑戰多重處理器結構似乎比單一處理器結構有更好的效能。不幸的是，有三個主要的挑戰：通訊協調競爭26通訊電腦的通訊機制：處理數目龐大的處理器之間的通訊負責處理器與其它元件之間的通訊有能够呵斥通訊瓶頸。27協調協調機制讓平行結構內

8、部的處理器可以一同任务。非對稱設計要运用主處理器，負責協調一切程序。某些對稱設計可以运用主僕架構或者分散式協調機制。 28競爭當多個處理器同時存取一個資源時，稱為資源競爭。資源競爭會呵斥平行結構相當大的挑戰，隨著處理器數目的添加，相關的競爭也會跟著添加。29多重處理器的效能瓶頸在多重處理器環境下，最多只能有一個處理器執行作業系統，其它處理器必須等待。記憶體競爭同時存取記憶體必須运用多埠記憶體多個處理器多個快取，能够出現快取不一致的問題。I/O束縛從I/O設備取出資料，耗費時間。一味增強計算才干，也無法降低整體執行時間。30速度提昇比定義速度提昇比=其中， 是單一處理器的執行時間 則是多重處理器

9、的執行時間理想情況：處理器數量與速度提昇呈現線性添加的現象。31理想和實際的速度提昇比32速度提昇比的結論以普通的計算而言，把更多的處理器参与多重處理器系統，反而能够導致新的額外負荷，降低整體效能的表現。 33對程式設計師的影響 撰寫多重處理器的程式碼，當然會比單一處理器的程式碼要複雜。34鎖定的需求假設雙處理器的環境下，运用一個共用變數x來儲存計數值，如下敘述：x = x + 1 翻譯成等效的機器指令，如下：35平行存取的問題假设有兩個處理器幾乎在同一時間都想遞增x，結果x數值能够遞增1，而不是遞增2。 36硬體鎖定多重處理器运用硬體提供鎖定功能：將每一個共用變數参与一個鎖，確保其它處理器無

10、法再對這個變數進行更改。比如：變數x运用17號鎖，程式設計師要對變數x進行更新，必須先获得17號鎖。一種互斥觀念。 37硬體鎖定範例38平行電腦的規劃 隱性平行战略會比顯性平行战略更容易規劃相關的硬體會自動地複製一样的程式顯性平行战略程式設計師必須規劃每一個不同的硬體單元，啟動這些硬體。程式碼必須运用鎖，來預防干擾。39平行電腦的規劃重點站在程式設計的觀點來看，規劃顯性平行系統會比規劃隱形平行系統要來得複雜。40對稱和非對稱多重處理器的規劃 多重處理器會帶給程式設計師困擾。對稱多重處理器會比非對稱多重處理器更容易規劃程式，有四個主要的缘由：都是一样的處理器，具有一样的指令集。都是對稱的設計。都

11、操作在一样的速度。程式或資料數值容易移植。41平行備份硬體 備份硬體類似平行硬體平行和備份硬體之間的差異在於：備份硬體會執行一样的運算動作，應該會得到一样的資料。平行硬體則執行不同的運算動作，得到的結果與其它硬體不一定有關。備份硬體的重點在於：驗證計算的正確性。假设硬體錯誤，可运用備份硬體替代。42分散式電腦 緊密耦合結構把一切的平行硬體單元都置放在一样的電腦內部寬鬆耦合結構分散式結構通常必須藉由電腦網路，來進行與其它電腦的連繫，每一部電腦都可以獨立作業，進行彼此之間的溝通。43叢集電腦分散式系統的特例就是網路叢集，或稱為叢集電腦。叢集問題最好經得起分割，比如：假设叢集具有N部電腦，資料會被分割成N部分，每個部分會送到其中一部電腦獨立運算；等到一切電腦結束計算後，搜集這些結果，並且產生最後的輸出。44網格計算網格結構把問題分割成多個小塊，运用網際網路傳送到各個電腦，每個電腦各自執行，並傳回結果。網格計算常用於大型的科學應用，有兩個缘由：網格可以降低科學應用的執行時間。矩陣容易切割成多個小塊，利於計算。45 結論 平行战略是最正确化效能的根本技術顯性平行結構可讓程式設計師控制平行才干隱性平行結構會自動處理平行战略普通的傳統