中級では、GPUが多数の単純コアで同じ命令を一斉適用する SIMT と、それを支える VRAM の帯域 までを見ました。上級では、その実行モデルをスレッドの階層まで分解し、なぜメモリ待ちを隠せるのか、そしてどこで頭打ちになるのか（限界）を端から端まで掘り下げます。ここは GPU 内部の実行モデルと性能特性の深掘り を担当します。
CPU と GPU の設計思想の違い（レイテンシ重視 対 スループット重視）は GPU 中級 と CPU 上級で扱ったので、ここでは大量並列そのものの仕組みと限界に集中します。
GPU の並列は、ただコアが多いだけではありません。スレッドを階層にまとめ、束ごとに同じ命令で流すのが要です。
登場人物メモ（※の説明）:
ポイントは、命令を共有する最小単位がスレッド 1 本ではなく「束」だということ。ここから、後述の分岐発散という限界が生まれます。
GPUは、多数の単純なコア（シェーダコア／CUDAコアなど）を数千個そなえ、同じ命令を別々のデータへ一斉に適用します。この方式を SIMT（Single Instruction, Multiple Threads）と呼びます。
登場人物メモ:
GPU の性能は「演算がどれだけ速いか」以上に、データを供給し続けられるかで決まります。
登場人物メモ（※の説明）:
つまり GPU は「速いコアで待ちを消す」のではなく「大量のコアで待ちを塗りつぶす」機械です。この設計ゆえに、帯域が足りないとコアが遊ぶという固有の弱点も抱えます。
描画（グラフィックス）で磨いた大量並列は、汎用計算へ転用されました。これを GPGPU（General-Purpose computing on GPU）と呼びます。
要は、「同じ計算 × 大量データ × 要素が独立」という形に落とせる問題ほど GPU が効きます。逆にこの形に落ちない問題は、次の限界に突き当たります。
描画（グラフィックス）で培った並列演算は、汎用計算にも転用されました。これを GPGPU（General-Purpose computing on GPU）と呼びます。
こうした計算を書くための API も整いました。CUDA（NVIDIA専用）、OpenCL（汎用）、描画では Vulkan／DirectX／Metal などです。近年GPUが注目されるのは、この並列計算がAIと相性抜群だからです。
GPU は万能ではありません。上級の学びどころは、得意の裏返しがそのまま限界になることです。
if の枝が割れると、ハードは各枝を順番に流し、実行しない側のスレッドはマスクされて遊ぶ。条件分岐が多いコードほど実効並列度が落ちるGPU を活かす条件は、裏返せばこの限界の反対側にあります。分岐が浅く／帯域に見合う再利用があり／転送コストを償却できるだけ大量で／要素が独立——この形に収まるほど、大量並列は本領を発揮します。
そのまま解けます（成績は保存されません）。無料アカウントを作ると、学習の記録と進捗の山登りが始まります。
問1. 小さな配列をCPU側で用意し、GPUで1回だけ軽い計算をして結果をCPUへ戻す処理が、CPU単体より遅くなった。最も疑うべき原因は？
問2. SIMTで動くGPUのワープ（32スレッドの束など）の中で、if文により半分が真・半分が偽に分かれた。ハードウェアは何をするか？
問3. GPUがメモリ待ち（数百サイクルのレイテンシ）を「隠す」主な仕組みはどれか？
問4. あるGPUカーネルで、演算ユニットの利用率は低いのにメモリ帯域はほぼ上限に張り付いていた。この状態の呼び方と対処として適切なのは？
問5. GPGPU（汎用GPU計算）で行列積やベクトル演算が特に速い、その本質的な理由に最も近いのは？
問6. GPUの「共有メモリ（オンチップの高速な作業場）」の説明として正しいのはどれ？
問7. GPUのSIMTでスレッドをまとめる単位を、小さいものから大きいものへ正しく並べたのはどれ？
問8. NVIDIA のGPU上で画面描画を経ずに計算だけを走らせるために使う、同社専用のGPU計算APIの名前を答えてください。