メインコンテンツへスキップ

カテゴリ

NVIDIA・GPU・AI半導体:アーキテクチャ・CUDA・企業と産業を一次資料で読む

AIの計算基盤を選ぶには、スペック表の数字を正しく読む力が要ります。疎性込みの公称値と密行列の値、演算性能とメモリ帯域、理論ピークと実測。このカテゴリは、NVIDIAのホワイトペーパー・SEC提出書類・査読論文を一次資料として、GPUがAIに強い理由から企業の統治と産業の構造までを扱います。計算で導いた値は理論値と明記し、メーカーの公表値と独立した実測を区別します。

全 9 記事

基礎ガイド

基礎ガイド(まずはここから)

AI
インフラ
パフォーマンス
技術選定
コスト最適化

NVIDIAのGPUはなぜAIに強いのか — Tensor Core・低精度演算・HBM・NVLinkを数式と公称値から読み解く

NVIDIAのGPUがAIに強い理由を、Tensor Core・低精度演算(FP8/FP4)・HBM・NVLinkの4層で解説。H100のFP8 3,958 TFLOPSがスパース性込みの値であること、LLM推論のデコードが演算ではなくメモリ帯域で決まる理由を、公称値と数式から理論値として示します。

36分

関連する実践記事