ハードウェア
LLM セルフホスティングに必要なサーバー規模の見積もり — VRAM 計算から同時ユーザーまで
社内 LLM をセルフホスティングするときに必要な GPU 規模を見積もる手順を整理します。パラメータ数と精度で行う VRAM 計算、KV キャッシュと同時リクエストの関係、メモリ帯域とトークン生成速度、シナリオ別の構成例、セルフホスティングと API の損益分岐まで扱います。
AI の学習サーバーと推論サーバーの違い — スペックが分かれるポイント
同じ GPU サーバーなのに学習用と推論用でスペックが分かれる理由を整理します。バッチ処理とリクエスト処理というワークロード形態の違い、GPU 間通信とメモリ帯域というボトルネックの違い、精度と量子化、コスト構造と兼用の罠まで、機材選択の観点で扱います。
NVIDIA GPU の名前の読み方 — アーキテクチャ世代と製品ラインの整理
H100、B200、GB300、L40S、RTX 5090 のような NVIDIA GPU の名前を体系として読む方法を整理します。科学者名のアーキテクチャ世代の軸と、データセンター・推論・コンシューマーの製品ラインの軸、数字と接頭辞の意味、2026 年半ば時点の世代の現況とロードマップまで扱います。
GPU サーバーと一般サーバーの違い — 構造・電力・冷却・価格
GPU サーバーが一般サーバーとどこから違う機材なのかを整理します。GPU 中心にひっくり返ったサーバー構造とインターコネクト、桁が違う電力密度と液体冷却の登場、価格構造、ドライバスタックと稼働率管理まで、導入前に知っておくべき違いを扱います。
サーバーが遅い理由 #5 データベースが遅くなるとき — インデックス・ロック・コネクションプール
問題なく動いていたデータベースが遅くなる原因を追跡します。データの成長がしきい値を超えた瞬間に崩れるフルスキャン、インデックスがあるのに使われない条件、長いトランザクションが作るロック待ちのチェーン、プール枯渇と DB 飽和の見分け方、EXPLAIN と統計ビューによる診断手順を扱います。
サーバーが遅い理由 #4 帯域は足りているのに遅いとき — レイテンシ・RTT・再送
回線の帯域は余っているのにネットワークが遅い状況の原因を追跡します。RTT と往復回数が体感速度を決める構造、TCP ハンドシェイクと TLS の往復コスト、BDP とウィンドウの限界、パケットロスと再送の確認方法、コネクション再利用まで扱います。
サーバーが遅い理由 #3 SSD なのに遅いとき — 書き込み増幅・fsync・キュー深度
SSD を使っているのにディスクがボトルネックになる状況の原因を追跡します。スペックシートの IOPS の前提条件、fsync が生む耐久性書き込みのコスト、SLC キャッシュの枯渇と書き込み増幅、キュー深度 1 の物理的な限界、クラウドボリュームの IOPS 上限まで扱います。
サーバーが遅い理由 #2 メモリを増やしても速くならないとき — ページキャッシュ・スワップ・ワーキングセット
メモリを増設したのに性能が変わらない状況の原因を追跡します。available の意味とページキャッシュ、余ったメモリがすでにキャッシュとして働いている構造、スワップは使用量ではなく出入りで判定すること、ワーキングセットの見極め、コンテナのメモリ上限とアプリケーションのヒープ設定まで扱います。
サーバーが遅い理由 #1 CPU 使用率は低いのに遅いとき — run queue・I/O wait・ロック競合
CPU 使用率が低いのにサーバーが遅い状況の原因を追跡します。run queue とスケジューリング遅延、iowait の落とし穴、ロック競合と off-CPU の待ち、クラウドのスチールタイムまで、使用率グラフが見落とす待ち時間を見つける診断手順を扱います。
ハードウェア上級 #7 ファームウェア・BMC・ライフサイクル — サーバーの中のもう 1 台のコンピュータ
メイン CPU と独立して常に動き続ける管理用コンピュータ BMC を扱います。リモートコンソールと電源制御、IPMI と Redfish、ファームウェアスタックとアップデート運用、SMART と ECC カウンタによる故障予測、管理ネットワークのセキュリティ、そして保証満了からディスク廃棄までのライフサイクルを整理し、ハードウェア上級シリーズを締めくくります。
ハードウェア上級 #6 データセンターの冷却とラック — 電気は結局熱になる
サーバーに入った電力はほぼすべて熱になって出ていきます。前面吸気・背面排気という気流の基本から出発し、ホットアイル・コールドアイルのコンテインメント、ラック密度と空冷の限界、D2C・液浸といった液体冷却、ASHRAE の温度基準と PUE の関係まで、データセンター冷却の全体像を整理します。
ハードウェア上級 #5 データセンターの電力 — サーバーをこれ以上挿せない本当の理由
ラックに空きスロットが残っていてもサーバーを挿せない理由は電力バジェットです。PSU の冗長化と A/B 電源フィード、ラック単位の kW 契約、PDU と UPS、発電機と ATS、PUE、そして GPU サーバーが押し上げた電力密度まで、サーバーが生きる電力環境を運用者の視点で整理します。