インフラ
GPU クラウドの選択 — ハイパースケーラー vs 専用 GPU クラウド vs サーバーレス推論
AI ワークロード用の GPU をどこで借りるかを分ける実務基準を整理します。ハイパースケーラー(AWS)と専用 GPU クラウド(Lambda・RunPod)の H100 時間単価が 2〜5 倍開く理由、スポットが半分以下に下がる代わりに受け入れるもの、サーバーレス推論がトークン単位課金で GPU 管理を不要にする場面、そして統合・ネットワーク・規制の要件が料金差を覆す条件まで扱います。
インシデントハンドリングの基本 — 障害対応で最も重要なこと
障害対応を、有能な個人ではなく手順で回るようにする方法を整理します。復旧が原因究明より先という原則、指揮・伝達・調査の役割分離、深刻度の等級と宣言の基準、非難のないポストモーテムの書き方、オンコールを持続可能にする条件まで扱います。
LLM 量子化比較 — FP16・INT8・INT4 と GGUF・AWQ・GPTQ
LLM の量子化方式を選ぶ実務基準を整理します。精度(FP16・INT8・INT4)が VRAM を半分ずつ減らす仕組み、70B モデルが 140GB から 35GB に下がる計算、GGUF・AWQ・GPTQ の三形式が分かれる用途(ローカル・GPU サービング・精度)、INT4 が推論・コードの作業で品質を落とすところ、サービングフレームワークと形式を合わせる方法まで扱います。
エラーバジェット — 障害を許容する予算の概念と計算
SLO から派生するエラーバジェットの概念と計算法を整理します。予算の大きさを時間とリクエスト数に換算する方法、消費速度(バーンレート)ベースのアラートがしきい値アラートより優れる理由、予算枯渇時のポリシー、デプロイ速度と安定性の対立をルールに変える運用法まで扱います。
SLI・SLO・SLA の区別 — 指標から目標、契約まで
混同しやすい SLI、SLO、SLA の三つの用語を実務の順序で整理します。良い SLI の選び方(成功リクエスト比率の方式)、SLO の数値を決める現実的な方法、SLA が SLO より緩くあるべき理由、ナイン(9)の感覚とよくある間違いまで、例とともに扱います。
vLLM vs Ollama vs SGLang — LLM サービングフレームワークの選択
LLM を自己ホスティングするときのサービングフレームワークを選ぶ基準を整理します。ローカル実行向け(Ollama)とプロダクションのスループット向け(vLLM・SGLang)が分かれるところ、PagedAttention と連続バッチングがスループットを 3〜4 倍広げる理由、TGI がメンテナンスモードに入った 2026 年の地形変化、量子化・構造化出力のサポートの違い、そしてチーム規模ごとの選択の手順まで扱います。
LLM API vs 自己ホスティング — 損益分岐の計算
LLM を API で使うか自分でホスティングするかを分ける実務基準を整理します。トークン単位課金と GPU 時間単位課金の構造の違い、GPU 1 枚が 1 日に出すトークン数で損益分岐を計算する方法、常時稼働率とバッチ・量子化が分岐点を動かす要因、料金の外で決定を分けるデータプライバシー・遅延・運用負担まで扱います。
SRE と DevOps の違い — 重なる場所と分かれる場所
SRE と DevOps がそれぞれ何で、どこで重なりどこで分かれるのかを整理します。文化・哲学としての DevOps とその実装としての SRE、信頼性を数字で契約する SRE 固有の道具(SLO・エラーバジェット)、組織で二つの役割が実際に分かれる形、求人票の読み方まで扱います。
Kubernetes が遅くなる箇所 — API サーバー、etcd、スケジューラ
ワークロードは正常なのに kubectl が遅く、デプロイが遅れる、コントロールプレーンが遅くなる状況を診断します。API サーバーを叩く過剰な LIST・WATCH、etcd の fsync 遅延と DB の肥大化、スケジューラ遅延の見分け方と、それぞれの指標・対処を扱います。
Lambda vs Fargate — サーバーレスコンピューティングの選択基準
Lambda と Fargate を分ける実務基準を整理します。呼び出し単位課金とタスク単位課金の構造の違い、常時実行なら Lambda が 2 倍以上高くなる単価計算と使用率の基準線、15 分・10GB・コールドスタートという Lambda のハードリミット、API Gateway とログ収集が本体料金を超える隠れコスト、ワークロードの性格で分ける判断の手順まで扱います。
ECS vs EKS — コンテナオーケストレーターの選択基準
ECS と EKS を分ける実務基準を整理します。無料のコントロールプレーンとクラスターあたり月 $73 の差より大きい運用コストの正体、EKS のバージョンアップグレードのサイクルと放置すると 6 倍になる延長サポート料金、Auto Mode が減らしてくれるものと残るもの、Kubernetes エコシステムが本当に必要になる条件、チーム規模・可搬性・採用の観点での判断基準まで扱います。
requests と limits の値を決める基準 — 運用で通用するルール
Kubernetes の requests・limits の概念ではなく「いくつに設定するか」を扱います。実測ベースの requests 算定、CPU limit のスロットリング論争、memory limit を掛ける理由、QoS クラスと退避の順序、VPA 推奨モードの活用、過大予約と無制限メモリという両側の事故パターンまで整理します。