#インフラ
447 件の記事
LLM API vs 自己ホスティング — 損益分岐の計算
LLM を API で使うか自分でホスティングするかを分ける実務基準を整理します。トークン単位課金と GPU 時間単位課金の構造の違い、GPU 1 枚が 1 日に出すトークン数で損益分岐を計算する方法、常時稼働率とバッチ・量子化が分岐点を動かす要因、料金の外で決定を分けるデータプライバシー・遅延・運用負担まで扱います。
SRE と DevOps の違い — 重なる場所と分かれる場所
SRE と DevOps がそれぞれ何で、どこで重なりどこで分かれるのかを整理します。文化・哲学としての DevOps とその実装としての SRE、信頼性を数字で契約する SRE 固有の道具(SLO・エラーバジェット)、組織で二つの役割が実際に分かれる形、求人票の読み方まで扱います。
Kubernetes が遅くなる箇所 — API サーバー、etcd、スケジューラ
ワークロードは正常なのに kubectl が遅く、デプロイが遅れる、コントロールプレーンが遅くなる状況を診断します。API サーバーを叩く過剰な LIST・WATCH、etcd の fsync 遅延と DB の肥大化、スケジューラ遅延の見分け方と、それぞれの指標・対処を扱います。
Lambda vs Fargate — サーバーレスコンピューティングの選択基準
Lambda と Fargate を分ける実務基準を整理します。呼び出し単位課金とタスク単位課金の構造の違い、常時実行なら Lambda が 2 倍以上高くなる単価計算と使用率の基準線、15 分・10GB・コールドスタートという Lambda のハードリミット、API Gateway とログ収集が本体料金を超える隠れコスト、ワークロードの性格で分ける判断の手順まで扱います。
ECS vs EKS — コンテナオーケストレーターの選択基準
ECS と EKS を分ける実務基準を整理します。無料のコントロールプレーンとクラスターあたり月 $73 の差より大きい運用コストの正体、EKS のバージョンアップグレードのサイクルと放置すると 6 倍になる延長サポート料金、Auto Mode が減らしてくれるものと残るもの、Kubernetes エコシステムが本当に必要になる条件、チーム規模・可搬性・採用の観点での判断基準まで扱います。
requests と limits の値を決める基準 — 運用で通用するルール
Kubernetes の requests・limits の概念ではなく「いくつに設定するか」を扱います。実測ベースの requests 算定、CPU limit のスロットリング論争、memory limit を掛ける理由、QoS クラスと退避の順序、VPA 推奨モードの活用、過大予約と無制限メモリという両側の事故パターンまで整理します。
Aurora vs RDS — 構造の違いと乗り換える基準
Aurora と標準 RDS を分ける実務基準を整理します。コンピュートとストレージの分離構造が生む違い(共有ストレージのリードレプリカ 15 台、速いフェイルオーバー、256TiB 自動拡張)、インスタンスのプレミアムにストレージ・I/O 課金が乗る料金構造、I/O-Optimized が有利になる 25% の基準線、Serverless v2 と 0 ACU の自動一時停止、そして標準 RDS が依然として正解になる条件まで扱います。
HPA が思いどおりに動かないとき — よくある設定ミス 6 つ
Kubernetes の HPA が増えない、増えるのが遅すぎる、上下に揺れ続ける原因を整理します。requests 未設定とターゲットパーセントの意味、スケールアップの反応速度と安定化ウィンドウ、フラッピング、GitOps の replicas 衝突、CPU だけを見るスケーリングの限界まで、確認方法とともに扱います。
Pod が Pending で止まるとき — 原因 7 つと確認の順序
Kubernetes の Pod が Pending 状態で止まる原因を実務の頻度順に整理します。describe の Events の読み方から、リソース不足、過大な requests、nodeSelector・affinity の不一致、taint、PVC のバインド待ち、ResourceQuota、Cluster Autoscaler が増えないケースまで、確認コマンドと対処を扱います。
S3 ストレージクラス比較 — Standard から Glacier Deep Archive まで
S3 ストレージクラスを選ぶ実務基準を整理します。クラスごとの保存単価と取り出し料金・最低保存期間の全体マップ、Standard-IA の三つの落とし穴(取り出し料金・30 日・128KB)、Glacier 3 クラスの違い(即時・数時間・12 時間)、アクセスパターンが不明なときに Intelligent-Tiering が正解になる理由、ライフサイクル移行の料金が削減を食いつぶす条件まで扱います。
ECS Fargate vs EC2 — スペックの組み合わせと料金比較
ECS のコンピューティングを選ぶ実務基準を整理します。タスク単位課金(Fargate)とインスタンス単位課金(EC2)の構造の違い、Fargate が許容する vCPU・メモリの組み合わせ(0.25〜16vCPU・最大 120GB)、同じスペックの単価計算で見たプレミアムの実際の大きさ、使用率とビンパッキングが比較を覆す分かれ目、ARM・Spot・Savings Plans で料金を下げる軸まで扱います。
LLM セルフホスティングに必要なサーバー規模の見積もり — VRAM 計算から同時ユーザーまで
社内 LLM をセルフホスティングするときに必要な GPU 規模を見積もる手順を整理します。パラメータ数と精度で行う VRAM 計算、KV キャッシュと同時リクエストの関係、メモリ帯域とトークン生成速度、シナリオ別の構成例、セルフホスティングと API の損益分岐まで扱います。