#인프라
447 편의 글
LLM API vs 자체 호스팅: 손익분기 계산
LLM을 API로 쓸지 직접 호스팅할지 가르는 실무 기준을 정리합니다. 토큰당 과금과 GPU 시간당 과금의 구조 차이, GPU 한 장이 하루에 뽑는 토큰 수로 손익분기를 계산하는 법, 상시 가동률과 배치·양자화가 분기점을 옮기는 지점, 요금 밖에서 결정을 가르는 데이터 프라이버시·지연·운영 부담까지 다룹니다.
SRE와 DevOps의 차이: 겹치는 곳과 갈리는 곳
SRE와 DevOps가 각각 무엇이고 어디서 겹치고 어디서 갈리는지 정리합니다. 문화·철학으로서의 DevOps와 그 구현으로서의 SRE, 신뢰성을 숫자로 계약하는 SRE의 고유 도구(SLO·Error Budget), 조직에서 두 역할이 실제로 나뉘는 모양, 채용 공고 읽는 법까지 다룹니다.
Lambda vs Fargate: 서버리스 컴퓨팅 선택 기준
Lambda와 Fargate를 가르는 실무 기준을 정리합니다. 호출 단위 과금과 태스크 단위 과금의 구조 차이, 상시 실행이면 Lambda가 2배 이상 비싸지는 단가 계산과 사용률 기준선, 15분·10GB·콜드 스타트라는 Lambda의 하드 리밋, API Gateway와 로그 수집이 본체 요금을 넘는 숨은 비용, 워크로드 성격으로 가르는 판단 순서까지 다룹니다.
쿠버네티스 컨트롤 플레인이 느려지는 원인: API 서버, etcd, 스케줄러
워크로드는 멀쩡한데 kubectl이 느리고 배포가 늦는, 컨트롤 플레인이 느려지는 상황을 진단합니다. API 서버를 두드리는 과도한 LIST·WATCH, etcd의 fsync 지연과 DB 비대화, 스케줄러 지연의 구분법과 각각의 지표, 처방을 다룹니다.
ECS vs EKS: 컨테이너 오케스트레이터 선택 기준
ECS와 EKS를 가르는 실무 기준을 정리합니다. 무료 컨트롤 플레인과 클러스터당 월 $73의 차이보다 큰 운영 비용의 정체, EKS 버전 업그레이드 사이클과 방치 시 6배가 되는 연장 지원 요금, Auto Mode가 줄여 주는 것과 남는 것, k8s 생태계가 실제로 필요한 조건, 팀 규모·이식성·채용 관점의 판단 기준까지 다룹니다.
requests와 limits 값을 정하는 기준: 운영에서 통하는 규칙
쿠버네티스 requests·limits의 개념이 아니라 "얼마로 설정하는가"를 다룹니다. 실측 기반 requests 산정, CPU limit의 스로틀링 논쟁, memory limit을 거는 이유, QoS 클래스와 축출 순서, VPA 권고 모드 활용, 과대 예약과 무제한 메모리라는 양쪽 사고 유형까지 정리합니다.
Aurora vs RDS: 구조 차이와 갈아타는 기준
Aurora와 표준 RDS를 가르는 실무 기준을 정리합니다. 스토리지·컴퓨트 분리 구조가 만드는 차이(공유 스토리지 리드 레플리카 15개, 빠른 페일오버, 256TiB 자동 확장), 인스턴스 프리미엄에 스토리지·I/O 과금이 얹히는 요금 구조, I/O-Optimized가 유리해지는 25% 기준선, Serverless v2와 0 ACU 일시정지, 그리고 표준 RDS가 여전히 정답인 조건까지 다룹니다.
HPA가 생각대로 동작하지 않을 때: 흔한 설정 실수 6가지
쿠버네티스 HPA가 안 늘어나거나, 너무 늦게 늘어나거나, 널뛰기하는 원인을 정리합니다. requests 미설정과 타깃 퍼센트의 의미, 스케일업 반응 속도와 안정화 윈도우, 플래핑, GitOps의 replicas 충돌, CPU만 보는 스케일링의 한계까지 확인 방법과 함께 다룹니다.
Pod가 Pending에서 멈출 때: 원인 7가지와 확인 순서
쿠버네티스 Pod가 Pending 상태에서 멈추는 원인을 빈도순으로 정리합니다. describe의 Events 읽는 법부터 리소스 부족, 과도한 requests, nodeSelector·affinity 불일치, taint, PVC 바인딩 대기, ResourceQuota, Cluster Autoscaler가 안 늘어나는 경우까지 확인 명령과 처방을 다룹니다.
S3 스토리지 클래스 비교: Standard부터 Glacier Deep Archive까지
S3 스토리지 클래스를 고르는 실무 기준을 정리합니다. 클래스별 보관 단가와 회수 수수료·최소 보관 기간의 전체 지도, Standard-IA의 세 가지 함정(회수 수수료·30일·128KB), Glacier 세 클래스의 차이(즉시·수시간·12시간), 접근 패턴을 모를 때 Intelligent-Tiering이 정답인 이유, 수명주기 전환 요금이 절감을 잡아먹는 조건까지 다룹니다.
ECS Fargate vs EC2: 스펙 조합과 요금 비교
ECS 컴퓨팅을 고르는 실무 기준을 정리합니다. 태스크 단위 과금(Fargate)과 인스턴스 단위 과금(EC2)의 구조 차이, Fargate가 허용하는 vCPU·메모리 격자(0.25〜16vCPU·최대 120GB), 같은 스펙의 단가 계산으로 본 프리미엄의 실제 크기, 사용률과 빈 패킹이 비교를 뒤집는 지점, ARM·Spot·Savings Plans로 요금을 내리는 축까지 다룹니다.
LLM 자체 호스팅에 필요한 서버 규모 추정: VRAM 계산부터 동시 사용자까지
사내 LLM을 자체 호스팅할 때 필요한 GPU 규모를 추정하는 순서를 정리합니다. 파라미터 수와 정밀도로 하는 VRAM 계산, KV 캐시와 동시 요청의 관계, 메모리 대역폭과 토큰 생성 속도, 시나리오별 구성 예시, 자체 호스팅과 API의 손익분기까지 다룹니다.