87 lines
3.8 KiB
Markdown
87 lines
3.8 KiB
Markdown
---
|
|
title: incus-kr2
|
|
updated:
|
|
- 2026-05-05 AMD-Vi IOMMU Completion-Wait timeout 차단 (`iommu=pt`) 검증 완료
|
|
- 2026-05-14 K3s/reboot 동반 작업 사전 체크 항목 추가 (iommu=pt 활성 확인)
|
|
tags: [infra, host, incus, k3s, seoul, amd, iommu]
|
|
type: host
|
|
host_kind: server
|
|
location: seoul
|
|
provider: self-hosted
|
|
status: active
|
|
ssh_host: incus-kr2
|
|
tailscale_ip: 100.119.109.41
|
|
lan_ip: 192.168.9.135
|
|
lan_ip_2_5g: 192.168.205.135
|
|
os: Debian 13 (trixie)
|
|
kernel: 6.12.85+deb13-amd64
|
|
cpu_model: AMD Ryzen 9 6900HX
|
|
cpu_cores: 16
|
|
ram_gb: 30
|
|
k3s_role: control-plane
|
|
critical: true
|
|
monthly_cost_usd: 0
|
|
chassis: Bosgame EffiZen Series (mini PC)
|
|
---
|
|
|
|
## 역할
|
|
|
|
Incus + K3s control-plane 호스트 (서울존). Mini PC 폼팩터, AMD Ryzen 9 6900HX. K3s control-plane 2 중 하나, Incus 프로젝트 `default` + `inbest`. inbest 프로젝트가 leewell.com 등 7 컨테이너(cloudflared/nginx/php5/php8/mariadb10/phpmyadmin/sftp) 호스팅 — kr2 단일 장애 시 leewell.com 포함 inbest 서비스 전체 다운.
|
|
|
|
## 네트워크
|
|
|
|
- 1G LAN `192.168.9.135` (eno1) — Tailscale 진입
|
|
- 2.5G LAN `192.168.205.135` (USB r8152, `enx803f5dd34c9f`) — 백업/대용량 전송용 (실 사용량 14~70 B/s 수준으로 거의 idle, [[infra-hosts]] 참조)
|
|
- Tailscale `100.119.109.41`
|
|
|
|
## 전원/원격제어
|
|
|
|
- Tapo 스마트플러그 연결 → 강제 리부팅 가능 (호스트 hang 시 유일한 OOB 수단)
|
|
- iLO/IPMI 미장착 (mini PC 폼팩터)
|
|
|
|
## 알려진 hang 패턴 — AMD-Vi (IOMMU) Completion-Wait Timeout
|
|
|
|
호스트 freeze 반복의 근본 원인. 메커니즘 정본은 [[amd-vi-iommu]], 사건 사연은 [[2026-05-04-amd-iommu-freeze]].
|
|
|
|
요약: AMD Ryzen 6900HX IOMMU의 Completion-Wait queue가 stall되면서 DMA 의존 디바이스(NVMe, USB 컨트롤러 등)가 멈춤 → containerd/incus/sshd login만 죽고 ICMP/이미 매핑된 프로세스(nginx, node-exporter)는 살아남는 부분 hang. 조치: GRUB cmdline `iommu=pt` 추가 (2026-05-04 적용, 17시간 timeout 0건 검증).
|
|
|
|
**과거 freeze 이력 비교**:
|
|
| 일자 | 원인 | 조치 |
|
|
|------|------|------|
|
|
| 2026-04-04 | USB 2.5GbE r8152 autosuspend hang ([[2026-04-04-usb-25g-hang]]) | `usbcore.autosuspend=-1` + udev rule |
|
|
| 2026-04-19 | OOM freeze (RAM 30 GiB 과적) | `kubelet system-reserved=8Gi` |
|
|
| 2026-05-04 | AMD-Vi IOMMU Completion-Wait timeout | `iommu=pt` |
|
|
|
|
## kr2 전용 K3s 설정
|
|
|
|
- `kubelet system-reserved=memory=8Gi`, `eviction-hard=memory.available<2Gi` (2026-04-19 OOM 대응, RAM 30 GiB로 K3s + Incus 공존)
|
|
- 변경 금지 — 제거 시 OOM 재현 위험
|
|
|
|
## GRUB cmdline
|
|
|
|
```
|
|
ro usbcore.autosuspend=-1 quiet iommu=pt
|
|
```
|
|
|
|
- `usbcore.autosuspend=-1` — USB r8152 절전 hang 차단 (2026-04-04)
|
|
- `iommu=pt` — AMD-Vi Completion-Wait timeout 차단 (2026-05-04)
|
|
|
|
### 사전 체크 — reboot/워크로드 재배치 동반 작업 전 필수
|
|
|
|
K3s 업그레이드, OS apt + reboot, 커널 업그레이드, dist-upgrade, grub 패키지 업그레이드, 호스트 reboot 등 **GRUB cmdline 또는 워크로드 부하 패턴이 영향받을 수 있는 작업** 직전에 다음 두 줄로 iommu=pt 활성 여부 확인:
|
|
|
|
```bash
|
|
ssh kaffa@incus-kr2 'cat /proc/cmdline; grep GRUB_CMDLINE /etc/default/grub'
|
|
```
|
|
|
|
- `/proc/cmdline`에 `iommu=pt` 있어야 현재 부팅에서 활성
|
|
- `GRUB_CMDLINE_LINUX_DEFAULT`에 `iommu=pt` 있어야 다음 reboot에서도 적용
|
|
- 둘 중 하나라도 빠지면 작업 중단하고 GRUB 복구 후 reboot 사이클 별건 처리
|
|
|
|
이유: AMD-Vi freeze는 K3s+Incus 워크로드 부하 패턴에서 발생. K3s drain/uncordon으로 pod 재배치 시 freeze 위험 윈도우. dist-upgrade·grub 패키지 prompt 또는 `/etc/default/grub` 수동 편집으로 iommu=pt가 빠지면 다음 reboot에서 freeze 재발.
|
|
|
|
## 디스크
|
|
|
|
- `/dev/nvme0n1` — root + 데이터, ext4 937 GiB (사용 18%)
|
|
- SMART 깨끗 (Critical Warning 0, Media Errors 0, Percentage Used 1%)
|