--- title: incus-kr2 updated: - 2026-05-05 AMD-Vi IOMMU Completion-Wait timeout 차단 (`iommu=pt`) 검증 완료 - 2026-05-14 K3s/reboot 동반 작업 사전 체크 항목 추가 (iommu=pt 활성 확인) tags: [infra, host, incus, k3s, seoul, amd, iommu] type: host host_kind: server location: seoul provider: self-hosted status: active ssh_host: incus-kr2 tailscale_ip: 100.119.109.41 lan_ip: 192.168.9.135 lan_ip_2_5g: 192.168.205.135 os: Debian 13 (trixie) kernel: 6.12.85+deb13-amd64 cpu_model: AMD Ryzen 9 6900HX cpu_cores: 16 ram_gb: 30 k3s_role: control-plane critical: true monthly_cost_usd: 0 chassis: Bosgame EffiZen Series (mini PC) --- ## 역할 Incus + K3s control-plane 호스트 (서울존). Mini PC 폼팩터, AMD Ryzen 9 6900HX. K3s control-plane 2 중 하나, Incus 프로젝트 `default` + `inbest`. inbest 프로젝트가 leewell.com 등 7 컨테이너(cloudflared/nginx/php5/php8/mariadb10/phpmyadmin/sftp) 호스팅 — kr2 단일 장애 시 leewell.com 포함 inbest 서비스 전체 다운. ## 네트워크 - 1G LAN `192.168.9.135` (eno1) — Tailscale 진입 - 2.5G LAN `192.168.205.135` (USB r8152, `enx803f5dd34c9f`) — 백업/대용량 전송용 (실 사용량 14~70 B/s 수준으로 거의 idle, [[infra-hosts]] 참조) - Tailscale `100.119.109.41` ## 전원/원격제어 - Tapo 스마트플러그 연결 → 강제 리부팅 가능 (호스트 hang 시 유일한 OOB 수단) - iLO/IPMI 미장착 (mini PC 폼팩터) ## 알려진 hang 패턴 — AMD-Vi (IOMMU) Completion-Wait Timeout 호스트 freeze 반복의 근본 원인. 메커니즘 정본은 [[amd-vi-iommu]], 사건 사연은 [[2026-05-04-amd-iommu-freeze]]. 요약: AMD Ryzen 6900HX IOMMU의 Completion-Wait queue가 stall되면서 DMA 의존 디바이스(NVMe, USB 컨트롤러 등)가 멈춤 → containerd/incus/sshd login만 죽고 ICMP/이미 매핑된 프로세스(nginx, node-exporter)는 살아남는 부분 hang. 조치: GRUB cmdline `iommu=pt` 추가 (2026-05-04 적용, 17시간 timeout 0건 검증). **과거 freeze 이력 비교**: | 일자 | 원인 | 조치 | |------|------|------| | 2026-04-04 | USB 2.5GbE r8152 autosuspend hang ([[2026-04-04-usb-25g-hang]]) | `usbcore.autosuspend=-1` + udev rule | | 2026-04-19 | OOM freeze (RAM 30 GiB 과적) | `kubelet system-reserved=8Gi` | | 2026-05-04 | AMD-Vi IOMMU Completion-Wait timeout | `iommu=pt` | ## kr2 전용 K3s 설정 - `kubelet system-reserved=memory=8Gi`, `eviction-hard=memory.available<2Gi` (2026-04-19 OOM 대응, RAM 30 GiB로 K3s + Incus 공존) - 변경 금지 — 제거 시 OOM 재현 위험 ## GRUB cmdline ``` ro usbcore.autosuspend=-1 quiet iommu=pt ``` - `usbcore.autosuspend=-1` — USB r8152 절전 hang 차단 (2026-04-04) - `iommu=pt` — AMD-Vi Completion-Wait timeout 차단 (2026-05-04) ### 사전 체크 — reboot/워크로드 재배치 동반 작업 전 필수 K3s 업그레이드, OS apt + reboot, 커널 업그레이드, dist-upgrade, grub 패키지 업그레이드, 호스트 reboot 등 **GRUB cmdline 또는 워크로드 부하 패턴이 영향받을 수 있는 작업** 직전에 다음 두 줄로 iommu=pt 활성 여부 확인: ```bash ssh kaffa@incus-kr2 'cat /proc/cmdline; grep GRUB_CMDLINE /etc/default/grub' ``` - `/proc/cmdline`에 `iommu=pt` 있어야 현재 부팅에서 활성 - `GRUB_CMDLINE_LINUX_DEFAULT`에 `iommu=pt` 있어야 다음 reboot에서도 적용 - 둘 중 하나라도 빠지면 작업 중단하고 GRUB 복구 후 reboot 사이클 별건 처리 이유: AMD-Vi freeze는 K3s+Incus 워크로드 부하 패턴에서 발생. K3s drain/uncordon으로 pod 재배치 시 freeze 위험 윈도우. dist-upgrade·grub 패키지 prompt 또는 `/etc/default/grub` 수동 편집으로 iommu=pt가 빠지면 다음 reboot에서 freeze 재발. ## 디스크 - `/dev/nvme0n1` — root + 데이터, ext4 937 GiB (사용 18%) - SMART 깨끗 (Critical Warning 0, Media Errors 0, Percentage Used 1%)