infra: hermes 보조모델(kr1 ollama LAN)+telegram gateway 구성, ollama LAN 도달 정정

This commit is contained in:
kaffa
2026-06-09 17:43:14 +09:00
parent 2533ecf1a2
commit 2b70f3b607
2 changed files with 17 additions and 1 deletions

View File

@@ -40,6 +40,22 @@ monthly_cost_usd: 0
- 인증 토큰: `/root/.hermes/auth.json` (device_code OAuth). **구독 계정/시크릿은 컨테이너 로컬, repo·Obsidian에 평문 없음**
- 검증: `hermes -z '...'` 단발 추론 정상 응답 확인 (2026-06-09)
### 모델 분리 (메인 vs 보조)
| 용도 | 모델 | 비고 |
|---|---|---|
| 메인 추론 | `openai-codex/gpt-5.4` (ChatGPT Plus) | 복잡한 대화·도구 호출 |
| 보조 (auxiliary) | kr1 [[ollama]] `qwen3:4b-instruct-2507-q4_K_M` | context compression·web_extract |
보조를 로컬 ollama로 분리한 이유: ① Plus 5h/주간 한도를 보조 작업이 잠식하지 않음 ② 데이터 주권(보조는 내부 LAN 처리) ③ 비용 0. config.yaml `auxiliary.<task>``provider: custom` + `base_url: http://192.168.9.214:11434/v1`(LAN 직결, tailscale 우회) + `model` 지정. ollama는 auth 불필요. ⚠️ 메인 Codex OAuth는 Hermes의 auxiliary 폴백 체인에서 의도적으로 제외됨(OpenAI 비공개 model allow-list) → 보조는 반드시 명시 지정해야 nous/openrouter probe 경고가 안 뜸.
### Telegram 게이트웨이
- 봇: **HermesBot** (`@HermesTest71Bot`), 토큰·allowed_users는 Vault `secret/apps/hermes`
- `.env`: `TELEGRAM_BOT_TOKEN`, `TELEGRAM_ALLOWED_USERS`(접근 허용 단일 사용자), `TELEGRAM_HOME_CHANNEL`
- 서비스: systemd `hermes-gateway.service` (configuration.nix에 선언, `hermes gateway run`). `systemctl --user`는 incus 비대화형 root 환경에서 불가 → **system 서비스로 선언**. boot 자동시작 + `Restart=always` + `TimeoutStopSec=210`(drain 180s 대비)
- ⚠️ 보안: ALLOWED_USERS 미설정 시 봇 주소만 알면 누구나 터미널 권한 에이전트 조작 가능 → 게이트웨이 시작 전 반드시 잠글 것
## NixOS 설정 (정본)
선언적 정본은 Gitea `kaffa/nixos-infra``hosts/hermes/configuration.nix`. 적용 절차: