Closed-network on-prem AI
← /work
06Aiming2025—

Closed-network · on-prem LLM

인터넷이 완전히 차단된 기업 환경에 USB로 반입하는 로컬 LLM + Text-to-SQL. 현재 설계·제안 단계.

role설계 · 제안 (실 운영물 없음)
scroll ↓
01why

SaaS 가 진입 불가능한 시장이 있다 — 망분리·인터넷 완전 차단 기업. 클라우드 LLM 을 못 쓰는 곳에 on-prem 로컬 LLM + 사내 DB 읽기전용 Text-to-SQL 을 USB 반입형으로 설계. NDA 로 고객·산업은 추상화.

02moat
  • 01오픈소스 로컬 LLM 추론 — 외부 네트워크 0 의존
  • 02읽기전용 DB connector — 사내 DB 변경 risk 0, 조회만
  • 03USB 반입형 패키징 — 망분리 환경 배포 제약 해결
  • 04정직 = 제안 단계. 실 운영 레퍼런스 아직 없음 (aiming)
03hypothesis

(1) 망분리 기업은 *외부 네트워크 0 의존* + *사내 DB 변경 risk 0 (읽기전용)* + *USB 반입 배포* 3축으로만 production 진입 가능. (2) Gemma 4 26B 같은 오픈소스 로컬 LLM + node-oracledb 읽기전용 + on-prem 구성으로 PoC 가능. (3) 정부 지원사업 *보유 솔루션 증빙* 요건 = 망분리 시장 진입의 *진짜 게이트* (기술 ≠ 진입).

04constraints
  • 01NDA — 고객·산업 추상화 필수 (구체 노출 X)
  • 02인터넷 완전 차단 — 모든 의존성 USB 반입 가능 형태
  • 03사내 DB 변경 risk 0 — 읽기전용 강제
  • 04정부 지원사업 *보유 솔루션 증빙* 요건 — 레퍼런스 없으면 제안조차 받지 않음
05decisions · tradeoffs
  • 오픈소스 로컬 LLM 추론 (Gemma 4 26B / Llama 계열)

    buy모델 품질 cloud 대비 ↓ → 외부 네트워크 0 의존 + 데이터 외부 유출 risk 0

  • 읽기전용 DB connector (node-oracledb RO mode)

    buy쓰기 불가 → 사내 DB 변경 risk 0 + 보안팀 통과 가능

  • USB 반입형 패키징

    buy배포 절차 복잡 → 망분리 환경 진입 가능

  • 정직 = *Aiming* 단계 명시, 실 운영 레퍼런스 없음 노출

    buy마케팅 톤 ↓ → 신뢰 ↑ + 부풀림 0

06verified

설계·PoC 구성 정의 완료. 실 납품 전. *제안 단계* 가 시장 신호 — 망분리 시장은 *증빙·레퍼런스* 가 진입장벽이라는 게 검증됨.

07result

제안 단계. 설계·PoC 구성 정의 완료, 실 납품 전.

StageAiming
Model로컬 LLM
DB사내 DB RO
08retro

정부 지원사업 *보유 솔루션 증빙* 요건 만나서 *제안 단계로 멈춤* 이 사고가 아니라 *시장 검증 신호*. 망분리 시장은 *기술 완성* ≠ *진입* — 레퍼런스가 진짜 게이트. 다음 관문 = 실 운영 레퍼런스 확보. *Aiming* 으로 정직히 표기 — *Live* 인 척하는 게 회고 자체를 거짓으로 만듦.

stack오픈소스 로컬 LLM읽기전용 DB connectoron-premUSB deploy
다음 ↘industries