Harbor

Harbor ~에 github.com/av/harbor Docker Compose를 사용하여 로컬 AI 서비스를 조합하는 오픈 소스 CLI 및 도우미 앱입니다. 기본 항구를 마련하다 Ollama을 시작할 수 있으며 Open WebUI은 이미 연결되어 있습니다. 서비스 핸들을 추가하면 검색, 음성, 이미지 생성, 게이트웨이, 관찰 가능성 및 기타 구성 요소를 동일한 스택에 연결할 수 있습니다. 프로젝트에 Apache-2.0 라이선스가 부여되었습니다.

이는 CNCF Harbor 컨테이너 레지스트리가 아닙니다. 고하버/하버. 또한 LLM, 보안 경계 또는 관리되는 프로덕션 플랫폼이 아닙니다. 이는 독립적으로 유지 관리되는 많은 이미지를 둘러싼 빠른 통합 계층입니다. Harbor은 구성 작업을 줄입니다. 운영자는 여전히 이미지 출처, 노출된 포트, 인증, GPU 용량, 모델 라이선스, 영구 데이터, 업그레이드 및 모든 서비스의 취약점을 소유하고 있습니다.

로컬 AI 스택은 하나의 애플리케이션이 아닌 네트워크입니다.

 브라우저/코딩 클라이언트
          |
          v
 [Open WebUI / API 게이트웨이]
          |
   .------+---------+---------------.
   v v v
 [Ollama] [llama.cpp] [vLLM] 모델 추론
   |                |              |
   '---+---------------'
                    |
          .---------+----------.
          v v
      [SearXNG] [연설] 도구/연설
          |
       인터넷

 Docker 네트워크 ≠ 신뢰할 수 있는 네트워크
 로컬 호스트 ≠ 자동으로 비공개

Harbor은 소비자가 내부 서비스 이름과 예상 API 경로로 공급자를 찾을 수 있도록 조각 작성 및 교차 서비스 구성을 선택합니다. 이러한 편리함은 신뢰 그래프를 확장합니다. 웹 UI는 모델 백엔드, 검색 서비스 및 음성 엔진에 도달할 수 있습니다. 플러그인이나 에이전트는 더 많은 엔드포인트를 호출할 수 있습니다. 서비스를 추가하기 전에 인벤토리 데이터가 흐릅니다.

서비스 역할과 각 역할에 따른 결정

검토 가능한 공급망으로 설치

공식 자료에는 설치 스크립트와 Docker 기반 작업이 나와 있습니다. 다음과 같은 명령 컬... | 강타 편리하지만 변경 가능한 네트워크 콘텐츠를 즉시 실행합니다. 제어된 사용을 위해 실행하기 전에 스크립트를 다운로드하고 검사하고 커밋/태그를 고정하고 저장소 소유권을 확인하세요. 선택한 서비스에 대한 Dockerfiles 및 Compose 정의를 검토하세요.

다음과 같은 컨테이너 태그 최신 재현할 수 없습니다. 안정적인 환경을 위해 이미지 다이제스트를 고정하고 Harbor의 버전을 기록하고 효과적인 Compose 구성을 내보냅니다. 귀하의 정책에 따라 이미지와 소프트웨어 자재 명세서를 스캔하십시오. 공식 이미지에는 여전히 취약한 기본 레이어가 포함될 수 있습니다.

GPU 및 메모리 계획

Harbor은 기능을 감지하고 GPU 리소스를 지원되는 컨테이너에 전달할 수 있지만 호환되지 않는 워크로드를 적합하게 만들 수는 없습니다. 모델 가중치, KV 캐시, 런타임 오버헤드 및 동시 요청을 추정합니다. 성공적으로 로드된 모델은 요청된 컨텍스트에서 또는 ComfyUI 및 음성 서비스가 VRAM을 놓고 경쟁할 때 여전히 실패할 수 있습니다.

가능한 경우 메모리, CPU, GPU 및 디스크 할당량을 설정합니다. 워크스테이션의 온도와 전원을 모니터링합니다. "로컬"이 무료를 의미한다고 가정하지 마세요. 허용된 작업당 비용에 하드웨어 감가상각, 전기, 스토리지, 엔지니어링 및 유휴 용량을 포함하세요.

포트 및 인증

다른 호스트가 연결해야 하는 경우를 제외하고 개발 서비스를 루프백에 바인딩합니다. Docker 게시 포트는 호스트 방화벽에 대한 가정을 우회할 수 있습니다. 시작 후 리스너를 나열하고 다른 장치에서 테스트합니다. 많은 로컬 LLM 끝점은 신뢰할 수 있는 시스템을 기대하기 때문에 더미 키 또는 API 키를 허용하지 않습니다. 변경되지 않은 상태로 LAN이나 인터넷에 노출하지 마십시오.

프로젝트에서는 인증 없이는 서비스를 인터넷으로 터널링하는 것이 안전하지 않다는 점을 명시적으로 경고합니다. 치료하다 항구 터널 노출 이벤트: 강력한 ID, TLS, 속도 제한, 요청 크기 제한, 로그 및 좁은 대상이 필요합니다. 기본 자격 증명을 사용하여 원시 vLLM/Ollama 엔드포인트 또는 관리 UI를 터널링하지 마세요.

비밀 및 서비스 간 신뢰

게이트웨이 및 UI에는 호스팅된 모델, 검색 또는 저장을 위해 API 키가 필요할 수 있습니다. Git에서 제외된 관리형 저장소 또는 보호된 환경 파일에 비밀을 넣습니다. 서비스별 낮은 범위 키를 선호하고 순환합니다. 효과적인 컨테이너 환경과 마운트된 파일을 검사합니다. 둘 다 Compose 프로젝트를 공유한다는 이유만으로 UI가 백엔드 키를 수신해서는 안 됩니다.

OpenAI 호환 API은 동일한 인증이나 의미 체계가 아닌 인터페이스 호환성을 생성합니다. 로컬에서 작동하는 더미 키를 실제 액세스 제어로 재사용하면 안 됩니다. 각 클라이언트/백엔드 쌍에 대한 스트리밍, 도구 호출, 구조화된 출력, 모델 이름, 제한 및 오류 동작을 확인합니다.

영구 데이터, 백업 및 삭제

모델 캐시, 채팅 데이터베이스, 업로드된 문서, 벡터 인덱스, 생성된 이미지, 로그 및 게이트웨이 원격 측정 등 각 볼륨을 매핑합니다. 무엇이 살아남을지 결정하세요 아래로, 업그레이드 및 프로필 변경. 디스크와 백업을 암호화합니다. 동일한 고정 서비스로 복원을 테스트합니다.

• 대체 불가능한 사용자 데이터와 대체 가능한 모델 캐시를 분리하세요.
• 피할 수 있는 경우 애플리케이션 데이터베이스 내부의 API 키를 백업하지 마십시오.
• 채팅 및 업로드된 문서에 대한 보존을 설정합니다. 삭제에는 벡터 인덱스와 썸네일이 포함되어야 합니다.
• 서비스를 제거하기 전에 문서화된 형식으로 데이터를 내보내고 볼륨 정리를 확인하십시오.

프로필은 실행 가능한 구성입니다.

Harbor 프로필은 시나리오에 대한 구성을 저장하며 URL에서 가져올 수 있습니다. 프로필은 이미지 버전, 엔드포인트, 인수 및 잠재적 자격 증명을 변경할 수 있습니다. 신뢰할 수 없는 원격 프로필을 직접 적용하지 마십시오. 비밀을 다운로드하고, 검사하고, 고정하고 제거합니다. 프로필 검토를 코드 변경처럼 처리하세요.

다음과 같은 프로필을 유지합니다. 오프라인-비공개, GPU 채팅 그리고 걸레 테스트 명시적인 서비스 목록과 예산을 사용합니다. 수십 개의 컨테이너를 자동으로 시작하고 공격 표면을 확장하는 계속 증가하는 기본 프로필을 피하세요.

Web RAG는 신뢰할 수 없는 콘텐츠 채널을 추가합니다.

Open WebUI, SearXNG 및 LLM을 결합한 Harbor 스택은 웹을 검색하고 결과를 컨텍스트로 사용할 수 있습니다. 웹 텍스트에는 프롬프트 삽입과 허위 주장이 포함될 수 있습니다. 검색된 콘텐츠에 신뢰할 수 없는 데이터로 라벨을 지정하고 도구를 제한하며 URL을 보존하고 인용을 요구합니다. 비밀에 액세스하거나 관리 엔드포인트를 호출하는 페이지 지침을 허용하지 마세요.

LLM이 로컬인 경우에도 검색어와 가져온 페이지도 컴퓨터에서 나갑니다. 모든 개인정보 보호 주장에 이 예외를 문서화하세요. 프록시 및 DNS 로그는 사용자 의도를 노출할 수 있습니다.

한 번에 한 레이어씩 업그레이드

마이그레이션 전에 상태를 백업하고 쓰기를 중지하고 호환성을 테스트하세요. "컨테이너 시작"만으로는 충분하지 않습니다. 알려진 프롬프트를 보내고, RAG 검색을 수행하고, 도구 호출을 테스트하고, 사용자/기록 지속성을 확인합니다.

꺼내기를 졸업 경로로 사용

항구 탈출 선택한 서비스 및 변수의 독립형 Compose 표현을 생성할 수 있습니다. 이는 실험적 조합이 중요해질 때 유용합니다. 즉, 출력 검토, 플로팅 태그 교체, 비밀 외부화, 상태 확인, 백업, 모니터링 및 소유권 정의를 수행한 다음 이를 일반 인프라로 관리합니다.

배출은 자동 생산 강화가 아닙니다. 생성된 Compose는 실험의 가정을 반영합니다. 프로덕션에는 Kubernetes 또는 다른 스케줄러, 외부 데이터베이스, 고가용성, 자동 크기 조정, 감사 로깅 및 테스트된 재해 복구가 필요할 수 있습니다.

평가 스코어카드

대안

자주 묻는 질문

Harbor 컨테이너 레지스트리인가요?

아니요. 이 목록은 다음을 가리킵니다. AV/항구, 로컬 AI 스택 오케스트레이터. 레지스트리 프로젝트는 고하버/하버.

Harbor은 LLM인가요?

아니요. 모델 서버, UI 및 지원 도구를 다운로드/실행하고 연결합니다.

무료인가요?

프로젝트에 Apache-2.0 라이선스가 부여되었습니다. 모델, 호스팅된 API, 전기, 하드웨어 및 타사 서비스에는 비용이 발생할 수 있습니다.

지역은 개인을 의미합니까?

선택한 모든 서비스, 모델, 도구 및 스토리지가 로컬로 유지되고 안전하게 구성된 경우에만 가능합니다. 검색, 클라우드 API 및 터널은 외부 흐름을 생성합니다.

원격으로 노출할 수 있나요?

이 프로젝트에는 터널링 및 프록시 옵션이 포함되어 있지만 인터넷 노출에 대해 경고합니다. 인증된 VPN/역방향 프록시 제어를 사용하고 인증되지 않은 원시 서비스를 노출하지 마십시오.

생산 준비가 되었나요?

이는 탁월한 탐색/통합 계층입니다. 프로덕션 준비 상태는 선택한 서비스와 고정, 보안, 모니터링, 백업 및 지원에 따라 달라집니다.

어떻게 마이그레이션할 수 있나요?

꺼내기 워크플로를 시작 Compose 파일로 사용한 다음 독립적으로 강화하고 작동합니다.

1차 소스

• 공식 Harbor 저장소, 서비스 개요 및 라이선스
• 공식 설치 가이드
• 공식 CLI 참조
• 공식 백엔드 가이드
• 공식 지역 웹 RAG 가이드
• Docker 엔진 보안 문서
• Docker Compose 환경 변수 사례
• OWASP 프롬프트 주입 지침
• 명확성을 위한 CNCF Harbor 레지스트리

마지막 검토일: 2026년 7월 26일. Harbor 및 해당 서비스 카탈로그는 빠르게 이동합니다. 오케스트레이터, 렌더링된 Compose, 이미지, 모델 및 프로필을 고정하고 변경 후 보안 및 호환성 검사를 다시 실행하세요.