Harbor
Harbor
Active

Harbor

Harbor de av es una CLI Apache-2.0 y una aplicación complementaria para componer pilas de IA locales a partir de servicios Docker como Ollama, llama.cpp, vLLM, Open WebUI, SearXNG y ComfyUI. Esta guía cubre la arquitectura, el tamaño de la GPU, el almacenamiento, los secretos, la exposición de la red, los perfiles, las actualizaciones y la migración de producción.

76

Views

0

Likes

Jan 2026

Added

github.com

Website

Tags

gpt-applicationsfree

Editorial Review

About Harbor

Harbor en github.com/av/harbor es una CLI de código abierto y una aplicación complementaria que reúne servicios de IA locales con Docker Compose. Un básico albergar puede iniciar Ollama y Open WebUI ya conectados; Agregar identificadores de servicio puede conectar la búsqueda, la voz, la generación de imágenes, las puertas de enlace, la observabilidad y otros componentes en la misma pila. El proyecto tiene licencia Apache-2.0.

Este no es el registro de contenedores CNCF Harbor en puerto/puerto. Tampoco es un LLM, un límite de seguridad o una plataforma de producción administrada. Es una capa de integración rápida en torno a muchas imágenes mantenidas de forma independiente. Harbor reduce el trabajo de configuración; el operador aún posee la procedencia de la imagen, los puertos expuestos, la autenticación, la capacidad de la GPU, las licencias de modelo, los datos persistentes, las actualizaciones y las vulnerabilidades de cada servicio.

Harbor local AI stack placeholder visual
El registro de directorio actual de Harbor carece de una captura de pantalla oficial. Utilice el repositorio oficial y el catálogo de servicios en vivo como autoridad del producto; Esta imagen genérica no es evidencia de una interfaz de usuario o capacidad particular.

Una pila de IA local es una red, no una aplicación

 navegador/cliente de codificación
          |
          v
 [Open WebUI / API puerta de enlace]
          |
   .------+---------+--------------.
   vvv
 [Ollama] [llama.cpp] [vLLM] inferencia del modelo
   |                |              |
   '----------------+-----------------------'
                    |
          .---------+----------.
          vv
      [SearXNG] [Discursos] herramientas/discurso
          |
       internet

 Red Docker ≠ red confiable
 anfitrión local ≠ automáticamente privado

Harbor selecciona Redactar fragmentos y configuración entre servicios para que los consumidores puedan encontrar proveedores por nombre de servicio interno y ruta esperada API. Esa conveniencia amplía el gráfico de confianza: una interfaz de usuario web puede llegar a un backend modelo, un servicio de búsqueda y un motor de voz; Los complementos o agentes pueden llamar aún a más puntos finales. Los datos del inventario fluyen antes de agregar servicios.

Roles de servicio y la decisión que cada uno presenta

capaEjemplos documentados por HarborDecisión del operador
backend de inferenciaOllama, llama.cpp, vLLM, SGLang y otrosModelo, cuantificación, GPU, contexto, licencia y exposición API
InterfazOpen WebUI e interfaces de chat alternativasAutenticación, usuarios, historial, cargas y herramientas.
Puerta de enlace/enrutadorLiteLLM, Bifrost, Harbor ImpulsoClaves, respaldos, registros, cuotas y enrutamiento de proveedores
Recuperación/búsquedaSearXNG, servicios de investigación y RAGTráfico saliente, privacidad de índices, citas e inyección rápida
MediosDiscursos, ComfyUI y servicios de voz/diseñoDerechos de modelo, disputa por GPU y revisión de medios generados
Agente/flujo de trabajoDify, n8n, codificación/servicios de agenteAutoridad de herramientas, credenciales, sandboxing y efectos secundarios
Proxy/accesoTraefik y túnel incorporado.TLS, nombres de host, autenticación y exposición a Internet

Instalar con una cadena de suministro revisable

Los materiales oficiales muestran scripts de instalación y operación basada en Docker. Un comando como rizo... | fiesta es conveniente pero ejecuta contenido de red mutable inmediatamente. Para un uso controlado, descargue el script, inspecciónelo, fije una confirmación/etiqueta y verifique la propiedad del repositorio antes de ejecutarlo. Revise las definiciones de Dockerfiles y Compose para los servicios seleccionados.

Etiquetas de contenedores como último no son reproducibles. Fije resúmenes de imágenes para un entorno estable, registre la versión de Harbor y exporte la configuración de redacción efectiva. Escanee imágenes y listas de materiales de software según su póliza. Una imagen oficial aún puede contener una capa base vulnerable.

artefactoRegistro¿Por qué?
Harbor CLI/aplicaciónVersión, confirmación y hash del instaladorReproducir el comportamiento de orquestación
Redactar configuraciónNombres de archivos y entornos renderizados/expulsadosSepa lo que realmente se ejecutó
Imagen del contenedorRegistro, repositorio y resumenEvite la deriva silenciosa de etiquetas
modeloFuente, revisión, hash, cuantificación y licencia.Calidad, seguridad y procedencia legal
PerfilArchivo local revisado y suma de comprobaciónLos perfiles pueden cambiar puntos finales y secretos

Planificación de memoria y GPU

Harbor puede detectar capacidades y pasar recursos de GPU a contenedores compatibles, pero no puede adaptar cargas de trabajo incompatibles. Calcule los pesos del modelo, la caché KV, la sobrecarga del tiempo de ejecución y las solicitudes simultáneas. Un modelo que se carga correctamente aún puede fallar en el contexto solicitado o cuando ComfyUI y los servicios de voz compiten por la VRAM.

Carga de trabajoControlador de capacidadprueba
Chat de usuario únicoPesos del modelo + un caché KVTiempo hasta el primer token y tokens/seg en el contexto objetivo
RAG de contexto largoCaché KV y preprocesamiento rápidoVRAM/RAM máxima y latencia en un tamaño de documento realista
Múltiples usuariosFragmentación por lotes, colas y cachéLatencia P50/P95 y solicitudes rechazadas bajo carga
Generación de imágenesModelo de difusión y resolución.Contención mientras el backend de LLM está activo
Canalización del hablaDuración del audio, modelo y factor de tiempo real.Latencia de captura a respuesta de extremo a extremo

Establezca cuotas de memoria, CPU, GPU y disco cuando sea práctico. Monitorear la temperatura y la energía en una estación de trabajo. Evite asumir que “local” significa gratis: incluya la depreciación del hardware, la electricidad, el almacenamiento, la ingeniería y la capacidad inactiva en el costo por tarea aceptada.

Puertos y autenticación

Vincula los servicios de desarrollo al loopback a menos que otro host deba alcanzarlos. Los puertos publicados en Docker pueden eludir las suposiciones sobre un firewall de host. Enumere los oyentes después del inicio y pruebe desde otro dispositivo. Muchos puntos finales locales de LLM aceptan claves ficticias o ninguna API porque esperan una máquina confiable; no los exponga a una LAN o Internet sin cambios.

El proyecto advierte explícitamente que conectar un servicio a Internet no es seguro sin autenticación. tratar túnel del puerto como evento de exposición: requiere una identidad sólida, TLS, límites de velocidad, límites de tamaño de solicitud, registros y un objetivo limitado. Nunca haga un túnel en un extremo vLLM/Ollama sin procesar o en una interfaz de usuario de administrador con credenciales predeterminadas.

ExposiciónControl mínimoRiesgo residual
Solo bucle invertidoSeguridad de la cuenta del anfitriónSolicitud de navegador/proceso local malicioso
LAN confiableFirewall, autenticación y subred segmentadaPar comprometido y Wi-Fi débil
Proxy inverso/VPNSSO/MFA, TLS y política de accesoMala configuración del proxy y sesión robada
Túnel públicoTodo lo anterior más protección y monitoreo contra abusosEscaneo de Internet, costo/DoS y extracción de modelos

Secretos y confianza entre servicios

Las puertas de enlace y las UI pueden necesitar API claves para modelos alojados, búsqueda o almacenamiento. Coloque los secretos en un almacén administrado o en un archivo de entorno protegido que esté excluido de Git. Prefiera claves de bajo alcance y específicas del servicio y rótelas. Inspeccionar el entorno de contenedores efectivo y los archivos montados; una interfaz de usuario no debería recibir una clave de backend simplemente porque ambas comparten un proyecto de Compose.

Los API compatibles con OpenAI crean compatibilidad de interfaz, no autenticación o semántica idéntica. Una clave ficticia que funcione localmente no debe reutilizarse como control de acceso real. Verifique la transmisión, las llamadas a herramientas, la salida estructurada, los nombres de los modelos, los límites y el comportamiento de error para cada par de cliente/backend.

Datos persistentes, copias de seguridad y eliminación.

Asigne cada volumen: caché de modelo, base de datos de chat, documentos cargados, índices vectoriales, imágenes generadas, registros y telemetría de puerta de enlace. Decide qué sobrevive abajo, actualizaciones y cambios de perfil. Cifrar discos y copias de seguridad. Pruebe la restauración con los mismos servicios anclados.

  • Separe los cachés de modelos reemplazables de los datos de usuario irremplazables.
  • No haga una copia de seguridad de las claves API dentro de las bases de datos de la aplicación cuando sea posible evitarlo.
  • Establecer retención para chat y documentos cargados; la eliminación debe cubrir los índices de vectores y las miniaturas.
  • Antes de eliminar un servicio, exporte los datos en un formato documentado y confirme la limpieza del volumen.

Los perfiles son configuración ejecutable.

Los perfiles Harbor guardan la configuración para escenarios y se pueden importar desde una URL. Un perfil puede alterar versiones de imágenes, puntos finales, argumentos y potencialmente credenciales. Nunca aplique directamente un perfil remoto que no sea de confianza. Descargue, inspeccione, fije y elimine secretos; Trate la revisión del perfil como un cambio de código.

Mantener perfiles como privado sin conexión, gpu-chat y prueba de trapo con listas de servicios y presupuestos explícitos. Evite un perfil predeterminado en constante crecimiento que inicia silenciosamente docenas de contenedores y amplía la superficie de ataque.

Web RAG agrega un canal de contenido no confiable

Una pila Harbor que combina Open WebUI, SearXNG y un LLM puede buscar en la web y utilizar los resultados como contexto. El texto web puede contener inyecciones rápidas y afirmaciones falsas. Etiquete el contenido recuperado como datos que no son de confianza, restrinja las herramientas, conserve las URL y solicite citas. No permita que las instrucciones de la página accedan a secretos o invoquen puntos finales administrativos.

Las consultas de búsqueda y las páginas recuperadas también salen de la máquina incluso cuando el LLM es local. Documente esta excepción en cualquier reclamo de privacidad. Los registros de proxy y DNS pueden exponer la intención del usuario.

Actualiza una capa a la vez

Cambiarevidencia canariaActivo de reversión
Harbor actualizaciónPruebas de humo y diferencias de composición renderizadasCLI/versión y configuración anteriores
Imagen de servicioComprobaciones de esquema, autenticación, interfaz de usuario y de integraciónResumen anterior e instantánea del volumen
modeloCalidad, llamada de herramientas y referencia de latenciaHash del modelo anterior
Controlador/tiempo de ejecución de GPUTodos los backends cargan y mantienen la carga de trabajo objetivoImagen/controlador de host en buen estado
PerfilDiferencia de puerto, secreto y flujo de datosPerfil anterior versionado

Haga una copia de seguridad del estado, detenga las escrituras y pruebe la compatibilidad antes de una migración. Los “inicios de contenedores” no son suficientes: envíe mensajes conocidos, realice la recuperación de RAG, pruebe las llamadas a herramientas y verifique la persistencia del historial/usuario.

Utilice la expulsión como ruta de graduación

expulsión del puerto puede producir una representación Compose independiente de servicios y variables seleccionados. Esto es valioso cuando una combinación experimental se vuelve importante: revisar el resultado, reemplazar etiquetas flotantes, externalizar secretos, definir controles de estado, copias de seguridad, monitoreo y propiedad, y luego administrarlo como una infraestructura ordinaria.

La expulsión no es un endurecimiento automático de la producción. La composición generada refleja las suposiciones del experimento. La producción puede requerir Kubernetes u otro programador, bases de datos externas, alta disponibilidad, escalado automático, registros de auditoría y recuperación ante desastres probada.

Cuadro de mando de evaluación

DimensiónMedidaPasar pregunta
Valor de configuraciónTiempo desde el host limpio hasta el escenario de trabajo¿Harbor reduce materialmente el tiempo de configuración repetible?
FiabilidadArranque en frío, reinicios y recuperación de dependencia fallida¿Puede otro operador recuperarlo?
CalidadPunto de referencia de tareas en modelos/configuraciones anclados¿Son suficientes los resultados aceptados?
RendimientoLatencia, rendimiento, VRAM y cola¿Cumple con una carga concurrente real?
SeguridadPuertos, autenticación, secretos, escaneos y flujos de datos.¿Está justificada la autoridad de cada servicio?
PortabilidadExpulsar y restaurar en un host limpio¿Puede la pila dejar Harbor sin perder datos?

Alternativas

OpciónMejor ajusteCompensación versus Harbor
Harbor (av)Explorando muchos servicios de IA locales precableadosAmplio catálogo de servicios que cambia rápidamente
Ollama + Open WebUI manualmenteChat local simple y estableMenos abstracción y auditoría más sencilla, más cableado manual
LM StudioDescarga y chat del primer modelo de escritorio/APIMenos orquestación de composición multiservicio
Docker Compose construido internamentePequeña pila de propiedad de producciónMás ingeniería inicial, superficie mínima más clara
Kubernetes/timónPlataforma de producción multinodoComplejidad operativa mucho mayor
Modelo gestionado/plataforma APIEquipos que evitan la infraestructura de GPUCosto de uso, cargas y dependencia del proveedor

Preguntas frecuentes

¿Es este el registro de contenedores Harbor?

No. Este listado apunta a av/puerto, un orquestador local de pilas de IA. El proyecto de registro es puerto/puerto.

¿Es Harbor un LLM?

No. Descarga/ejecuta y conecta servidores modelo, interfaces de usuario y herramientas de soporte.

¿Es gratis?

El proyecto tiene licencia Apache-2.0. Los modelos, los APIs alojados, la electricidad, el hardware y los servicios de terceros pueden costar dinero.

¿Local significa privado?

Solo si todos los servicios, modelos, herramientas y almacenamiento seleccionados permanecen locales y configurados de forma segura. La búsqueda, la nube APIs y los túneles crean flujos externos.

¿Puedo exponerlo de forma remota?

El proyecto incluye opciones de túnel y proxy, pero advierte sobre la exposición a Internet. Utilice controles de VPN/proxy inverso autenticados y nunca exponga servicios sin autenticar.

¿Está listo para producción?

Es una excelente capa de exploración/integración. La preparación para la producción depende de los servicios seleccionados además de su fijación, seguridad, monitoreo, copias de seguridad y soporte.

¿Cómo puedo migrar?

Utilice el flujo de trabajo de expulsión como archivo inicial de redacción, luego protéjalo y opere de forma independiente.

fuentes primarias

Última revisión el 26 de julio de 2026. Harbor y su catálogo de servicios avanzan rápidamente. Fije el orquestador, renderice Compose, imágenes, modelos y perfiles y vuelva a ejecutar comprobaciones de seguridad y compatibilidad después de los cambios.

Ready to try Harbor?

Visit the official website to get started

Visit Harbor

Quick Info

Added
1/21/2026
Published
1/21/2026
Updated
9/3/2026

Share This Tool

Have an AI tool to share?

Submit it to AI Dreamhub

Get your product in front of people actively exploring AI tools.

Submit Your Tool

Related Tools

Poe

Poe

AI product built by Quora. Can use ChatGPT, Sage, Dragonfly, Claude bots for free. All you need is an email address to register. GPT-4 can be used once a day for free - Herramienta de IA inteligente para mejorar tu productividad.

gpt-applicationsfree
880
HuggingChat

HuggingChat

Análisis independiente de HuggingChat 2026: Omni, modelos, proveedores, privacidad, herramientas, límites, verificación y alternativas.

modelos abiertoschat IAHugging Face
740
Google AI Studio

Google AI Studio

Google AI Studio is a free, web-based developer tool that enables you to quickly develop prompts and then get an API key to use in your app development. - Herramienta de IA inteligente para mejorar tu productividad.

gpt-applicationsfree
910
NotebookLM

NotebookLM

AI Research Assistant developed by Google. Upload PDFs, websites, YouTube videos, audio files, Google Docs, or Google Slides, and NotebookLM will summarize them and make interesting connections between topics. - Herramienta de IA inteligente para mejorar tu productividad.

gpt-applicationsfree
1010