VCF 9.0+Harbor 搭建私有 AI 模型仓库(PAIS)超详细教程

在使用私有 AI 服务(PAIS)时直接从公共平台下载 AI 模型不仅慢还存在安全风险搭建一个专属的私有模型仓库就很有必要。本文专为小白设计用通俗的语言讲解如何借助 VMware Cloud Foundation(VCF)9.0 和 Harbor 工具一步步搭建能存放 Hugging Face AI 模型的私有仓库。全程避开复杂术语每个步骤都说明 “为什么做” 和 “怎么做”即使是 IT 初学者也能轻松跟着操作让你快速拥有安全、便捷的私有 AI 模型存储方案。一、前期准备这些工具要提前备齐在开始操作前我们需要准备好以下工具和环境就像做饭前要备好食材一样提前准备能让后续操作更顺畅一台服务器(虚拟机或物理机均可)用来安装 Harbor 仓库后续所有 AI 模型都会存放在这里。本地电脑安装 Docker Client这是一个用来和仓库交互的工具就像 “文件传输助手”负责把本地的 AI 模型上传到 Harbor。本地电脑安装 Hugging Face CLIHugging Face 是全球知名的 AI 模型平台这个工具能让我们在电脑上直接下载需要的 AI 模型。安装方法可以参考 Hugging Face 官方文档跟着步骤点击安装就行非常简单。本地电脑安装 VCF CLI这是 VMware 专属的命令行工具用来对接 VCF 平台和 Harbor 仓库实现模型的上传操作安装时同样参考 VMware 官方文档即可。二、详细操作步骤一步步搭建私有 AI 模型仓库步骤 1安装 Harbor 并配置 HTTPS首先我们要在准备好的服务器上安装 Harbor安装时一定要选择 HTTPS 方式(这是一种安全的连接方式能保护模型不被窃取)。具体安装步骤可以查看 Harbor 官方文档跟着文档里的图文指引操作就能完成安装。这里有个重要提醒AI 模型的体积通常很大有的甚至有几十 GB所以安装 Harbor 时一定要给服务器分配足够的存储空间。建议提前检查服务器的硬盘容量不够的话及时扩容避免后续下载模型时出现 “空间不足” 的问题。另外虽然 VMware 有自带的 Harbor vSphere Supervisor Service但更推荐大家安装独立的外部 Harbor 实例。因为独立实例可以直接把服务器导出为 OVA 文件备份后续如果需要重建环境直接恢复备份就能用不用重新搭建仓库和上传模型能省很多事。步骤 2创建 Harbor 项目专门存放 AI 模型安装好 Harbor 后我们需要登录它的管理界面(Admin UI)创建一个专门用来存放 AI 模型的 “项目”。就像在电脑里新建一个文件夹把同类文件放在一起方便后续查找和管理。操作方法很简单登录 Harbor 后找到 “新建项目” 按钮给项目起个好记的名字比如我这里叫 “models”。为了方便后续使用我把这个项目设置为 “公共仓库”意思是后续从仓库里读取模型时不需要输入账号密码验证直接就能使用。如果你的模型涉及敏感信息想要设置密码保护也可以选择 “私有仓库”但后续部署模型时需要额外配置 “拉取密钥” 才能读取模型。这里还要记住一个关键信息后续上传或下载模型时会用到一个 “地址格式”是 “Harbor 服务器域名 项目名 模型名 模型版本”比如 “registry.vcf.lab/models/ 模型名称版本号”后续操作会用到这个格式记不住也没关系后面会再次提到。步骤 3用 Docker Client 登录 Harbor 仓库接下来我们要在本地电脑上打开 Docker Client通过命令登录到刚才搭建的 Harbor 仓库这样才能有权限上传模型。打开电脑的命令行工具(Windows 用 CMD 或 PowerShellMac 和 Linux 用终端)输入以下命令docker login registry.vcf.lab/models -u admin -p VMware1!这里要注意替换参数“registry.vcf.lab/models” 是你自己的 Harbor 项目地址“admin” 是 Harbor 的登录用户名“VMware1!” 是登录密码输入完成后按回车提示 “登录成功” 就说明没问题了。步骤 4添加 CA 证书建立安全信任这一步非常关键很多小白容易忽略导致后续上传模型失败。因为 Harbor 用的是 HTTPS 安全连接本地电脑需要 “信任” 这个仓库的安全证书才能正常和它交互。我们需要先从 Harbor 仓库下载 “根 CA 证书”(安装 Harbor 时会生成这个证书)然后把证书添加到本地电脑的 “信任列表” 里不同系统的添加方法不一样大家可以参考对应的指引Windows 系统按照官方指引把证书添加到系统的 “证书存储” 中;Mac 系统把证书添加到 “钥匙串” 里并设置为 “始终信任”;Linux 系统将证书复制到系统的证书存储目录下完成信任配置。如果这一步没做好后续上传模型时会出现 “不信任连接” 的错误导致上传失败所以一定要仔细操作。步骤 5下载 Hugging Face 的 AI 模型现在我们要从 Hugging Face 平台下载需要的 AI 模型存到本地电脑上。首先打开 Hugging Face 官网找到你想要的模型(比如我选的 “BAAI/bge-small-en-v1.5” 和 “TinyLlama/TinyLlama-1.1B-Chat-v1.0”这两个是体积较小的模型适合初学者测试)复制模型的 “名称 ID”(就是模型页面上的一串名字比如 “BAAI/bge-small-en-v1.5”)。然后打开本地电脑的命令行工具输入以下命令创建文件夹并下载模型创建存放第一个模型的文件夹mkdir bge-small-en-v1.5下载模型到这个文件夹huggingface-cli download BAAI/bge-small-en-v1.5 --local-dir bge-small-en-v1.5创建存放第二个模型的文件夹mkdir tinyllama-1.1b-chat-v1.0下载模型到这个文件夹huggingface-cli download TinyLlama/TinyLlama-1.1B-Chat-v1.0 --local-dir tinyllama-1.1b-chat-v1.0这里的 “mkdir” 命令是创建文件夹“huggingface-cli download” 是下载命令“--local-dir” 后面跟着的是存放模型的文件夹路径。下载过程可能需要一段时间取决于你的网络速度和模型大小耐心等待即可。步骤 6上传本地模型到 Harbor 私有仓库最后一步就是把下载好的本地模型上传到 Harbor 仓库里这样我们的私有模型仓库就真正能用了。这里有个容易踩坑的地方一定要注意上传前必须先进入模型所在的文件夹否则会导致上传失败而且不会提示错误容易让人误以为上传成功了。正确的操作步骤是打开命令行工具进入第一个模型的文件夹cd bge-small-en-v1.5输入上传命令把模型传到 Harbor 仓库vcf pais models push --modelName baai/bge-small-en-v1.5 --modelStore registry.vcf.lab/models -t v5上传完成后再进入第二个模型的文件夹cd ../tinyllama-1.1b-chat-v1.0输入上传命令vcf pais models push --modelName tinyllama/tinyllama-1.1b-chat-v1.0 --modelStore registry.vcf.lab/models -t v1这里的命令参数要解释一下“--modelName” 是模型在仓库里的名称(要符合 DNS 命名规则比如小写、没有空格)“--modelStore” 是 Harbor 的项目地址“-t” 后面是模型的版本号(可以自己随便定比如 v1、v5方便后续区分不同版本的模型)。上传完成后我们可以登录 Harbor 的管理界面在 “models” 项目里看到这两个模型说明上传成功了!接下来这些模型就可以在你的私有 AI 服务(PAIS)中直接使用不用再从公共平台下载既安全又快捷。三、总结通过以上 6 个步骤我们就成功用 VCF 9.0 和 Harbor 搭建好了私有 AI 模型仓库。整个过程虽然看起来有很多步骤但只要跟着指引一步步来小白也能轻松完成。这个私有仓库能帮你安全存储 AI 模型避免重复下载大文件还能保护敏感模型不泄露非常适合企业或个人搭建私有 AI 服务。如果操作过程中遇到问题可以回头检查每个步骤的细节尤其是证书配置和文件夹切换这两个关键环节祝你搭建成功!