Omni-Vision Sanctuary Ubuntu服务器部署全记录：从系统安装到服务上线

Omni-Vision Sanctuary Ubuntu服务器部署全记录：从系统安装到服务上线

1. 准备工作与环境搭建

在开始部署Omni-Vision Sanctuary之前，我们需要准备好基础环境。这个过程就像装修房子前要先打好地基一样重要。

首先，你需要一台物理服务器或云服务器。建议配置至少16GB内存和50GB存储空间，因为AI模型通常比较"吃"资源。如果你用的是云服务，像阿里云、腾讯云这些主流平台都可以，选择Ubuntu 20.04 LTS或22.04 LTS版本的操作系统。

安装Ubuntu系统其实很简单，就像给电脑装个新系统。你可以从官网下载ISO镜像，然后制作启动U盘。安装过程中有几个关键点需要注意：

• 分区时建议单独给/home和/var分区，这样以后维护更方便
• 记得勾选安装OpenSSH server，方便远程管理
• 设置一个强密码，或者直接使用SSH密钥登录更安全

装好系统后，第一件事就是更新软件包。打开终端，运行这两个命令：

sudo apt update sudo apt upgrade -y

这就像给新房子通水电一样，是基础中的基础。

2. Docker环境部署

现在我们来安装Docker，它就像是货物的集装箱，能让我们的应用在各种环境下都能稳定运行。

安装Docker其实就几条命令的事：

sudo apt install -y apt-transport-https ca-certificates curl software-properties-common curl -fsSL https://download.docker.com/linux/ubuntu/gpg | sudo apt-key add - sudo add-apt-repository "deb [arch=amd64] https://download.docker.com/linux/ubuntu $(lsb_release -cs) stable" sudo apt update sudo apt install -y docker-ce docker-ce-cli containerd.io

装好后，我们可以做个简单测试：

sudo docker run hello-world

如果看到"Hello from Docker!"的提示，说明安装成功了。为了以后不用每次都加sudo，我们可以把当前用户加入docker组：

sudo usermod -aG docker $USER

记得注销重新登录让这个设置生效。

3. 使用星图GPU平台镜像一键启动服务

这里就是重头戏了，我们要用星图平台的镜像来部署Omni-Vision Sanctuary服务。这就像是从家具城直接买了一套现成的精装房，省去了自己装修的麻烦。

首先，确保你的服务器有NVIDIA GPU，并且已经装好了驱动。可以用这个命令检查：

nvidia-smi

如果能看到GPU信息，说明驱动装好了。接下来安装nvidia-docker2：

distribution=$(. /etc/os-release;echo $ID$VERSION_ID) curl -s -L https://nvidia.github.io/nvidia-docker/gpgkey | sudo apt-key add - curl -s -L https://nvidia.github.io/nvidia-docker/$distribution/nvidia-docker.list | sudo tee /etc/apt/sources.list.d/nvidia-docker.list sudo apt update sudo apt install -y nvidia-docker2 sudo systemctl restart docker

现在可以拉取星图平台的镜像了。假设镜像名称是csdn/omni-vision-sanctuary，命令如下：

docker pull csdn/omni-vision-sanctuary

启动容器时要注意几个参数：

docker run -d --gpus all -p 7860:7860 -v /path/to/data:/data --name omni-vision csdn/omni-vision-sanctuary

这里解释下参数：

• -d表示后台运行
• --gpus all使用所有GPU
• -p 7860:7860把容器内的7860端口映射到主机
• -v /path/to/data:/data把主机目录挂载到容器内
• --name给容器起个名字

启动后，你可以用docker ps查看运行状态，用docker logs omni-vision查看日志。

4. 配置Nginx反向代理与SSL证书

现在服务已经跑起来了，但直接通过IP和端口访问不太专业，也不安全。我们需要用Nginx做个反向代理，并加上SSL证书。

先安装Nginx：

sudo apt install -y nginx

然后创建一个新的配置文件：

sudo nano /etc/nginx/sites-available/omni-vision

内容大致如下：

server { listen 80; server_name your-domain.com; location / { proxy_pass http://localhost:7860; proxy_set_header Host $host; proxy_set_header X-Real-IP $remote_addr; proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for; } }

启用这个配置：

sudo ln -s /etc/nginx/sites-available/omni-vision /etc/nginx/sites-enabled sudo nginx -t sudo systemctl restart nginx

现在可以用域名访问服务了。为了更安全，我们再加个SSL证书。这里用Let's Encrypt的免费证书：

sudo apt install -y certbot python3-certbot-nginx sudo certbot --nginx -d your-domain.com

按照提示操作，证书就自动配置好了。Certbot还会自动设置证书续期，非常方便。

5. 设置系统服务实现开机自启

最后一步，我们要确保服务在服务器重启后能自动启动。这就像设置了闹钟，每天早上自动叫你起床。

首先为Docker容器创建systemd服务文件：

sudo nano /etc/systemd/system/omni-vision.service

内容如下：

[Unit] Description=Omni-Vision Sanctuary Service Requires=docker.service After=docker.service [Service] Restart=always ExecStart=/usr/bin/docker start -a omni-vision ExecStop=/usr/bin/docker stop -t 2 omni-vision [Install] WantedBy=multi-user.target

启用并启动这个服务：

sudo systemctl enable omni-vision.service sudo systemctl start omni-vision.service

同样，我们也确保Nginx开机自启：

sudo systemctl enable nginx

现在你可以用sudo reboot重启服务器测试下，看看服务是不是都能自动恢复。

6. 总结回顾

整个部署过程走下来，其实就像搭积木一样，一步步把各个组件组装起来。从最基础的Ubuntu系统安装，到Docker环境准备，再到使用星图平台的镜像快速部署服务，最后通过Nginx和systemd让服务更稳定可靠。

实际使用中可能会遇到一些小问题，比如端口冲突、权限问题等。这时候查看日志是最快的解决方法：

docker logs omni-vision journalctl -u omni-vision.service -f

这套方案在我们的生产环境运行稳定，能够满足日常的AI模型服务需求。如果你刚开始接触服务器部署，建议先在小规模环境测试，熟悉了整个流程后再应用到正式场景。

获取更多AI镜像

想探索更多AI镜像和应用场景？访问 CSDN星图镜像广场，提供丰富的预置镜像，覆盖大模型推理、图像生成、视频生成、模型微调等多个领域，支持一键部署。