Qwen3.5-4B-Claude-Opus从零开始:Web服务反向代理与HTTPS配置

1. 模型与部署概述

Qwen3.5-4B-Claude-4.6-Opus-Reasoning-Distilled-GGUF 是一个基于 Qwen3.5-4B 的推理蒸馏模型,重点强化了结构化分析、分步骤回答、代码与逻辑类问题的处理能力。该版本以 GGUF 量化形态交付,适合本地推理和 Web 镜像部署。

当前镜像已完成 Web 化封装,但为了确保服务的安全性和可访问性,我们需要配置反向代理和 HTTPS 支持。本文将详细介绍如何从零开始完成这些配置。

2. 环境准备

2.1 系统要求

  • Ubuntu 20.04/22.04 LTS
  • Nginx 1.18+
  • Python 3.8+
  • Docker(可选)
  • 已部署的 Qwen3.5-4B-Claude-Opus Web 服务(默认运行在 7860 端口)

2.2 安装必要组件

# 更新系统
sudo apt update && sudo apt upgrade -y

# 安装Nginx
sudo apt install nginx -y

# 安装Certbot(用于HTTPS证书)
sudo apt install certbot python3-certbot-nginx -y

3. 配置反向代理

3.1 创建Nginx配置文件

/etc/nginx/sites-available/ 目录下创建新的配置文件:

sudo nano /etc/nginx/sites-available/qwen-proxy

添加以下内容(根据实际情况修改域名和服务端口):

server {
    listen 80;
    server_name your-domain.com;

    location / {
        proxy_pass http://127.0.0.1:7860;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;

        # WebSocket支持
        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";
    }

    # 静态文件缓存设置
    location /static/ {
        alias /path/to/your/static/files/;
        expires 30d;
        access_log off;
    }
}

3.2 启用配置并测试

# 创建符号链接
sudo ln -s /etc/nginx/sites-available/qwen-proxy /etc/nginx/sites-enabled/

# 测试Nginx配置
sudo nginx -t

# 重启Nginx
sudo systemctl restart nginx

4. HTTPS配置

4.1 获取SSL证书

使用Certbot获取并安装Let's Encrypt证书:

sudo certbot --nginx -d your-domain.com

按照提示完成证书获取和安装过程。

4.2 自动续期配置

Let's Encrypt证书有效期为90天,设置自动续期:

sudo certbot renew --dry-run

可以添加到crontab中自动执行:

0 12 * * * /usr/bin/certbot renew --quiet

4.3 最终Nginx配置

Certbot会自动修改Nginx配置,最终HTTPS配置类似:

server {
    listen 443 ssl;
    server_name your-domain.com;

    ssl_certificate /etc/letsencrypt/live/your-domain.com/fullchain.pem;
    ssl_certificate_key /etc/letsencrypt/live/your-domain.com/privkey.pem;
    include /etc/letsencrypt/options-ssl-nginx.conf;
    ssl_dhparam /etc/letsencrypt/ssl-dhparams.pem;

    location / {
        proxy_pass http://127.0.0.1:7860;
        proxy_set_header Host $host;
        proxy_set_header X-Real-IP $remote_addr;
        proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
        proxy_set_header X-Forwarded-Proto $scheme;

        proxy_http_version 1.1;
        proxy_set_header Upgrade $http_upgrade;
        proxy_set_header Connection "upgrade";
    }
}

server {
    if ($host = your-domain.com) {
        return 301 https://$host$request_uri;
    }

    listen 80;
    server_name your-domain.com;
    return 404;
}

5. 安全加固

5.1 防火墙配置

# 允许HTTP/HTTPS
sudo ufw allow 'Nginx Full'
sudo ufw enable

5.2 安全头设置

在Nginx配置中添加安全头:

add_header X-Frame-Options "SAMEORIGIN";
add_header X-XSS-Protection "1; mode=block";
add_header X-Content-Type-Options "nosniff";
add_header Referrer-Policy "strict-origin-when-cross-origin";
add_header Content-Security-Policy "default-src 'self' https: data: 'unsafe-inline' 'unsafe-eval';";

5.3 速率限制

防止滥用API:

limit_req_zone $binary_remote_addr zone=qwen_limit:10m rate=10r/s;

server {
    # ...其他配置...
    
    location / {
        limit_req zone=qwen_limit burst=20 nodelay;
        # ...原有代理配置...
    }
}

6. 服务监控与维护

6.1 日志监控

# 查看Nginx访问日志
tail -f /var/log/nginx/access.log

# 查看Nginx错误日志
tail -f /var/log/nginx/error.log

# 查看模型服务日志
tail -f /root/workspace/qwen35-4b-claude-opus-web.log

6.2 性能监控

安装并配置Prometheus和Grafana进行可视化监控,或使用简单命令:

# 查看系统资源使用
htop

# 查看Nginx连接数
netstat -anp | grep nginx | wc -l

# 查看模型服务内存使用
ps aux | grep qwen35-4b-claude-opus | grep -v grep | awk '{print $4}'

7. 总结

通过本文的步骤,我们完成了Qwen3.5-4B-Claude-Opus Web服务的反向代理和HTTPS配置,主要实现了:

  1. 使用Nginx作为反向代理,将服务暴露到公网
  2. 通过Certbot获取并配置Let's Encrypt SSL证书
  3. 添加了多项安全加固措施
  4. 设置了服务监控和维护方案

这些配置不仅提升了服务的安全性,还改善了用户体验。建议定期检查证书有效期和服务器日志,确保服务稳定运行。

获取更多AI镜像

想探索更多AI镜像和应用场景?访问 CSDN星图镜像广场,提供丰富的预置镜像,覆盖大模型推理、图像生成、视频生成、模型微调等多个领域,支持一键部署。

Logo

腾讯云面向开发者汇聚海量精品云计算使用和开发经验,营造开放的云计算技术生态圈。

更多推荐