草履虫都能学会,flask接入星火语言大模型搭建自己的AI网站(小白友好,非常详细)

avatar
作者
筋斗云
阅读量:0

前言:该教程使用宝塔的python项目管理器和flask+gunicorn+nginx部署讯飞星火的语言大模型

下面是教程使用的源码: (旧版,下图新版可私信获取)

http://t.csdnimg.cn/D4ZWOicon-default.png?t=N7T8http://t.csdnimg.cn/D4ZWO

部署效果:114.55.119.203:8001

一、购买服务器

1、首先,部署网站得有一个云服务器,我用的是阿里云的ECS(系统是CentOS7),

新手学习的可以买99一年的,比较实惠

!一定要把公网IPv4勾上,不然后续补救会很麻烦!

2、进入云服务器命令行页面,输入命令安装宝塔,我安装的是CentOS版,等待安装完成

这里是宝塔官网:宝塔面板下载,免费全能的服务器运维软件 (bt.cn)

3、记录下宝塔的访问地址,账号,密码

4、前往阿里云开放相应安全组,在控制台-网络与安全-安全组-手动添加,如图我打开的是11357端口

5、输入外网面版地址,账号密码,进入自己的宝塔

二、部署自己的项目

1、进入宝塔的软件商店,下载python项目管理器

2、使用python项目管理器,项目文件夹中必须要有requirements.txt,可通过下面方法生成:

打开pycharm 工具(tools)-同步Python要求(Sync Python Requirements)生成requirements.txt文件

也可以通过 pip3 freeze > requirements.txt 命令自动生成requirements.txt文件,但requirements.txt里的模块则是你环境内所有安装的模块(不推荐)

3、压缩项目文件,拖动上传打包好的项目,到宝塔项目处

3、进入python项目管理器,如图配置,使用gunicorn

Gunicorn,是针对Python、在Unix系统上运行的、用来解析HTTP请求的网关服务。
它的特点是:能和大多数的Python web框架兼容;使用简单;轻量级的资源消耗;高性能

4、如果遇到缺少库,可在模块处添加

5、显示运行中即可

6、添加宝塔和阿里云的安全组,本文是将8001端口开放,其他配置如图所示

宝塔的在 安全组-添加安全规则

阿里的在 控制台-网络与安全-安全组-手动添加

7、将链接中对应的IP端口换成8001即可访问

三、优化性能

1、将wokers\threads调高,python项目管理器中,点击配置

bind:绑定地址和端口

workers:工作进程数,通常设置为CPU核心数的2-4倍
threads:每个工作进程的线程数
accesslog:访问日志文件路径
errorlog:错误日志文件路径

2、配置nginx反向代理

打开Nginx,到如图所示位置,根据自己的文件路径,复制粘贴下面的代码

如果没有域名,可填写自己服务器的公网IP

server {     listen 80;     server_name 123.456.789.012;  # 这里填写你的公网 IP 地址      root /www/wwwroot/Ai_falsk;   # 网站根目录,这里直接指向 Flask 应用的根目录      location / {         proxy_pass http://127.0.0.1:8001;  # 将请求代理到 Flask 应用的端口         proxy_set_header Host $host;         proxy_set_header X-Real-IP $remote_addr;         proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;     }      location /templates/ {         alias /www/wwwroot/Ai_falsk/templates/;  # 指定静态资源的目录     }      # 可选:配置其他静态资源的位置,比如 /static/     # location /static/ {     #     alias /www/wwwroot/Ai_falsk/static/;     # }      # 可选:如果需要 HTTPS 支持,可以在这里配置 SSL 相关内容      # error_page 404 /404.html;     # 可选:自定义错误页面      # access_log /var/log/nginx/access.log;     # error_log /var/log/nginx/error.log;     # 可选:配置访问日志和错误日志的位置 } 

以上是全部内容,如有问题可私信作者

    广告一刻

    为您即时展示最新活动产品广告消息,让您随时掌握产品活动新动态!