用NAS搭建一站式的AI解决方案,商用级项目—Chat Nio - 熊猫不是猫QAQ

AI在24年越来越完善了,但目前大部分都是在使用文字聊天项目,而扩展下去也就是GPT项目。但目前市面上的AI其实已经很多了,例如我们常用到的dell-3绘图、MJ绘图以及国内比较出名的文心一言、讯飞星火、遵义千问等等。将这一系列AI集成到一个项目,同时拥有不错的用户管理、支付机制以及完善的前后台管理,便能形成一个 完全可商用的AI集成项目,也就是我们网上经常看到的别人网站上需要付费购买那种,而今天我们也可以用NAS来搭建这样一个项目。

功能介绍

Chat Nio作为一个一站式的AI解决服务项目 ,能使用的模型很多,从传统的文字到绘图一共涉及52个模型可供选择使用。同时这些模型都不需要一一去配置,只需要设置好上游地址(项目原地址)后直接同步上游的设置即可。同时上游有新增模型后,也方便我们及时更新。

模型同步

除此之外,Chat Nio拥有完善的后台管理。在后台界面,可以看到有用户管理、模型市场、公告通知、渠道设置、价格设定、订阅管理、系统设置等一系列设置项。完善的体系使你完全可以将该网站用于商用,你可以设置好自己的定价体系,对接好支付平台。

后台

除此之外,在AI的使用上,Chat Nio也还不错。和其他的AI项目一样,也拥有预设的设定,通过预设可以快速的根据自己需求来获得内容。

预设

除了预设,Chat Nio在我看来强大的一点是支持联网搜索内容以及上传内容解析。不过文件解析服务以及联网搜索服务需要自部署对接好。

联网与上传文件服务

在你所有设置好之后,我们在聊天窗口打开模型市场就能看到你选择的模型,同时你设置的定价以及图标等等都会展示。个人觉得界面UI还是蛮不错的。

模型选择

最后,我这边尝试一下MJ的绘图,看看效果吧。

画一只熊猫

部署过程

项目的部署其实很简单,毕竟作者给到了完整的中文文档。如果我们使用docker部署mysql与redis服务,那么就需要根据官方的docker-compose文件修改(需要映射的文件夹需要一一对应新建好)。例子如下:

代码语言:javascript
复制
version: '3'
services:
  mysql:
    image: mysql:latest
    container_name: db
    restart: always
    environment:
      MYSQL_ROOT_PASSWORD: root
      MYSQL_DATABASE: chatnio
      MYSQL_USER: chatnio
      MYSQL_PASSWORD: chatnio123456!
    expose:
      - "3306"
    volumes:
        - ./db:/var/lib/mysql
    networks:
      - chatnio-network

redis:
image: redis:latest
container_name: redis
restart: always
expose:
- "6379"
volumes:
- ./redis:/data
networks:
- chatnio-network

chatnio:
image: programzmh/chatnio
container_name: chatnio
restart: always
ports:
- "8000:8094"
depends_on:
- mysql
- redis
links:
- mysql
- redis
ulimits:
nofile:
soft: 65535
hard: 65535
environment:
MYSQL_HOST: mysql
MYSQL_USER: chatnio
MYSQL_PASSWORD: chatnio123456!
MYSQL_DATABASE: chatnio
REDIS_HOST: redis
REDIS_PORT: 6379
REDIS_PASSWORD: ""
REDIS_DB: 0
SERVE_STATIC: "true"
volumes:
- ./config:/config
- ./logs:/logs
- ./storage:/storage
networks:
- chatnio-network

networks:
chatnio-network:
driver: bridge

如果我们使用NAS内置的sql服务,那么就不需要去部署,这时候就可以删掉其中的mysql去群晖自带的sql中新建数据库命名为chatnio。随后我们命令行启动项目:docker-compose up -d。

启动项目

这时候咱们只是常规的部署项目,如果需要文档解析以及联网搜索,我们还需要部署chatnio-blob-service以及duckduckgo-api,并在部署好项目之后获取到API填入chatnio系统设置中。

文件解析

联网搜索

此时项目就部署完成了,默认的用户名与密码为root/chatnio123456。这时候只需要设置好对应的模型以及渠道就可以了。这里chatnio的渠道设置可以去项目原地址购买他的服务,然后同步到你这里,也可以自行填写你自己的KEY使用。

多渠道

渠道设置

渠道设置中的密钥便是你要使用的智能模型的KEY,而接入点则是中转地址。例如我们常用的GPT在国内无法使用,就需要用到接入点来中转服务。

写在最后

有粉丝已经用这一套程序搭建好了完整的商用流程,项目不错,且作者更新狂魔。从上周我使用时还不能在mj模型下使用中文,现在已经可以了,同时也修复了很多问题。且有问题的issues反馈特别及时,为作者点赞。

以上便是本期的全部内容了,如果你觉得还算有趣或者对你有所帮助,不妨点赞收藏,最后也希望能得到你的关注,咱们下期见!三连