Dify私有化部署

First Post:

Last Update:

Dify作为开源LLM应用开发平台,其低代码/可视化编排、多模型支持、RAG引擎、企业级LLMOps等特性,使其适用于从初创企业到大型集团的各类公司,覆盖电商、金融、教育、制造、医疗、法律等多个垂直行业。

快速验证AI场景,降低开发成本,

. 中大型企业:构建企业级AI基础设施,实现规模化落地

  • 需求痛点:需整合多系统(如ERP、CRM)、多模型(如GPT-4、Claude 3),实现AI能力的集中管理、合规监管;需支持高并发、高可用的生产环境。

对数据安全与合规要求高的行业(金融、医疗、政府):本地化部署,保障数据隐私

  • 需求痛点:数据涉及敏感信息(如金融交易、医疗病历、政府机密),需严格保障数据不出本地;需符合行业合规标准(如GDPR、等保三级)。

技术驱动型企业(如互联网公司、AI创业团队):灵活扩展,支持复杂场景

  • 需求痛点:需快速集成最新LLM(如Llama 3、Mistral)、自定义工具(如图像生成、代码调试),支持复杂业务逻辑(如多轮对话、工作流自动化)。

1.提前更新准备:

1.更新软件包

1
2
3
4

sudo apt update

2.sudo apt upgrade

3.安装git
sudo apt install git

4.Docker 安装

1.阿里云镜像GPG:

curl -fsSL https://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo gpg –dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg

阿里云源

echo “deb [arch=amd64 signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable” | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null

更新软件包索引

sudo apt update

安装docker

sudo apt install docker-ce docker-ce-cli containerd.io

cocker –version

docker -compose 安装

        安装:

curl -L “https://github.com/docker/compose/releases/download/v2.20.3/docker-compose-$(uname -s)-$(uname -m)” -o /usr/local/bin/docker-compose

        

       sudo chmod +x /usr/local/bin/docker-compose

查看是否安装成功:

docker-compose –version

正式部署:

        克隆项目:

            git clone https://github.com/langgenius/dify.git

        

            进入项目目录:

            cd dify

            cd docker

              运行项目:

                sudo docker-compose up -d

                如果没有运行成功看这里

如果是用阿里服务器创建的国内服务器,则需要去获得镜像加速器地址:

  1. vim /etc/docker/daemon.json 编辑配置{ “registry-mirrors”: [ “https://docker.m.daocloud.io“, “https://docker.imgdb.de“, “https://docker-0.unsee.tech“, “https://docker.hlmirror.com“, “https://docker.1ms.run“, “https://func.ink“, “https://lispy.org“, “https://docker.xiaogenban1993.com“ ]}重载生效 systemctl daemon-reload

如果没有运行成功:

    看一下有哪些服务

    doker ps

    

    重启对应服务

    docker restart 对应服务

    复制公网地址,直接浏览器访问,如果访问不了。

需要手动指定 profile

cat .env | grep -i db_type*

使用 postgresql profile 启动所有服务

sudo docker-compose –profile postgresql up -d

验证 PostgreSQL 是否启动成功:

sudo docker ps | grep postgres

如果下载不了,大概率因为网络被禁用了,无法从 PyPI 下载 Python 包。

解决方案:给插件守护进程启用网络访问

检查 docker-compose.yaml 中插件守护进程的网络配置:

cat docker-compose.yaml | grep -A 20 “plugin_daemon:” | grep -i “network_mode|networks”

1.配置模型:

点击设置→点击模型供应商→找到对应供应商模型安装→点击设置→云服务器就复制API key

2.配置阿里云监控:

阿里搜索可监控链路→OpenTelemetry→接入中心→保存公网接入点(Endpoint)和鉴权Token(License Key)。

文档著者:GT / github:morniakr.git.io