Dify私有化部署
Last Update:
Dify作为开源LLM应用开发平台,其低代码/可视化编排、多模型支持、RAG引擎、企业级LLMOps等特性,使其适用于从初创企业到大型集团的各类公司,覆盖电商、金融、教育、制造、医疗、法律等多个垂直行业。
快速验证AI场景,降低开发成本,
. 中大型企业:构建企业级AI基础设施,实现规模化落地
- 需求痛点:需整合多系统(如ERP、CRM)、多模型(如GPT-4、Claude 3),实现AI能力的集中管理、合规监管;需支持高并发、高可用的生产环境。
对数据安全与合规要求高的行业(金融、医疗、政府):本地化部署,保障数据隐私
- 需求痛点:数据涉及敏感信息(如金融交易、医疗病历、政府机密),需严格保障数据不出本地;需符合行业合规标准(如GDPR、等保三级)。
技术驱动型企业(如互联网公司、AI创业团队):灵活扩展,支持复杂场景
- 需求痛点:需快速集成最新LLM(如Llama 3、Mistral)、自定义工具(如图像生成、代码调试),支持复杂业务逻辑(如多轮对话、工作流自动化)。
1.提前更新准备:
1.更新软件包
1 |
|
3.安装git
sudo apt install git
4.Docker 安装
1.阿里云镜像GPG:
curl -fsSL https://mirrors.aliyun.com/docker-ce/linux/ubuntu/gpg | sudo gpg –dearmor -o /usr/share/keyrings/docker-archive-keyring.gpg
阿里云源
echo “deb [arch=amd64 signed-by=/usr/share/keyrings/docker-archive-keyring.gpg] https://mirrors.aliyun.com/docker-ce/linux/ubuntu $(lsb_release -cs) stable” | sudo tee /etc/apt/sources.list.d/docker.list > /dev/null
更新软件包索引
sudo apt update
安装docker
sudo apt install docker-ce docker-ce-cli containerd.io
cocker –version
docker -compose 安装
安装:
curl -L “https://github.com/docker/compose/releases/download/v2.20.3/docker-compose-$(uname -s)-$(uname -m)” -o /usr/local/bin/docker-compose
sudo chmod +x /usr/local/bin/docker-compose
查看是否安装成功:
docker-compose –version
正式部署:
克隆项目:
git clone https://github.com/langgenius/dify.git
进入项目目录:
cd dify
cd docker
运行项目:
sudo docker-compose up -d
如果没有运行成功看这里
如果是用阿里服务器创建的国内服务器,则需要去获得镜像加速器地址:
- vim /etc/docker/daemon.json 编辑配置{ “registry-mirrors”: [ “https://docker.m.daocloud.io“, “https://docker.imgdb.de“, “https://docker-0.unsee.tech“, “https://docker.hlmirror.com“, “https://docker.1ms.run“, “https://func.ink“, “https://lispy.org“, “https://docker.xiaogenban1993.com“ ]}重载生效 systemctl daemon-reload
如果没有运行成功:
看一下有哪些服务
doker ps
重启对应服务
docker restart 对应服务
复制公网地址,直接浏览器访问,如果访问不了。
需要手动指定 profile
cat .env | grep -i db_type*
使用 postgresql profile 启动所有服务
sudo docker-compose –profile postgresql up -d
验证 PostgreSQL 是否启动成功:
sudo docker ps | grep postgres
如果下载不了,大概率因为网络被禁用了,无法从 PyPI 下载 Python 包。
解决方案:给插件守护进程启用网络访问
检查 docker-compose.yaml 中插件守护进程的网络配置:
cat docker-compose.yaml | grep -A 20 “plugin_daemon:” | grep -i “network_mode|networks”
1.配置模型:
点击设置→点击模型供应商→找到对应供应商模型安装→点击设置→云服务器就复制API key
2.配置阿里云监控:
阿里搜索可监控链路→OpenTelemetry→接入中心→保存公网接入点(Endpoint)和鉴权Token(License Key)。
文档著者:GT / github:morniakr.git.io