avatar

刘刚刚的blog

采菊东篱下,悠然见南山🦥

  • 首页
  • python
  • 大模型应用
  • 软件/工具导航页
  • 关于
Home dify 并发 及配置优化
文章

dify 并发 及配置优化

Posted 2025-04-29 Updated 17 days ago
By Administrator
5~7 min read

以 docker compose 部署为例,以下是一些常用的参数优化(修改后注意观察服务器负载):

数据库连接数

当把工作流发布为工具,进行并发调用时,容易导致数据库连接失败。

# 配置文件路径:docker/.env
# 每个 dify服务进程的数据库链接池数量
SQLALCHEMY_POOL_SIZE=200
# 数据库链接池回收时间,可以适当缩短这个参数
SQLALCHEMY_POOL_RECYCLE=1800
​
# 配置数据库的最大连接数
# Reference: https://www.postgresql.org/docs/current/runtime-config-connection.html#GUC-MAX-CONNECTIONS
POSTGRES_MAX_CONNECTIONS=1500

Sandbox

当 dify中执行代码服务并发过高的时候会出现:Code execution service is unavailable的报错,查看容器的错误日志会出现 `[N] 2025/04/29 - 06:18:11 | 503 | 27.848µs | 172.19.0.5 | POST "/v1/sandbox/run" 503 错误。

此时可以修改 SandBox 服务的一些参数,将max_workers、max_requests 进行提高:

# 配置文件路径:docker/volumes/sandbox/conf/config.yaml
max_workers: 4
max_requests: 50

pypi

在插件市场安装的某些插件的时候,会一直安装中。

在 docker.env 中添加以下内容即可。

PIP_MIRROR_URL="https://mirrors.huaweicloud.com/repository/pypi/simple"

异常处理

文件上传错误

在 dify使用 url 上传文件的时候,如果报错【1 validation error for File Value error, Invalid file url [type=value_error, input_value={'id': None, 'tenant_id':...yfile', 'url': None}, input_type=dict] For further information visit https://errors.pydantic.dev/2.11/v/value_error】那么在.env 中配置文FILES_URL的域名即可。

FILES_URL="http://xxxx.com"

其他

  1. 如果要暴露dify相关数据库、redis的服务,一定要修改默认密码。

大模型应用
License:  CC BY 4.0
Share

Further Reading

Jun 8, 2025

ollama-大模型的部署与使用

linux curl -fsSL https://ollama.com/install.sh | sh 因为安装过程有使用github相关资源,国内访问会有问题,需要加速。或者使用docker进行安装。各大云平台都有提供docker加速方法。 ollama的所有命令 Available Comman

Jun 8, 2025

为jupyter增加可选的python内核

在部分提供GPU资源的平台,进行使用的时候发现提供的jupyter的内核中,与命令行默认的外部的python环境不一致,且不能选择的情况。 以下是添加conda虚拟环境到jupyter中的方法 # 或者 source myenv/bin/activate conda activate myenv ​

May 7, 2025

文本切分-语义分割(Semantic Chunking)

当我们使用固定长度的块大小或者一些标点符号分割文本时,其并没有考虑到块中内容的连贯性与完整性。我们可以借助 embedding 来来对文本中语义相近的句子进行聚类。 可以考虑的方法包括: 层次聚类与位置奖励:如果只使用层次聚类 (逐个的将所有句子进行聚类),当一个长句之后存在一个短句时,会存在一些问

OLDER

Typing

NEWER

文本切分-语义分割(Semantic Chunking)

Recently Updated

  • 一些开发中使用的 linux运维命令
  • python包管理神器:UV
  • ollama-大模型的部署与使用
  • 为jupyter增加可选的python内核
  • Gemini 使用过程中的一些坑

Trending Tags

Halo 运维 postgresql 设计模式 linux就该这么学 nas rag odoo python 文本切分

Contents

©2025 刘刚刚的blog. Some rights reserved.

Using the Halo theme Chirpy