langchai-chatchat

这是一将多个项目整合的项目，因此每个项目有各自的虚拟环境
需要创建几个目录，并在每个目录下创建虚拟环境，以及在每个目录下激活环境来安装：
xinference 存放模型部署引擎
chatchat 存放langchain-chatchat

langchain-chatchat项目下载和安装

git clone https://github.com/chatchat-space/Langchain-Chatchat.git
下载好项目后，进入项目目录
进入主项目目录
cd libs/chatchat-server/
修改依赖pyproject.toml 0.28版本以上目前不兼容
httpx = {version = "0.27.2", extras = ["brotli", "http2", "socks"]}

pip install -e . 安装依赖
python chatchat/cli.py init 初始化，会清空所有数据库和配置
初始化后会执行以下操作
创建所有需要的数据目录
复制 samples 知识库内容
生成默认 yaml 配置文件

编辑model_settings.yaml:

# 默认选用的 LLM 名称这个要和xinference的名称对应
DEFAULT_LLM_MODEL: deepseek15b
# 默认选用的 Embedding 名称
DEFAULT_EMBEDDING_MODEL: bge


#编辑模型引擎框架
MODEL_PLATFORMS:
  - platform_name: xinference
    platform_type: xinference
    api_base_url: http://127.0.0.1:9997/v1
    api_key: EMPTY
    api_proxy: ''
    api_concurrencies: 5
    auto_detect_model: true
    llm_models: [deepseek15b] #填入名称
    embed_models: [bge] #填入名称
    text2image_models: []
    image2text_models: []
    rerank_models: []
    speech2text_models: []
    text2speech_models: []

编辑配置后
chatchat init --gen-config 更新配置
python chatchat/cli.py kb --recreate-vs 初始化知识库
如果出现初始化知识库失败，向量数据库无法连接，检查是否在代理中取消代理
unset all_proxy 取消代理
python chatchat/cli.py start -a 启动服务