[大模型]Langchain-Chatchat安装和使用

慈云数据 2024-04-27 技术支持 47 0

项目地址:

https://github.com/chatchat-space/Langchain-Chatchat

快速上手

1. 环境配置

  • 首先,确保你的机器安装了 Python 3.8 - 3.11 (我们强烈推荐使用 Python3.11)。
    $ python --version
    Python 3.11.7
    

    接着,创建一个虚拟环境,并在虚拟环境内安装项目的依赖

    # 拉取仓库
    $ git clone https://github.com/chatchat-space/Langchain-Chatchat.git
    # 进入目录
    $ cd Langchain-Chatchat
    # 安装全部依赖
    $ pip install -r requirements.txt 
    $ pip install -r requirements_api.txt
    $ pip install -r requirements_webui.txt  
    # 默认依赖包括基本运行环境(FAISS向量库)。如果要使用 milvus/pg_vector 等向量库,请将 requirements.txt 中相应依赖取消注释再安装。

    请注意,LangChain-Chatchat 0.2.x 系列是针对 Langchain 0.0.x 系列版本的,如果你使用的是 Langchain 0.1.x 系列版本,需要降级您的Langchain版本。

    2, 模型下载

    如需在本地或离线环境下运行本项目,需要首先将项目所需的模型下载至本地,通常开源 LLM 与 Embedding 模型可以从 HuggingFace 下载。

    以本项目中默认使用的 LLM 模型 THUDM/ChatGLM3-6B 与 Embedding 模型 BAAI/bge-large-zh 为例:

    下载模型需要先安装 Git LFS ,然后运行

    $ git lfs install
    $ git clone https://huggingface.co/THUDM/chatglm3-6b
    $ git clone https://huggingface.co/BAAI/bge-large-zh

    3. 初始化知识库和配置文件

    按照下列方式初始化自己的知识库和简单的复制配置文件

    $ python copy_config_example.py
    $ python init_database.py --recreate-vs

    4. 一键启动

    按照以下命令启动项目

    $ python startup.py -a

    5. 启动界面示例

    如果正常启动,你将能看到以下界面

    1. FastAPI Docs 界面

    1. Web UI 启动界面示例:
    • Web UI 对话界面:

      img

      • Web UI 知识库管理页面:

        注意

        以上方式只是为了快速上手,如果需要更多的功能和自定义启动方式 ,请参考Wiki

微信扫一扫加客服

微信扫一扫加客服

点击启动AI问答
Draggable Icon