RagFlow的部署并基于本地大模型进行问答-更有针对性知识库应用

目的

1. 了解RagFlow的基本概念和功能

2. 部署RagFlow并基于本地大模型进行问答

3. 了解RagFlow的高级功能

4. 了解RagFlow与其他各类知识库应用的优缺点

说明

本文档中的所有下载的相关资源都可以在网盘下载或在右上角的群内容获取。

1. RagFlow介绍

RagFlow是一款基于专业级的知识库应用，它可以帮助用户构建、管理、检索、进行问答、分析问答结果等。RagFlow的主要特点有：

1. 图数据库：RagFlow可以使用text2img,解析理解图像内容,基于此可以存储大量图像知识。

2. 知识库管理：RagFlow提供知识库管理功能，可以方便地对知识库进行增删改查。

3. 问答系统：RagFlow提供问答系统，可以根据用户的输入进行问答，并给出相应的答案。

4. 分析问答结果：RagFlow提供分析问答结果功能，可以对问答结果进行统计、分析、挖掘等。

2. RagFlow部署

2.1 下载RagFlow

你可以到github上获取到RagFlow的资源压缩包，RagFlow下载

网盘压缩包内文件名：ragflow.zip

下载完成后，解压压缩包至任意文件夹下。

2.2 配置RagFlow

打开RagFlow的配置文件，在ragflow/docker/.env文件中将最后一个含有huawei的镜像源的注释关掉

否则可能不是完整版本的RagFlow

你可以使用ctrl+f搜索huawei关键字定位到这一行

2.3 修改端口映射

RagFlow的默认端口为80，为了防止端口冲突，我们需要修改RagFlow的端口映射。

打开RagFlow的配置文件，在ragflow/docker/docker-compose.yml文件中找到ports字段，修改其中的端口映射。

将80:80修改为8080:80以及8443:443

3. 使用docker拉取镜像依赖

启动docker,在当前文件夹ragflow/docker下打开命令行或powershell，输入以下命令拉取RagFlow的镜像依赖：

docker compose -f docker-compose.yml up -d

全部显示running说明镜像依赖拉取成功。

4. 登陆ragflow并配置模型

4.1 登陆RagFlow

启动RagFlow后，打开浏览器，输入http://localhost:8080/login

进入RagFlow的登陆页面。

填写任意邮箱和密码，点击“登陆”按钮。

4.2 配置模型

登陆成功后，点击右上角的头像，找到模型供应商，选择ollama,点击添加模型

按照此前教学，依次添加LLM和嵌入模型，如下图：

注意默认是优先填写嵌入模型，不要填错

4.3 修改系统默认模型

点击当前页面的右上角系统模型设置，选择我们导入的大模型和嵌入模型，点击确定

5. 创建知识库

点击上方知识库，点击创建知识库，跳转页面后，在不进行其他设置的情况下，点击确定，进入文件上传页面

上传完成后，需要对知识库内容进行解析，如下所示：

6. 创建助理并测试效果

点击上方聊天，点击创建助理，任意输入任意名称，选择知识库，后点击确定

创建完成后，进行问答即可：

7.核心或专有功能介绍

• ragflow 可以定义嵌入知识的语言类型:中文或英文

• ragflow 可以选择知识的内容类型:单页/书籍等

• 支持使用rerank(重新排序模型)/img2twxt(图像转语义)

• 支持表格转html,是表格数据处理良好

8.各类知识嵌入应用的优劣比较