继续浏览精彩内容
慕课网APP
程序员的梦工厂
打开
继续
感谢您的支持,我会继续努力的
赞赏金额会直接到老师账户
将二维码发送给自己后长按识别
微信支付
支付宝支付

Kotaemon:本地机器上的开源图形RAG界面

12345678_0001
关注TA
已关注
手记 240
粉丝 13
获赞 47

来自官方作者的这张图片

Kotaemon 是一个开源的、简洁明了且可定制的检索增强生成(RAG)用户界面(UI),旨在满足普通用户和开发人员的需求。不论是想要在文档上进行问答的用户,还是想要构建自己RAG流程的开发者,Kotaemon都提供了所需的工具。

在这篇文章里,我们将探讨 Kotaemon 的功能、架构以及如何开始使用这个灵活的平台。

预览一下

在深入了解细节之前,请查看实时演示页面源代码。如果您准备好了,可以动手操作,并查看用户指南开发人员指南开始使用。

主要特点

Kotaemon 提供了多种功能来满足不同用户的需求。

供用户使用:
  • 干净简洁的用户界面: 专为基于RAG的问答设计的友好界面。
  • 支持LLM API提供商: 与OpenAI、AzureOpenAI、Cohere以及通过Ollama和llama-cpp-python支持的本地模型无缝集成。
  • 简易安装: 快速启动脚本,让您马上开始使用。
给开发者的:
  • 可自定义的RAG管道框架: 一个用于构建和自定义基于RAG的文档问答Pipeline的框架。
  • 交互式用户界面: 使用Gradio构建,开发人员可以使用Gradio查看RAG管道的实际运行并根据需要进行调整。
一般特性:
  • 托管您的文档QA Web界面:支持多用户登录,文件私有或公共集合存储,以及协作功能。
  • 混合RAG管道: 结合全文检索与向量检索,并通过重新排序优化检索质量。
  • 多文档的问答支持: 支持多文档的问答,包括含图表和表格的文档。
  • 带有文档预览的高级引用: 提供详细引用以确保LLM答案准确,并配有浏览器内PDF查看器进行核对。
  • 支持复杂推理方法: 支持复杂推理方法,如问题拆解与代理推理等。
  • 可配置的设置界面: 通过界面轻松调整检索和生成参数。
  • 可扩展性: 基于Gradio构建,支持UI自定义和多种文档索引及检索策略,如GraphRAG索引管道。
如何安装

Kotaemon可以通过Docker或直接在您的机器上进行设置。下面是两种方法的步骤。

推荐使用 Docker

要运行服务器并使用 Docker,请如下命令:

    docker run \  
    -e GRADIO_SERVER_NAME=0.0.0.0 \  
    -e GRADIO_SERVER_PORT=7860 \  
    -p 7860:7860 -it --rm \  
    taprosoft/kotaemon:v1.0

打开 http://localhost:7860/ 访问网页界面。

RAG UI

没有 Docker

如果您更喜欢不使用 Docker 安装,可以按照以下步骤来:

(可选)环境设置:

运行以下命令来创建并激活名为ragui的环境,其中Python版本为3.11:

conda create -n ragui python=3.11  
conda activate ragui

注:如果你使用的是 bash 终端,则输入以下命令 source activate ragui

  • 克隆这个仓库:
克隆仓库:`git clone https://github.com/Cinnamon/kotaemon`  
切换到kotaemon目录:`cd kotaemon`

  • 安装所需的软件包:

注:根据上下文和专家建议选择最合适的翻译,这里选择了“安装所需的软件包:”,既准确又符合技术文档的用语习惯。

在终端中输入以下命令来安装指定的软件包:
pip install -e "libs/kotaemon[all]"  
pip install -e "libs/ktem"
  • 配置环境变量:
  • 编辑你的 .env 文件以包含 API 密钥。
  • 启动 Web 服务器:
    </TRANSLATION>
运行 `python app.py`

  • 应用将在您的浏览器中自动启动。
  • 默认的用户名和密码: admin/admin。您可以直接通过界面添加其他用户。
结算
修改为:
总结

Kotaemon 是一个强大的工具,适合希望通过 RAG 做文档问答的任何人。不论是想要简单界面的终端用户,还是希望搭建复杂 RAG 管道的开发者,Kotaemon 都能满足你的需求,提供灵活性和功能。

探索Live Demo,查看源代码,现在就开始构建你的基于RAG的系统。

打开App,阅读手记
0人推荐
发表评论
随时随地看视频慕课网APP