当前位置: 网站首页 软件教程 正文

Kotaemon:一个能让你与文档进行对话的开源工具

来源:互联网 发布时间:2024-09-05 18:34:00

Kotaemon,一个能让你与文档进行对话的开源工具,基于 RAG 技术实现与文档的交互式对话,支持多模态检索,可以处理文本、图表和表格等不同类型的数据。

Kotaemon:一个能让你与文档进行对话的开源工具

Kotaemon主要特征:

托管您自己的文档 QA (RAG) Web-UI 。支持多用户登录,在私人/公共收藏中组织您的文件,与他人协作并分享您最喜欢的聊天。

组织您的LLM和嵌入模型。支持本地LLMs和流行的 API 提供商(Openai、Azure、Ollama、Groq)。

混合 RAG 管道。 Sane 默认 RAG 管道具有混合(全文和矢量)检索器 + 重新排名,以确保最佳检索质量。

多模式质量保证支持。通过图形和表格支持对多个文档进行问答。支持多模式文档解析(UI 上的可选选项)。

通过文档预览提前引用。默认情况下,系统会提供详细的引文,以确保LLM答案的正确性。直接在浏览器内的 PDF 查看器中查看您的引文(包括相关分数)并突出显示。当检索管道返回低相关文章时发出警告。

支持复杂的推理方法。使用问题分解来回答复杂/多跳问题。支持使用 ReAct、ReWOO 和其他代理进行基于代理的推理。

可配置的设置用户界面。您可以在 UI 上调整检索和生成过程的最重要方面(包括提示)。

可扩展。基于 Gradio 构建,您可以根据需要自由定制/添加任何 UI 元素。此外,我们的目标是支持多种文档索引和检索策略。 GraphRAG索引管道作为示例提供。

Kotaemon应用:

kotaemon充当功能性 RAG UI,适用于想要对其文档进行 QA 的最终用户和想要构建自己的 RAG 管道的开发人员。

对于最终用户:

用于基于 RAG 的 QA 的干净简约的 UI。

支持LLM API 提供商(OpenAI、AzureOpenAI、Cohere 等)和本地LLMs (通过ollama和llama-cpp-python )。

简单的安装脚本。

对于开发人员:

用于构建您自己的基于 RAG 的文档 QA 管道的框架。

使用提供的 UI(使用 Gradio 构建)自定义并查看 RAG 管道的运行情况。

Kotaemon提供简洁易用的界面,并支持使用本地 LLM 或主流 LLM API 提供商,还可一键安装使用。

Kotaemon GitHub:https://github.com/Cinnamon/kotaemon

相关教程