Reor项目-桌面笔记应用程序--一个自组织的 AI 笔记应用程序,可在本地运行模型

慈云数据 2024-05-14 技术支持 34 0

Reor 是一款由 AI 驱动的桌面笔记应用程序:它会自动链接相关想法、回答笔记上的问题并提供语义搜索。所有内容都存储在本地,您可以使用类似 Obsidian 的 Markdown 编辑器编辑笔记。

Reor项目-桌面笔记应用程序--一个自组织的 AI 笔记应用程序,可在本地运行模型
(图片来源网络,侵删)

该项目的假设是,默认情况下,用于思考的人工智能工具应该在本地运行模型。Reor 站在巨头 Llama.cpp、Transformers.js 和 LanceDB 的肩膀上,使 LLM 和嵌入模型能够在本地运行。(还支持连接到 OpenAI 兼容的 API,如 Oobabooga。

它怎么可能是“自组织”的?

Reor项目-桌面笔记应用程序--一个自组织的 AI 笔记应用程序,可在本地运行模型
(图片来源网络,侵删)
  1. 您写的每个笔记都会被分块并嵌入到内部向量数据库中。
  2. 相关笔记通过矢量相似性自动连接。
  3. LLM 驱动的 Q&A 对笔记语料库进行 RAG。
  4. 一切都可以在语义上搜索。

将 Reor 视为具有两个生成器的 RAG 应用程序的一种方式:LLM 和人类。在 Q&A 模式下,向 LLM 提供从语料库中检索到的上下文以帮助回答查询。同样,在编辑器模式下,人类可以切换侧边栏以显示从语料库中“检索”的相关笔记。这是一种非常强大的方式,通过交叉引用当前注释中的想法与语料库中的相关想法来“增强”您的想法。

开始

  1. 从 reorproject.org 或发行版本下载。Mac、Linux 和 Windows 都受支持。
  2. 像普通应用程序一样安装。

运行本地模型

Reor 直接与Llama.cpp库交互,因此无需下载 Ollama。虽然现在,项目不会为您下载模型,因此您需要手动下载您选择的模型:

  1. 下载 GGUF 模型文件。Hugging Face有这个漂亮的页面,里面有最受欢迎的模特。我建议从 7B 4 位模型开始,看看它在您的系统上的表现如何。
  2. 在“添加新的本地模型”下的 Reor 设置中连接它。

您还可以连接到与 OpenAI 兼容的 API,例如 Oobabooga、Ollama 或 OpenAI 本身!

从其他 App 导入备忘录

Reor 在文件系统的单个目录中工作。在首次启动时选择目录。 要从其他应用导入笔记/文件,您需要使用 Markdown 文件手动填充该目录。与其他应用程序的集成有望很快推出!

从源代码构建

确保您已安装 nodejs。

克隆存储库:
git clone https://github.com/reorproject/reor.git
安装依赖项:
npm install
运行 dev:
npm run dev
建:
npm run build

贡献

欢迎所有领域的贡献:功能、想法、错误修复、设计等。这在很大程度上是一个社区驱动的项目。有一些悬而未决的问题可供选择。对于新功能,请在开始 PR :) 工作之前打开一个问题进行讨论

文件夹结构

该项目的主要组件位于以下目录中:

  • /electron:包含管理所有文件系统交互、LLM、嵌入模型和向量数据库的主要进程函数。
  • /src:包含应用程序的前端,即 React 应用程序。

    许可证

    GPL-3.0 许可证。有关详细信息,请参阅。LICENSE

微信扫一扫加客服

微信扫一扫加客服

点击启动AI问答
Draggable Icon