GitHub - vagos/llm-sort: 使用 LLM 按语义对输入行进行排序

主要观点:介绍了名为 llm-sort 的 LLM 插件,用于语义排序行,排名技术基于特定论文,可安装在与 LLM 相同环境中,添加了新命令 llm sort,其接口类似 GNU sort 命令,可通过文件或标准输入提供行,还可使用不同方法、限制输出数量等,并可指定自定义模型和提示,同时介绍了本地设置该插件的步骤及运行测试的方法。
关键信息

  • 插件用于语义排序行,基于论文
  • 安装命令:llm install llm-sort。
  • 命令 llm sort 类似 GNU sort 命令,可按语义排序。
  • 可通过文件或标准输入提供行,有多种参数选项,如 --query、--method、--top-k、--model、--prompt 等。
  • 提示模板变量有{query}、{docA}、{docB}。
  • 本地设置需先 checkout 代码,创建虚拟环境,安装依赖和测试依赖,运行测试用 python -m pytest。
    重要细节
  • 安装在与 LLM 相同环境。
  • 默认提示内容。
  • 不同参数的作用及示例,如从文件排序、从标准输入排序、使用不同方法等。
阅读 7
0 条评论