Devoxx Genie IntelliJ插件提供对本地或云端LLM模型的访问

Devoxx Genie 概述

Devoxx Genie 是一款基于 Java 的 JetBrains IntelliJ IDEA 插件,利用本地或云端的大型语言模型(LLMs)来生成单元测试、解释、审查和改进源代码。

支持的 LLM 提供者

  • 本地 LLM 提供者:Ollama、LM Studio、GPT4All。这些本地模型为公司提供了一种解决方案,避免将源代码发送到云端。
  • 云端 LLM 提供者:OpenAI、Mistral、Anthropic、Groq、DeepInfra。

开发者与发布

Devoxx Genie 由 Devoxx(4kids) 的创始人 Stephan Janssen 于 2024 年 4 月发布。该插件要求至少 JDK 17 和 IntelliJ IDEA 2023.3.4 版本。

安装与配置

  • 安装方式:可通过 JetBrains Marketplace 网站或 IntelliJ 的 Settings | Plugins 安装 DevoxxGenie。
  • 配置要求:至少需要一个本地 LLM 的 URL 或云端 LLM 的 API 密钥。支持同时配置多个模型,配置路径为 Settings | Devoxx Genie Settings

功能与使用

在选中源代码后,插件面板可使用以下提示:

  • /help:帮助
  • /test:生成单元测试
  • /review:审查代码
  • /explain:解释代码
  • /custom:自定义提示

LLM 幻觉问题

使用 LLM 可能会导致幻觉现象,即回答在语法上正确但事实上错误或无意义。检索增强生成(RAG)可以通过使用向量数据库或特征存储为传统 LLM 提供上下文,从而改善结果。

RAG Genie

Janssen 在 2024 年 4 月还推出了 RAG Genie,这是一个 LLM RAG 原型,用于评估嵌入和分割策略。该工具在图形用户界面中提供详细信息,例如句子的分割位置。Janssen 计划将 RAG 集成到 Devoxx Genie 插件中,以提供上下文和问题。RAG 还允许根据答案的价格和质量来协调模型,从而在不太关键的答案上使用更便宜的模型,在关键的答案上使用更昂贵的模型。

开发者会议

Janssen 在 Devoxx France 的会议上详细解释了 RAG Genie 和 Devoxx Genie。

阅读 60
0 条评论