Micronaut Framework 4.7.0 提供与 LangChain4j 和 Graal 语言的集成

Micronaut Framework 4.7.0 发布总结

主要观点

Micronaut Foundation 于2024年12月发布了 Micronaut Framework 4.7.0,该版本引入了对 LangChain4J 的实验性支持,允许将大型语言模型(LLMs)集成到 Java 应用中。此外,Micronaut 还发布了 Micronaut Graal Languages 模块的 1.0.0 版本,支持 GraalVM 动态语言,特别是 Python。

关键信息

  1. LangChain4J 支持

    • 通过 micronaut-langchain4j 模块提供实验性支持。
    • 需要在 Maven POM 文件中配置注解处理器和依赖项。
    • 支持多种聊天语言模型,如 Anthropic、Azure、Amazon Bedrock、HuggingFace、Mistral AI、Ollama、OpenAI、Google Gemini 等。
  2. Micronaut Graal Languages 模块

    • 支持基于 GraalVM 的动态语言,如 Python。
    • GraalPy 是 Python 3.11 兼容的运行时,构建在 GraalVM 之上。
  3. Graal Development Kit (GDK)

    • Oracle 发布了 GDK 4.7.3.1 版本,提供了 Micronaut 框架模块及其依赖的精选集合,用于构建轻量级的云原生应用。

重要细节

  1. LangChain4J 配置

    • 需要在 Maven POM 文件中添加注解处理器路径和依赖项。
    • 模型名称可以通过 YAML、TOML、Groovy、Hocon、JSON 或 properties 文件进行配置。
  2. AI 服务定义

    • 使用 @AiService 注解定义 AI 服务接口,并在 Micronaut 组件中使用。
  3. 测试资源

    • 提供了用于测试语言模型的依赖项,如 micronaut-langchain4j-ollama-testresource
  4. 嵌入存储

    • 支持多种嵌入存储,如 Elastic Search、MongoDB、Neo4j、Oracle、Open Search、PGVector、Redis 和 Qdrant。
  5. GraalPy

    • 提供两种版本:原生独立版本和 JVM 独立版本。
    • Oracle 发布了 GraalPy 24.1.2 版本,支持 Oracle GraalVM 和 GraalVM Community Edition。
  6. GDK

    • GDK 可以作为 Micronaut 的替代方案,用于构建便携式云原生应用。

参考资料

阅读 11 (UV 11)
0 条评论