语义内核LLM Java SDK现已推出,简化GenAI集成

Semantic Kernel SDK 现已支持 Java

微软近日宣布,Semantic Kernel SDK 现已支持 Java。Semantic Kernel 是一个轻量级的软件开发工具包(SDK),旨在将大型语言模型(LLMs)与主流编程语言集成。在此之前,该 SDK 已经支持 C#Python。微软在今年早些时候开源了 Semantic Kernel,并持续对其进行更新。

Semantic Kernel 的最新更新

在 2023 年 7 月,微软对 Semantic Kernel Tools 进行了更新,包括:

  • Visual Studio Code 扩展:开发者现在可以测量不同 AI 工具的性能,并且 API 支持在不同供应商之间切换。
  • Azure Cognitive Search 集成:为 Semantic Kernel 带来了向量搜索功能。然而,目前 Java 开发者尚无法使用此功能。

Java 语言的演进

Java 语言本身也在不断改进,以更好地支持原生集成计算。开发者越来越意识到利用现有 LLMs 的重要性,这对于 Java 应用程序完全采用并受益于现代开发实践(如与生成式 AI 的集成)至关重要。这种开发方法有望显著提升用户体验和应用程序设计的灵活性。

提示工程的重要性

世界经济论坛(WEF)已将提示工程(Prompt Engineering)列为科技行业的重要新兴职业之一。提示工程允许应用程序利用 LLMs 处理各种用例,重塑了应用程序的开发方式。对于广泛用于关键任务和业务系统的 Java 开发者来说,提示工程尤为重要。然而,提示工程师面临的挑战在于如何正确提出问题并处理多个提示。

Semantic Kernel 的解决方案

Semantic Kernel SDK 提供了解决提示工程挑战的方案,具体功能包括:

  • 支持将多个提示作为技能使用。
  • 支持链式提示(Chaining Prompts)。
  • 允许定义在提示之间共享的上下文

此外,微软首席产品经理 Bruno Borges 在博客中提供了一些代码示例,鼓励开发者探索 Semantic Kernel 的 GitHub 仓库,特别是 experimental-java 分支,以获得实际操作经验。

AI 集成的持续演进

随着 LLMs 的日益复杂及其应用的多样化,Semantic Kernel SDK 等工具将变得越来越重要,帮助开发者更高效地利用 LLMs 的潜力。这一发展标志着 AI 集成在主流编程语言中的持续演进。

阅读 31
0 条评论