langchain4j+ollama+deepseek小试牛刀

序

本文主要研究一下如何使用langchain4j集成ollama+deepseek

步骤

pom.xml

        <dependency>
            <groupId>dev.langchain4j</groupId>
            <artifactId>langchain4j-spring-boot-starter</artifactId>
            <version>${langchain4j-spring.version}</version>
        </dependency>

        <dependency>
            <groupId>dev.langchain4j</groupId>
            <artifactId>langchain4j-ollama-spring-boot-starter</artifactId>
            <version>${langchain4j-spring.version}</version>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter</artifactId>
        </dependency>

        <dependency>
            <groupId>org.springframework.boot</groupId>
            <artifactId>spring-boot-starter-web</artifactId>
        </dependency>

这里langchain4j-spring.version为1.0.0-beta1

application.yaml

langchain4j:
  ollama:
    chat-model:
      base-url: http://localhost:11434
      model-name: deepseek-r1:8b

controller

@RequestMapping("/ollama")
@RestController
public class ChatController {

    @Autowired
    ChatLanguageModel chatLanguageModel;

    /**
     * curl -i localhost:8080/ollama/chat?prompt=今天日期是多少
     * @param prompt
     * @return
     */
    @GetMapping("/chat")
    public String chat(@RequestParam("prompt") String prompt) {
        return chatLanguageModel.generate(prompt);
    }
}

验证

访问http://localhost:8080/ollama/chat?prompt=%E4%BD%A0%E6%98%AF%E...
可以得到您好！我是由中国的深度求索（DeepSeek）公司开发的智能助手DeepSeek-R1。如您有任何任何问题，我会尽我所能为您提供帮助。

小结

langchain4j提供了langchain4j-ollama-spring-boot-starter，可以方便地通过ollama去访问deepseek。

doc

• langchain4j