如果是学习用,可以通过Ollama 部署,提供了一套简单的工具和命令,可以使用流行的LLM,也可以自己训练。如果是业务用:可以使用百度文心大模型,通过百度智能云千帆大模型平台,上传你的中文语料。1.直接web界面,不用懂代码都可以做训练操作;2.有完善的API提供,方便实际业务场景使用;3.价格也不贵,而且越来越便宜了;4.小应用自己部署没有性价比,服务器成本高,没有接口,没有稳定性。
模型越小,遵循指令的能力越差。私部署可以看下 ollama ,phi-3系列模型对配置的要求比较低。https://ollama.com/https://ollama.com/library/phi3:3.8b
如果是学习用,可以通过Ollama 部署,提供了一套简单的工具和命令,可以使用流行的LLM,也可以自己训练。
如果是业务用:可以使用百度文心大模型,通过百度智能云千帆大模型平台,上传你的中文语料。
1.直接web界面,不用懂代码都可以做训练操作;
2.有完善的API提供,方便实际业务场景使用;
3.价格也不贵,而且越来越便宜了;
4.小应用自己部署没有性价比,服务器成本高,没有接口,没有稳定性。