极客观点
项目管理
HarmonyOS
目前在网上看到下面 6 种部署方式：
- pytorch
- pytorch-script
- onnx
- tensorRT
- TRtorch
大家都是用哪个？
撰写回答
你尚未登录，登录后可以
- 和开发者交流问题的细节
- 关注并接收问题和回答的更新提醒
- 参与内容的编辑和改进，让解决方法与时俱进
推荐问题
本地部署使用 miniCpmV2-6 、chatglm 这些本地 LLM 的时候，如何实现统计 token？
使用智谱的 glm 在线服务的时候，会返回使用的 token：prompt_tokenscompletion_tokenstotal_tokens {代码...} 但是如果我是自己本地部署 chatglm、minicpm、qwen 这些模型，怎么统计 token 呢？示例代码 {代码...} 返回的 res 本身就是字符串了，而不是一个结构化对象这个统计 token 的方式，每个 llm 都一样吗？1 回答2.7k 阅读
Java转大模型应用开发是否可以？
我理解大模型也需要做工程的，像做java的，是不是需要了解大模型里的知识和框架的使用？1.7k 阅读
pyautogui屏幕截图识别点击失败，如何解决？
{代码...} 图像文件 C:\Users\12486\Desktop\r.png 存在屏幕截图识别失败: 我这是那地方有什么问题吗？怎么样才可以使图片可以被识别1 回答963 阅读
uvr5打包exe后报错ModuleNotFoundError: No module named 'demucs.htdemucs'如何解决？
ModuleNotFoundError: "No module named 'demucs.htdemucs'"Traceback Error: "File "UVR.py", line 6643, in process_startFile "separate.py", line 844, in seperateFile "demucs\pretrained.py", line 81, in get_modelFile "demucs\repo.py", line 148, in get_modelFile "demucs\repo.py", line 129, in get_model...947 阅读
AI本地部署对计算机要求高不？
在自己的电脑上部署自己的AI模型，然后读取自己的数据库，买一个什么配置的电脑可以呢？578 阅读