搭个ChatGPT算法模型，从哪开始？

作者：小傅哥
博客：https://bugstack.cn

沉淀、分享、成长，让自己和他人都能有所收获！

最近 ChatGPT 很火，火到了各行各业。记得去年更多的还是码农最新体验后拿它搜代码，现在各行各业都进来体验，问它咋理财、怎么写报告和给小孩起名。😂 也因此让小傅哥在头条的一篇关于 ChatGPT 的文章都有了26万的阅读。

​

除了大家都想体验一下这款智能的 ChatGPT AI，也有很多互联网公司开始搭建自己的 ChatGPT，但真的挺担心最后整出来的不是 ChatGPT 而是 ChatPPT。为此我也想研究下 ChatGPT 是怎么做出来的，都说是模型和数据训练，那我能训练吗🤔？这东西离我想做个 demo 出来有多远？

一、技术调研，很激动

当我开始往算法模型训练里踏进一脚👣，漏个门缝检索点相关学习资料和案例代码，发现这个世界太庞大了。早在4年前，GPT-2 就已经发布了 openai 开源代码 https://github.com/openai/gpt-2 也就是说我们就可以拿 GPT-2 的开源代码训练一个模型，哪怕是训练出个傻子，也应该比“xxx，我在，你说。”要更智能一些🤔。

接着检索我发现了，早在2年前有人已经基于 GPT-2 训练一版 GPT2 for Chinese chitchat/用于中文闲聊的GPT2模型。开源代码：https://github.com/yangjianxi...

​

不知道在做的兄弟们👬🏻你们激动不，看到这我是挺开心😄。这不是我想要的 demo 模型吗。把它给训练出来，也就能满足我对 ChatGPT的深入了解了，并且基于我想做的任何类数据训练得到一个个小模型部署，也是可以帮助我来完成一些事情的。如；你把公司的一些文档数据进行训练，得到一份可以搜索检索就能获取相关数据的 ChatGPT 不挺爽吗？

越是检索越是开心，离我的目标也越来越近了。但作为一个量化算法训练的小白，其实我还是希望能找到一份 Java 的模型训练代码，这可以让我操作起来更加顺畅。没错，我找到了，也是3年前就有的一份资料；https://github.com/SimiaCrypt... 这是一个基于 Tensorflow 的 GPT-2 文本模型的 Java 库。—— 别着急，这个时候我也不知道 Tensorflow 是啥。

​

这还说啥，这有pom配置，还有代码案例。引入一下就能跑，上车🚗吧！

​

好家伙，跑起代码才知道。这货上来就下了1个多G的pb模型数据，之后有报错 Mac M1 兼容性问题。折腾一大堆，最后又报错；Your CPU supports instructions that this TensorFlow binary was not compiled to use: SSE4.2 AVX AVX2 FMA —— 要是你咋整，你再坚持坚持，还是放弃！

二、风浪越大，鱼越贵

本来以为 ChatGPT 嘛、Python 嘛、跑个数据模型吗！这能几道墙阻挡我的去路，不就是换个工具写代码吗？但当我逐步进入后发现，这距离好像比想象的大的多！

想玩 ChatGpt 玩到模型训练，得先进入 Gpt-2 开源代码。基于想自己训练一个小模型，需要使用 TensorFlow 创建生产级机器学习模型。而 TensorFlow 需要在本地安装一系列 Python 工具并下载模型和数据样本。而这里就像安装 JDK 一样，是傻子都会和傻子都不会。Mac M1 天生骄傲，安装了2天，才测试出可以使用的模型训练环境。之后开始跑第一个模型，线性回归。再了解什么是线性回归。

​

这是 TensorFlow 的官网，用于创建生产级机器学习模型。也就是说想要完成一个简单的 ChatGPT 得从这开始。—— 死鬼，不要在想了，你总是得从 HelloWorld 开始。

但在检索的过程中，我又找到了一个名叫 huggingface.co 的网站；Hugging face 起初是一家总部位于纽约的聊天机器人初创服务商，他们本来打算创业做聊天机器人，然后在 Github上开源了一个 Transformers 库。虽然聊天机器人业务没搞起来，但是他们的这个库在机器学习社区迅速大火起来。目前已经共享了超100,000个预训练模型，10,000个数据集，变成了机器学习界的 Github。

在 Hugging face 社区中可以找到相关的模型训练资源以及提供好的模型使用接口，比如像中文分词、聊天对话、图片分析也都有，当然也包括一些公司训练出来的 gpt-2 模型。

​

在 Models 中提供了大量的算法模型，你可以把自己需要的模型点个 like 关注起来。同时这些模型还提供好了调用接口，例如【api key 可以在网站申请】；

curl https://api-inference.huggingface.co/models/microsoft/CodeGPT-small-java \
 -X POST \
 -d '{"inputs": "Can you please let us know more details about your "}' \
 -H "Authorization: Bearer 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"

你可以通过接口对模型进行访问，当然这些模型训练的数据并不是很大，只是作为测试使用。不会像 ChatGPT 那么智能的返回你所检索的信息。不过这至少可以让你了解和体验不同模型所带来的数据返回是什么样。

三、环境配置，搞起来

一口不能呲个胖子，为了更好的为以后能训练出一个自己可以玩的小体量的 ChatGPT 模型，总得要从头开始。

​

这里小傅哥的目标是带着搭建先在本地搭建起一个 TensorFlow 的基础环境，来跑个 Python 的简单算法模型。为此我们需要进行一下环境配置。小傅哥2台机器已验证没问题，分别是 Mac Intel/M1，机器配置4核16G。

1. Python 环境

• 下载 Python：https://www.python.org/downlo... 3.6版本以上。一般 Mac 上会带一个 2.x 版本的 Python，这个版本不够用，需要升级下。

• 配置 Python：

  • 安装 Python 完成后，搜索地址 which python3
  • 打开 vi ~/.bash_profile 文件，写入环境配置 alias python="/Library/Frameworks/Python.framework/Versions/3.10/bin/python3"
  • 生效配置 source .bash_profile

2. pip 指令安装

• 安装 pip：以下需要用到 pip 指令，如果没有需要安装 curl https://bootstrap.pypa.io/get-pip.py | python3

3. Tensorflow

官网安装指导：https://www.tensorflow.org/in...

​

但这里有个问题，没有说明 Mac M1 怎么安装。如果按照这个代码在 M1 的机器是安装不上的。所以在小傅哥的一顿折腾后找到了对应的按照指令。步骤如下；

• 下载代码【可选】：https://github.com/fuzhengwei... - 用于后续测试模型训练代码
• 配置 Visual Studio【你也可以是其他的】，打开以后需要安装 python 插件以及配置登录 github，这样会更利于后续的操作。之后在 Visual Studio 的终端下，查看下 python -V 的版本，如果不是最新安装的 3.x 版本，可以刷新下配置 source .bash_profile。
• Mac 电脑安装 Tensorflow：python3 -m pip install tensorflow-macos —— 安装比较耗时，需要等待。如果失败了就继续执行这条指令。

​

• 安装后测试：python3 -c "import tensorflow as tf; print(tf.reduce_sum(tf.random.normal([1000, 1000])))" —— 只要能输出结果为即可。

四、跑个模型，验证下

可能很多伙伴不知道什么是算法模型，简单描述比如；为啥给你推荐你喜欢看的美女，为啥给你发送一个键盘购物券、为啥看你小子有钱就总给你推荐豪车。这都是根据你身上的标签进行模型训练的结果，在众多的人群中找到目标用户。另外像我在腾讯做量化算法的小伙伴说，决策树就是一种简单的算法模型。

代码详见：https://github.com/fuzhengwei/TensorFlow-Tutorial

​

测试结果

fuzhengwei@MacBook-Pro TensorFlow-Tutorial % /usr/local/bin/python3 /Users/fuzhengwei/1024/github/TensorFlow-Tutorial/codes/linear_regression.py
Epoch 1/500
1/1 [==============================] - 0s 3ms/step - loss: 0.0150
Epoch 500/500
1/1 [==============================] - 0s 2ms/step - loss: 0.0150
1/1 [==============================] - 0s 76ms/step
[[-0.19686729]]
1/1 [==============================] - 0s 29ms/step
[[-1.0953956]]
1/1 [==============================] - 0s 29ms/step
[[-1.9939239]]
1/1 [==============================] - 0s 31ms/step
[[-2.8924522]]
1/1 [==============================] - 0s 30ms/step
[[-3.7909803]]
1/1 [==============================] - 0s 30ms/step
[[-8.283622]]

​

• 这是一个训练了500次的线性回归预测模型；
• 线性回归可以预测房价、预测股票、预测天气和评估经济。

---

这一篇文章先给我自己以及大家对 ChatGPT 开个门，让对此感兴趣的编程爱好者可以参与进去学习。在我感觉 ChatGPT 的出现会打破某些平衡，对一些事项进行秩序重置。因此也让更多的人获得了大量的机会。如果你还没有体验到 ChatGPT 的能力，那么可以点击链接对它提问体验。这是小傅哥注册 ChatGPT API Keys 接口，并对接到下面程序中使用的。地址：https://wx.zsxq.com/dweb2/ind...