大家好,这里是架构资源栈!点击上方关注,添加“星标”,一起学习大厂前沿架构!

什么是生成式人工智能(Gen AI)?

生成式人工智能或 Gen AI 是人工智能的一个分支,专注于生成内容。它可以针对给定的提示生成文本、图像、代码、音频、视频等内容。Gen AI 根据从大型数据集中学习到的模式生成内容。

Gen AI 在不同领域有各种应用。文本生成是 Gen AI 的关键应用之一。以下是 Gen AI 的其他一些重要应用:

  • 文本生成
  • 图像生成
  • 视频生成
  • 代码生成
  • 音乐和音频生成
  • 3D 模型生成
  • 人工智能聊天机器人
  • 人工智能写作和设计工具

生成式人工智能 (Gen AI) 的兴起

生成式人工智能最大的突破可以归功于谷歌学者在 2017 年发表的研究论文《Attention is All You Need》,他们提出了一种新的简单网络架构——Transformer。

除了新架构之外,大型数据集的可用性、计算能力的提升、企业资金以及企业找到有利可图和实用的用例都促进了近年来人工智能的崛起和爆炸式增长。

变压器

Transformer是一种深度学习模型架构,允许并行处理整个文本序列,这使得它们比 RNN 和 LSTM 等以前的架构更高效。GPT-3、GPT-4、BERT 和 DALL-E 都是基于 Transformer 模型构建的

自注意力机制使得模型能够关注句子中的相关词语,而不管它们的位置。

在“猫坐在垫子上因为很舒服”这句话中,传统模型很难理解“它”指的是“垫子”,但 Transformer 为不同的单词分配注意力分数,帮助它更有效地理解关系。

生成式人工智能 (Gen AI) 如何工作?

Gen AI 通过从大量数据中学习模式来生成新内容。Gen AI 经历两个训练阶段:

预训练

Gen AI 模型是在大型数据集上进行训练的。

微调

经过预训练后,该模型会使用特定领域的数据集和人工反馈进行改进。ChatGPT 借助人工反馈强化学习 (RLHF) 进行了微调,以提供更像人类的响应。

经过训练后,人工智能会处理用户提示,应用其学到的知识,并使用 Transformer 架构实时生成新的文本、图像或代码。

机器学习 (ML)、神经网络 (NN) 和自然语言处理 (NLP) 如何与生成式人工智能协同工作

新一代人工智能依赖于人工智能的其他分支来发挥作用,例如机器学习 (ML)、神经网络 (NN) 和自然语言处理 (NLP)。

机器学习 (ML)

通用人工智能模型使用机器学习模型进行训练,从大型数据集中学习模式,从而创建有意义的内容。

它学习模式、语法以及单词的结构以产生反应。

神经网络(NN)

通用人工智能使用神经网络,特别是深度学习,来识别模式、解释数据和做出决策。

GPT-4 等大型语言模型使用转换器来处理输入并根据训练预测下一个最佳单词。

自然语言处理 (NLP)

Gen AI 使用自然语言处理来理解和构建语言。

NLP 技术帮助模型理解用户提示背后的意图,理解语言结构、语法、含义,并生成相关、语法正确、类似人类的响应。

总而言之,机器学习帮助模型从大量数据集中学习,神经网络帮助处理提示并生成内容,自然语言处理确保语言理解和结构。

这就是这篇博客的全部内容!希望这篇文章能对您在 Gen AI 之旅中有所帮助。我们很快就会带着更多内容回来,敬请期待!

原文地址:https://mp.weixin.qq.com/s/XyPu_X7QcQhp1EGkKWjPvg
本文由博客一文多发平台 OpenWrite 发布!

吾日三省吾码
25 声望3 粉丝