《自然语言处理基础与大模型》课程上线！

ChatGPT、文心一言等生成式 AI 正以惊人的势头改变着我们的世界，新的浪潮席卷着全球各个行业，自然语言处理（NLP）作为其背后重要的技术，越来越成为大家讨论的热点。为了满足广大爱好者对NLP应用技能的需求，百度飞桨联合中国科学院自动化研究所宗成庆研究员共同推出了一门全新的课程——《自然语言处理基础与大模型》。

本课程以实践为导向，旨在帮助大家深入理解自然语言处理基础理论和大语言模型的前沿技术，并掌握如何运用这些技术解决自然语言处理领域的实际问题。课程内容包括自然语言处理的基础理论、大语言模型前沿技术及相关应用与实践，让你在实践中学习，掌握实际应用能力。

主讲老师

学习收获

1、神经网络与语言模型：主要介绍神经网络的理论基础，基于前馈神经网络和循环神经网络等基础神经网络结构，理解对应的语言模型，比如循环神经网络LSTM和基于LSTM的语言模型，通过对基础理论内容的学习，为后续的学习打下基础。

2、Transformer网络及语言模型：以机器翻译为例介绍了自注意力机制和Transformer网络的基本过程，并以BERT、GPT、BART为例，了解编码器、解码器的语言模型，快速了解预训练语言模型的常见结构和各自特点。

3、大语言模型的关键技术：讲解InstructGPT/ChatGPT中的关键技术，介绍基础大模型、指令微调和基于人类反馈的强化学习等方法，并简要介绍了预训练大模型部分独特能力和现象，帮助大家理解InstructGPT/ChatGPT的基本过程，并了解其中的部分关键技术。

4、大语言模型应用：分析大语言模型的能力及其使用边界，并讨论大语言模型应用可能给社会带来的影响，尤其学术界对大语言模型研究和使用所关注的一些问题，期望可以给大家一些思考。

课程已上线AI Studio星河社区，请关注「飞桨PaaddlePaddle」官方微信公众号进行学习。