在 Hugging Face，我们一直致力于提升服务安全性，因此，我们将对通过 Git 与 Hugging Face Hub 交互时的认证方式进行更改。从 2023 年 10 月 1 日 开始，我们将不再接受密码作为命令行 Git 操作的认证方式。我们推荐使用更安全的认证方法，例如用个人访问令牌替换密码或使用 SSH 密钥。

SafeCoder 旨在成为你完全合规且自托管的结对编程工程师，从而释放企业的软件开发生产力。用营销话术来讲就是：“你自己的本地 GitHub Copilot”。

最近，人工智能社区在开发更大、更高性能的语言模型方面取得了显著的进展，例如 Falcon 40B、LLaMa-2 70B、Falcon 40B、MPT 30B; 以及在图像领域的模型，如 SD2.1 和 SDXL 。这些进步无疑推动了人工智能的发展，使其具有高度多功能和最先进的图像生成和语言理解能力。然而，在我们惊叹于这些模型的强大和复杂性之余，必...

每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息，快来看看吧！ 🎉😍

大语言模型在理解和生成人类水平的文字方面所展现出的非凡能力，正在许多领域带来应用上的革新。然而，在消费级硬件上训练和部署大语言模型的需求也变得越来越难以满足。

🤗 Transformers 提供了许多最新最先进 (state-of-the-art, SoTA) 的模型，这些模型横跨多个领域及任务。为了使这些模型能以最佳性能运行，我们需要优化其推理速度及内存使用。

基于人类反馈的强化学习 (Reinforcement Learning from Human Feedback，RLHF) 事实上已成为 GPT-4 或 Claude 等 LLM 训练的最后一步，它可以确保语言模型的输出符合人类在闲聊或安全性等方面的期望。然而，它也给 NLP 引入了一些 RL 相关的复杂性: 既要构建一个好的奖励函数，并训练一个模型用以估计每个状态的价值 (va...

每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息，快来看看吧！ 🎉😍

生成式 AI 已成为游戏开发中艺术工作流的重要组成部分。然而，正如我在 之前的文章 中描述的，从文本到 3D 的实用性仍落后于 2D。不过，这种情况正在改变。本文我们将重新审视 3D 素材生成的实用工作流程，并逐步了解如何将生成型 AI 集成到 PS1 风格的 3D 工作流中。

数据点（data points）通常用于描述单个信息单位或观测值，在本文中，它被用来量化“提示词”方法相对于传统方法的效率和效果。文章比较了两种训练（微调）机器学习模型的方法：一种是使用提示 (prompts)，本文也称之“提示词”，另一种是使用传统的分类器头 (classifier heads)，本文也称之为“分类头”。通过比较可以发现，...

Llama 2 是一个由 Meta 开发的大型语言模型，是 LLaMA 1 的继任者。Llama 2 可通过 AWS、Hugging Face 获取，并可以自由用于研究和商业用途。Llama 2 预训练模型在 2 万亿个标记上进行训练，相比 LLaMA 1 的上下文长度增加了一倍。它的微调模型则在超过 100 万个人工标注数据下完成。

每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息，快来看看吧！ 🎉😍

我们正式向大家介绍 TRL——Transformer Reinforcement Learning。这是一个超全面的全栈库，包含了一整套工具用于使用强化学习 (Reinforcement Learning) 训练 transformer 语言模型。从监督调优 (Supervised Fine-tuning step, SFT)，到训练奖励模型 (Reward Modeling)，再到近端策略优化 (Proximal Policy Optimization)...

文本生成和对话技术已经出现多年了。早期的挑战在于通过设置参数和分辨偏差，同时控制好文本忠实性和多样性。更忠实的输出一般更缺少创造性，并且和原始训练数据更加接近，也更不像人话。最近的研究克服了这些困难，并且友好的交互页面能让每个人尝试这些模型。如 ChatGPT 的服务，已经把亮点放在强大的模型如 GPT-4，并...

🤖️ 我们要求每位参赛选手以 LLM （大语言模型）为工具，将 AI 的能力与选手的创作才华相结合，创造出引人入胜、感人至深或充满疯狂的微小说！

每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息，快来看看吧！ 🎉😍重磅更新🤗 ChatUI：官方 Docker 模板发布，一键部署自己的聊天应用！

“不要重复自己 (Don’t Repeat Yourself)” ，或 DRY，是广为人知的软件开发原则。该原则出自《程序员修炼之道: 从小工到专家》 (英文名为 The pragmatic programmer)，这是代码设计领域迄今为止阅读量最大的一本书。该原则言简意赅，即: 重用而不要重写其他地方已有的逻辑。这可以确保代码保持同步，使其更易于维护且更健...

在对最先进的视觉语言模型 BridgeTower 进行微调时，使用 Optimum Habana v1.6， Habana Gaudi2 可以达到 近 3 倍于 A100 的速度。硬件加速的数据加载以及 fast DDP 这两个新特性对性能提高贡献最大。

通过本文，你将学习如何使用 Habana® Gaudi®2 加速模型训练和推理，以及如何使用 🤗 Optimum Habana 训练更大的模型。然后，我们展示了几个基准测例，包括 BERT 预训练、Stable Diffusion 推理以及 T5-3B 微调，以评估 Gaudi1、Gaudi2 和英伟达 A100 80GB 之间的性能差异。剧透一下: Gaudi2 的训练和推理速度大约是英伟达...

与最新的基于 GPU 的 Amazon Web Services (AWS) EC2 实例相比，Habana Gaudi 加速卡在训练机器学习模型方面的性价比提高了 40%。我们非常高兴将这种性价比优势引入 Transformers 🚀。

每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息，快来看看吧！ 🎉 😍

北京时间 7 月 8 日到 7 月 10 日， 我们举办了 首届开源 AI 游戏开发挑战赛。这是一场激动人心的赛事活动，游戏开发者在紧迫的 48 小时内使用 AI 创造、创新有创意的游戏。

Hugging Face 为机器学习从业者们提供了一个协作和交流的平台，你可以在 Hugging Face Hub 上开源自己的机器学习模型、数据集或者创建机器学习应用等，Hugging Face 还提供了一系列的开源库，涉及到机器学习中的方方面面。

十分高兴 🤗 Diffusers 迎来它的一岁生日！这是令人激动的一年，感谢社区和开源贡献者，我们对我们的工作感到十分骄傲和自豪。去年，文本到图像的模型，如 DALL-E 2, Imagen, 和 Stable Diffusion 以其从文本生成逼真的图像的能力，吸引了全世界的关注，也带动了对生成式 AI 的大量兴趣和开发工作。但是这些强大的工作不...

今天，Meta 发布了 Llama 2，其包含了一系列最先进的开放大语言模型，我们很高兴能够将其全面集成入 Hugging Face，并全力支持其发布。 Llama 2 的社区许可证相当宽松，且可商用。其代码、预训练模型和微调模型均于今天发布了🔥。

每一周，我们的同事都会向社区的成员们发布一些关于 Hugging Face 相关的更新，包括我们的产品和平台更新、社区活动、学习资源和内容更新、开源库和模型更新等，我们将其称之为「Hugging News」。本期 Hugging News 有哪些有趣的消息，快来看看吧！ 🎉😍

开源的 LLM，如 Falcon、(Open-)LLaMA、X-Gen、StarCoder 或 RedPajama，近几个月来取得了长足的进展，能够在某些用例中与闭源模型如 ChatGPT 或 GPT4 竞争。然而，有效且优化地部署这些模型仍然是一个挑战。

老话说得好: 垃圾进，垃圾出 (garbage in, garbage out)，把数据处理干净再输入给模型至关重要，至少对大语言模型如此。虽然现在一些明星大模型 (严格来讲，它们很多是 API) 的存在让大家恍惚产生了数据质量好像不那么重要了的错觉，但事实绝非如此。

扩散模型能够根据文本提示生成逼真的图像，这种能力促进了生成式人工智能的普及。人们已经开始把这些模型用在包括数据合成及内容创建在内的多个应用领域。 Hugging Face Hub 包含超过 5 千个预训练的文生图 模型。这些模型与 Diffusers 库 结合使用，使得构建图像生成工作流或者对不同的图像生成工作流进行实验变得无比...

Hugging Face Hub 是强大的机器学习的数据源。相信大家在国内用 Hugging Face Datasets 都遇到过下载的问题。譬如: