EasyPhoto：基于 SD WebUI 的艺术照生成插件来啦！

EasyPhoto 是一个基于 SD WebUI 的艺术照生成插件。支持低代码操作、自定义风格，让更多开发者灵活地开发自己的风格化艺术照生成应用。

项目地址： https://github.com/aigc-apps/sd-webui-EasyPhoto

背景介绍

最近，基于生成式AI技术批量产出真/像/美的个人写真应用非常受欢迎。同时，随着 Stable Diffusion 领域开源社区的快速发展，社区也涌现了类似 FaceChain 的开源项目，帮助开发者开发个性化的真人写真生成应用。越来越多开发者对这个方向投来关注，希望得到更多灵活的开发方式。

EasyPhoto项目介绍

作为FaceChain-Inpaint功能的开发团队，我们快速上线了一款基于 SD WebUI 插件生态的个性化写真生成开源插件 EasyPhoto。这款插件允许用户通过上传几张同一个人的照片，快速训练Lora模型，然后结合用户自定义的模板图片，生成真/像/美的写真图片。

$$ 图1 $$

项目地址： https://github.com/aigc-apps/sd-webui-EasyPhoto

欢迎大家多多提ISSUE，一同优化，让每个AIGCer都拥有自己的AI写真相机！

原理介绍

AI真人写真是一个基于 StableDiffusion和AI人脸相关技术，实现的定制化人像Lora模型训练和指定图像生成链路的集合，这里我们简单介绍我们在EasyPhoto中实现的相关技术,下图是EasyPhoto的生成链路介绍，

$$ 图2 $$

EasyPhoto整体分为训练和推理两个阶段，下文图3详细展示了训练阶段，上图2展示了生成阶段。

EasyPhoto生成

EasyPhoto生成采用基于开源模型StableDiffusion + 人物定制Lora的方式 + ControlNet 的方式完成艺术照生成

使用人脸检测模型对输入的指定模板进行人脸检测(crop & warp)并结合数字分身进行模板替换。
采用FaceID模型挑选用户输入的最佳ID Photo和模板照片进行人脸融合(face fusion)。
使用融合后的图片作为基底图片，使用替换后的人脸作为control条件，加上数字分身对应的Lora，进行图到图局部重绘生成。
采用基于StableDiffusion + 超分的方式进一步在保持ID的前提下生成高清结果图。

EasyPhoto训练

$$ 图3 $$

EasyPhoto训练采用了大量的人脸预处理技术，用于把用户上传的图片进行筛选和预处理，并引入相关验证和模型融合技术，参考图3.

采用FaceID和图像质量分数对所有图片进行聚类和评分，筛选非同ID照片。
采用人脸检测和主体分割，抠出1筛选后的人脸图片进行人脸检测抠图，并分割去除背景。
采用美肤模型优化部分低质量人脸，推升训练数据的图片质量。
采用单一标注的方案，对处理后的训练图片进行打标，并使用相关的Lora 训练。
训练过程中采用基于FaceID的验证步骤，间隔一定的step保存模型，并最后根据相似度融合模型。

我们将从在后续的章节简单介绍涉及到的相关技术的原理，更多细节也欢迎大家参考Repo的代码。(如果你已经对这一技术路线非常熟悉，欢迎直接跳到第三章 EasyPhoto & SDWebUI)

文图生成(SD/Control/Lora)

StableDiffusion

StableDiffusion作为Stability-AI开源图像生成模型，通常分为SD1.5/SD2.1/SDXL等版本，是通过对海量的图像文本(LAION-5B)对进行训练结合文本引导的扩散模型(DiffusionModel)，使用训练后的模型，通过对输入的文字进行特征提取，引导扩散模型在多次的迭代中生成高质量且符合输入语义的图像。感兴趣的同学可以参考《stable diffusion原理解读通俗易懂，史诗级万字爆肝长文,..》, 下面的图像就是 stablediffusion 官网 Repo 贴出来的他们的效果。

ControlNet/Lora

针对使用文本控制的StableDiffusion模型，如何对生成的图像内容进行更好的控制，一直是学术界和工业界试图解决的问题，本小节介绍的ControlNet和Lora就是常用的两种技术。也是图2中使用的部分技术，用于控制边缘连贯性和指定ID生成。

ControlNet ：由《Adding Conditional Control to Text-to-Image Diffusion Models》提出的通过添加部分训练过的参数，对StableDiffsion模型进行扩展，用于处理一些额外的输入信号，例如骨架图/边缘图/深度图/人体姿态图等等输入，从而完成利用这些额外输入的信号，引导扩散模型生成与信号相关的图像内容。例如我们在官方 Repo 可以看到的，使用Canny边缘作为信号，控制输出的小狗。

$$ 图4 $$

我们在图2中看到 StableDiffusion有2个输入，其中一个部分就是用于控制边缘连贯性和脸型提示的ControlNet，我们使用了部分的Canny边缘和OpenPose人体姿态。

Lora ：由《LoRA: Low-Rank Adaptation of Large Language Models》提出的一种基于低秩矩阵的对大参数模型进行少量参数微调训练的方法，广泛引用在各种大模型的下游使用中。AI真人写真需要保证最后生成的图像和我们想要生成的人是相像的，这就需要我们使用Lora 技术，对输入的少量图片，进行一个简单的训练，从而使得我们可以得到一个小的指定人脸(ID)的模型。当然这一技术也可以广泛用于，风格，物品等其他指定形象的Lora模型训练，大家可以在civitai.com等相关网页上寻找自己想要的Lora模型。

人脸相关AI模型

针对AI写真这一特定领域，如何使用尽量少的图片，快速的训练出又真实又相像的人脸Lora模型，是我们能够产出高质量AI写真的关键，网络上也有大量的文章和视频资料为大家介绍如何训练。这里我们介绍一些在这个过程中，我们使用的开源AI模型，用于提升最后人脸Lora训练的效果。

在这个过程中我们大量的使用了 ModelScope 和其他Github的开源模型，用于完成如下的人脸功能

EasyPhoto & SDWebUI

SDWebUI [Repo]是社区最常用的StableDiffusion开发工具，从年初开源至今，已在Github 拥有100k 的star，我们提到的文图生成/ControlNet/Lora等功能，都被社区开发者贡献到这一工具中，用于大家快速部署一个可以调试的文图生成服务，所以我们也在SDWebUI下实现了EasyPhoto插件，将上述原理提到的人脸预处理/训练/艺术照生成全部集成到了这一插件中。

项目地址：https://github.com/aigc-apps/sd-webui-EasyPhoto

用户可以参考SDWebUI的插件使用方式进行安装使用。

EasyPhoto插件简介

EasyPhoto是一款Webui UI插件，用于生成AI肖像画，该代码可用于训练与用户相关的数字分身。

建议使用 5 到 20 张肖像图片进行训练，最好是半身照片且不要佩戴眼镜（少量可以接受）。
训练完成后，EasyPhoto可以在推理部分生成图像。
EasyPhoto支持使用预设模板图片与上传自己的图片进行推理。

图1, 图5这些是插件的生成结果，从生成结果来看，插件的生成效果还是非常不错的：

$$ 图5 $$

每个图片背后都有一个模板，EasyPhoto会对模板进行修改使其符合用户的特征。在EasyPhoto插件中，Inference侧已经预置了一些模板，可以用插件预置的模板进行体验；另外，EasyPhoto同样可以自定义模板，在Inference侧有另外一个tab页面，可以用于上传自定义的模板。如下图所示。