Faceswap中文使用指南

FaceSwap 使用指南

翻译自:
https://faceswap.dev/forum/viewtopic.php?f=5&t=27
https://forum.faceswap.dev/viewtopic.php?f=6&t=146

github 地址:
https://github.com/liafuzho/faceswap-doc-cn/blob/master/faceswap-guide-cn.md


内容

  • “提取”流程
    • 介绍
    • 为什么要提取
      • 匹配文件
    • 提取
    • 分类
    • 清理“匹配文件”
    • 手动修复“匹配文件”
      • 启动手动工具
      • 为“转换”手动修复
      • 为“训练”手动修复
    • 从“匹配文件”中提取训练集
    • 合并“人脸集”进行训练
  • “训练”流程
    • 介绍
    • 什么是训练?
      • 概况
      • 术语
    • 训练数据
    • 选择模型
    • 模型配置
    • 设置
    • 训练监控
    • 停止和重新开始
    • 恢复损坏的模型

“提取”流程

介绍

很多人在开始 “Faceswap” 时不知所措,并且犯了许多错误。错误是好的,这是我们的学习方式,但有时在深入学习之前对所涉及的过程有一点了解可能会有所帮助。

在本节中,我将详细介绍“抽取”的工作流程。我并不是说这是最好的工作流程,但是它对我很管用,希望在您创建自己的工作流程时提供一个良好的起点。

我将在本指南中使用“GUI”,在“cli”中也完全相同(“GUI”中存在的所有选项在“cli”中都是可用的)。

为什么要提取

“提取”包括三个阶段:“检测”、“匹配”、和“遮罩生成”。每个阶段都有几个插件。它们的优缺点在工具提示(针对“GUI”)或帮助文本(针对“cli”)中都有详细说明,因此不再赘述。然而,“检测”是在每一帧中查找人脸的过程,“匹配”是在人脸中查找“特征”并一致地确定人脸位置的过程。最终,“遮罩生成”将创建一个“遮罩”,即识别出图像中哪些是人脸,哪些不是。

提取有两个主要目的:

  1. 生成一组“人脸集”,以及可选的“匹配文件”和“遮罩”,以训练模型
  2. 为转换帧中的人脸生成“匹配文件”和“遮罩”

从技术上讲还有第三个目的,当您为转换提取人脸时,也需要一些人脸进行训练,这些我都会讲到。

虽然转换时不需要提取人脸(仅需要“匹配文件”),但是提取出来将是很有用的,以便我们可以为转换过程清理“人脸集”。

匹配文件 [1]

“匹配文件”保存了每帧中所有的人脸信息,特别是人脸位置,以及人脸的 68 个“特征点”位置:

Faceswap

该文件还保存了为每个人脸提取的所有“遮罩”

“匹配文件”的目的有三点:

  1. 训练:如果启用了“Warp to Landmarks”[2],它将提供人脸特征。
  1. 转换:它告诉“转换”程序在原始帧中要替换的人脸位置。
  2. 训练和转换:它存储了所有可能用于这两个阶段的“遮罩”。

因此,现在我们知道了为什么需要提取人脸,如何确定一个良好的工作流程?

提取

第一步,无论您创建“人脸集”的原因是什么,实际上都需要从帧中提取人脸。

  • Data【数据】

    这是我们选择“输入视频”或“图像”以及“输出位置”的地方。

    Faceswap
    • Input Dir:首先,我们需要一个源文件。可以将其设置为视频文件(视频图标)或包含一系列图像的文件夹(图片图标)。
    • Output Dir:接下来,我们需要告诉程序将提取的人脸保存到哪里。单击旁边的文件夹图标以选择输出位置。
    • 我忽略了接下来的几个选项,因此您可能也应该这样做,但是每个选项的说明如下:
      • Alignments:如果要为“匹配文件”指定一个不同的“名称 / 位置”,则选择此项。将其保留为空白要容易得多,程序会将其保存到默认位置(该位置将与“源帧 / 视频”位于同一位置)。

  • Plugins【插件】

    这些插件用于首先检测图像中的人脸,读取人脸特征并匹配,并且使用各种方法创建遮罩。

    Faceswap
    • Detector【检测器】,Aligner【匹配器】:分别选择一个您想使用的。在撰写本文时,最佳检测器是“S3FD”,最佳匹配器是“FAN”。

    • Masker【遮罩】:选择您要使用的遮罩。基于“特征”的“遮罩”(Components 和 Extended)会在提取过程中自动生成,因此您无法选择它们,但是下面将对其进行详细说明,以便您了解其运行方式。除了基于特征的遮罩之外,此处选择的任何一项都会生成一个遮罩。可以生成多个遮罩(通过选择多个遮罩),但是请注意,所有这些遮罩均使用 GPU,因此添加的遮罩越多,提取速度就越慢。

      每个遮罩都有各自的优缺点。如果希望使用基于神经网络的遮罩来训练或转换帧,则应在此处选择一个遮罩。

      注意:遮罩是新添加的,因此最佳的使用信息是相当少的。尽管在提取过程中只能提取一个遮罩,但是可以使用“遮罩工具”提取更多的遮罩 / 将遮罩添加到现有的“匹配文件”中,以及生成预览。

      • None - 不创建遮罩。

      • Components - 由在匹配阶段找到的 68 个特征点生成的遮罩,这是围绕人脸外部特征点构建的多区域遮罩。

        Faceswap
      • Extended -“Components 遮罩”的一个主要问题是它只能到眉毛。“Extended 遮罩”基于“Components 遮罩”,但会尝试向上提高到额头以避免“双眉”问题(即在交换中源眉毛和目标眉毛同时出现了)。

        Faceswap
      • Unet-DFL - 一种神经网络遮罩,旨在提供对大部分正面人脸的智能分割。遮罩模型由社区成员训练。

        Faceswap
      • VGG-Clear - 一种神经网络遮罩,旨在对大部分正面人脸进行无障碍物的智能分割。

        Faceswap
      • VGG-Obstructed - 设计用于对大部分正面人脸进行智能分割,遮罩模型经过专门训练,可以识别一些面部障碍物(手和眼镜)。

        Faceswap
    • Normalization【正则化】:处理输入到提取器中的图像,以在困难的光照条件下更好地找到人脸。不同的正则化方法适用于不同的数据集,但我发现“hist”是最好的全能工具,这会稍微减慢提取速度,但是会更好的匹配。

    • 接下来的几个选项也可以忽略。同样,我将详细介绍他们的工作,以便您可以自己使用:

      • Rotate Images:除了 CV2-DNN 以外,当前的检测器都完全不需要此项。当前的检测器完全能够在任何方向上找到人脸,因此这只会使您的程序变慢却几乎没有好处。

  • Face Processing【人脸处理】

    此处定义了用于“人脸过滤”和“选择”的选项。

    Faceswap
    • Min-size:我通常将此值设置为一个较低的值,但要大于零,以滤除任何明显太小而无法构成人脸的东西。但是,它首先将取决于输入帧的大小,其次才取决于人脸在帧中的大小。
    • 由于以下原因,我忽略了接下来的几个选项,但是您可以自己去使用。下面分别对它们进行解释:
      • Filter/nFilter, Ref Threshold:这些选项用于过滤掉不需要的人脸。我不使用它。我更喜欢在下一个阶段自己做,因为我总是比机器更有效地过滤人脸,并且不会花很长时间。用这些选项过滤人脸也会严重减慢提取过程。

  • Output【输出】

    用于人脸输出处理的选项。

    • Extract Every N:此选项值是根据提取目标而定的。
      • 如果是为“转换”提取,或者是为“转换”而将使用一些人脸进行“训练”,则将其保留为 1(即从每帧提取)。
      • 如果您提取只是用于训练,则设置一个看起来合理的值。这将取决于您输入的每秒帧数。但是,对于 25fps 的视频,合理值大约在 12-25 之间(即每半秒到一秒)。否则,您最终可能会拥有太多相似的面孔。值得牢记的是,您要从训练集中提取多少个来源,最终训练集中要拥有多少张面孔,以及来源有多长。这些都将视情况而定。
    • 再次,我通常会跳过接下来的几个选项,说明如下:
      • Size:这是提取的人脸图像的大小。当前没有模型支持 256px 以上,因此请保留默认值
      • Save interval:我不介意,但要取决于您。
      • Debug Landmarks:在人脸绘制特征,仅用于调试目的。

  • Run【运行】

    我们现在准备检查我们的选项并运行“Extract【提取】”。

    • 您应该最终看到类似于下面的屏幕:
      Faceswap

分类 [3]

现在我们已经提取了脸部,我们需要整理“数据集”和“匹配文件”。“提取器”在获取人脸方面做得很好,但并不完美。它将有一些误报,将无法匹配某些面孔,还会提取出我们不想交换的人。如果您转至“faces”文件夹,最有可能的是输出如下所示相似的内容:

Faceswap

清理这些看起来不太有趣!幸运的是我们可以让这更容易。清理数据集的最快、最简单的方法是将这些面孔按有意义的顺序分类,然后删除所有我们不需要的人脸。最好的分类方法是“按人脸分类”。

注意:按人脸分类是 RAM 密集型的,它要做很多计算。我已经测试成功在 8GB RAM 上对 22k 张人脸进行了分类。如果您要分类的人脸数量超出了 RAM,则该过程将自动切换到慢得多的方法,因此,如果您的内存有限,则可能需要将数据集拆分为较小的子集。理论上,所需的 RAM 量为 (n2 * 24)/1.8,其中 n 是图像数。您还需要考虑任何其他 RAM 开销(即其他程序正在运行,加载到 RAM 的映像),但理论上,这将占用 30,000 个图像 (300002 * 24)/ 1.8 = 12,000,000,000 字节或大约 11GB。

转到“GUI”中的“Tools”选项卡,然后转到“Sort”子选项卡:

Faceswap
  • Data【数据】

    这里选择的是用于分类的人脸集,它是我们在上一步中提取的。

    • Input:输入上一步中提取的人脸文件夹。
    • Output:应该为空,我们希望分类后的人脸放在相同位置。
      Faceswap
  • Sort Settings【分类设置】

    我们要如何对人脸进行分类。

    • Sort By【分类方式】:将此设置为“Face”。

      您可以忽略此部分中的任何其他选项。

      Faceswap
  • Output【输出】

    我们希望分类后的人脸如何输出。

    • Final Process【最终流程】:确保将其设置为“Rename”
    • Keep:确保未选中。

      您可以保留所有其他选项,因为它们对“Rename”任务没有任何影响。

      Faceswap
  • Settings【设置】

    分类的特定设置。

    • 后端:可将此设置为 GPU。仅当您具有 GPU 且当前未将 GPU 用于其他任何机器学习任务(例如训练)时,才执行此操作。这将使分类更快。

      您可以保留所有其他选项。

      Faceswap
  • Run【运行】

    所有其他选项保留为默认值。现在,我们准备检查我们的选项并运行“Sort”。

    • 您将最终看到类似于以下的屏幕:

      Faceswap
    • 点击“Sort”开始分类。

程序将开始读取人脸,为每个人脸建立身份。然后它将根据相似度将面孔聚集。实际中聚集过程可能需要很长时间,因为它需要计算大量数据。不幸的是,没有关于进度的视觉反馈,因此请耐心等待。

完成后,您应该发现 99%的面孔已分类在一起:

Faceswap

所有无用的也一起分类了:

Faceswap

现在您要做的就是滚动 faces 文件夹,删除那些不想保留的人脸。

清理“匹配文件”

现在我们已经删除了所有不需要的人脸,只留下我们要做的一组,我们需要清理 “ 匹配文件”。为什么?因为我们不需要的已经删除的人脸还在“匹配文件”中,因此将来很可能会给我们造成问题。使用集成的工具清理“匹配文件”还有一个额外好处,就是将我们的人脸重新命名为它们的原始文件名,因此是双赢的。

导航至“Tools”标签,然后选择“Alignments”子标签:

Faceswap
  • Job【作业】

    这是 “Tools”中所有可用的不同匹配作业的列表。

    • 选择“Remove-faces”。
      Faceswap
  • Data【数据】

    我们要处理的资源的位置。

    • Alignments File:选择在提取过程中生成的“匹配文件”,它将与您提取的视频位于同一文件夹中,或者位于您提取的图像的文件夹中。
    • Faces Folder:选择在提取过程中将人脸输出到的 Faces 文件夹(与用于人脸分类的文件夹相同)。
    • 本节中的其它选项留空,因为它们不是必需的。
      Faceswap
  • Run【运行】

    所有其它选项保留为默认值。我们现在准备检查我们的选项并清理“匹配文件”。

    • 您应该最终看到类似于以下的屏幕:

      Faceswap
    • 点击“Alignments”,然后等待完成。

完成后,您的人脸将被重命名为其原默认名称,并且所有不需要的人脸将从您的“匹配文件”中删除。

该过程将备份您的 旧“匹配文件”,并将其放在新创建的“匹配文件”旁边。它的名称与清理后的“匹配文件”名称相同,但文件名末尾会附加 “backup_“。如果您新的“匹配文件”是正确无误的且感到满意,则可以安全地删除此备份文件。

此时,如果您正在提取以进行转换(或该集合将用于转换和训练),则可以完全删除您的 faces 文件夹,这些人脸都不再需要。如果您需要重新生成“人脸集”,则可以使用“Alignments Tool”(提取作业)来完成。

手动修复“匹配文件”

Ok,我们提取出了人脸,清理了所有没用的,现在确定完事了吗?等等,伙计。当然,您可以继续前进,但是您想要好的“交换”还是想要一次很好的“交换”?

手动修复对于以下任务很有用:

  • 删除帧中任意剩余的“多个人脸”
  • 向缺少的帧中添加任何“匹配文件”
  • 修复未匹配的帧

根据我们要提取数据集的内容,这将决定我们要在此处执行的操作。如果我们纯粹只提取一个训练集,则可以完全跳过此步骤,然而最好检查一下现有的“匹配文件”以确保正确构建任何遮罩。

如果为“转换”而提取,那么我们绝对要修复帧中的任何多个人脸,以及所有缺少匹配的帧。仅此一项就可以改善最终交换。然后,根据您想要的程度,可以解决所有不良的匹配。

我将不详细介绍如何使用手动工具。那本身就是一个指南,但是非常直观,在弹出窗口中编写了说明。

  • 启动手动工具
    要启动手动工具,首先导航至“Tools”选项卡,然后导航至“Alignments”子选项卡:

    Faceswap
    • Job【作业】

      这是该工具中所有可用的“匹配作业”的列表。

      • 选择“Manual”:
        Faceswap
    • Data【数据】

      我们要处理的资源位置。

      • Alignments File:选择在最后一步清理后生成的“匹配文件”。它将与您提取的视频位于同一文件夹中,或者位于您提取的图像文件夹中。
      • Frames Folder:选择用作提取过程输入的视频或帧文件夹
      • 将本节中的所有其他选项保留为空白,因为此步骤不需要。
        Faceswap
    • Run【运行】

      所有其他选项保留为默认值。我们现在准备检查我们的选项并启动手动工具。

      • 您应该最终看到类似于以下的屏幕:
        Faceswap
      • 点击“Alignments”按钮以启动手动工具。
      • 注意:Windows 用户有时 Windows 会出现一个错误,该错误会导致手动工具打开然后立即关闭。如果您遇到这种情况,请在 GUI 的“Manual Tool”节中启用“Disable Monitor”选项:

        Faceswap
  • 为“转换”手动修复
    注意:按“m”键切换“查看”和“编辑”模式。

    进行“转换”修复时,我们想要执行以下操作:

    • 多个人脸
      • 按“s”键,直到跳跃模式设置为“Manually Fixing for Converting”
      • 按“x”键,跳到有多个人脸的下一帧
      • 单击不需要的任何人脸,然后按“d”将其删除
      • 继续直到最后一帧
      • 按“Space”键以保存修正后的“匹配文件”
    • 没有人脸
      • 按“{”键,返回到第一帧
      • 按“s”键,直到跳跃模式设置为“no-faces”
      • 按“x”键,跳到下一帧中没有人脸的帧
      • 如果点击的是未检测到人脸但实际应该有的帧,则可以单击人脸并用鼠标调整边界框,也可以使用“c”或“v”键复制上一帧 / 下一帧的匹配方式并进行编辑。
      • 重复直到最后一帧
      • 按“Space”键以保存修正后的“匹配文件”
    • 修复“匹配文件”
      • 按“{”键返回到第一帧
      • 按“s”键,直到跳跃模式设置为“has-faces”
      • 按“x”键跳到下一个有人脸的帧
      • 如果看起来匹配不正确,请调整边界框,直到其合适
      • 重复直到最后一帧
      • 按“Space”键以保存修正后的“匹配文件”

    每次在手动调整期间保存时,都会创建“匹配文件”的备份,如果您的新“匹配文件”正确无误且满意,则可以删除这些备份,它们与原始“匹配文件”的路径相同。

  • 为“训练”手动修复
    注意:按“m”键切换“查看”和“编辑”模式。

    进行“训练”修复时,我们想要执行以下操作:

    • 修复“匹配文件”
      • 按“s”键,直到跳跃模式设置为“has-faces”
      • 按“x”键跳到下一个有人脸的帧
      • 如果看起来匹配不正确,请调整边界框,直到其合适
      • 重复直到最后一帧
      • 按“Space”键以保存修正后的“匹配文件”

    每次在手动调整期间保存时,都会创建“匹配文件”的备份,如果您的新“匹配文件”正确无误且满意,则可以删除这些备份,它们与原始“匹配文件”的路径相同。

    “匹配文件”修复后,您将需要重新生成“人脸集”。这是因为人脸图像会由于移动特征点而发生变化,因此训练程序将无法找到您修改过的人脸。

    首先删除您的 faces 输出文件夹,您不想再这样了。

    接下来,导航至“Tools”标签,然后导航至“Alignments”子标签:

    Faceswap
    • Job【作业】

      这是“Tools”下所有可用的“匹配作业”列表。

      • 选择“Extract”:
        Faceswap
    • Data【数据】

      我们要处理的资源位置。

      • Alignments File:选择在最后一步清理后生成的“匹配文件”。它将与您提取的视频位于同一文件夹中,或者位于您提取的图像的文件夹中。
      • Faces Folder:选择一个空文件夹,用于放置您想输出的人脸。
      • Frames Folder:选择用作提取过程输入的视频或帧文件夹。
      • 将本节中的任何其他选项保留为空白,因为此步骤不需要它们。
        Faceswap
    • Run【运行】

      所有其他选项保留为默认值。我们现在准备检查我们的选项并启动手动工具。

      • 您应该最终看到类似于以下的屏幕:
        Faceswap
      • 点击“Alignments”按钮重新提取您的人脸。

如果打算使用遮罩进行训练或使用“Warp to Landmarks”,请将“匹配文件”从源帧位置复制到新创建的 faces 文件夹中。

从“匹配文件”中提取训练集

现在,您已经清理了“匹配文件”,您可能希望拉出其中一些人脸以用于训练集,这是一个简单的任务:

导航到“Tools”选项卡,然后导航到“Alignments”子选项卡:

Faceswap
  • Job【作业】

    这是该“Tools”中所有可用的“匹配作业”列表。

    • 选择“Extract”:
      Faceswap
  • Data【数据】

    我们要处理的资源位置。

    • Alignments File:选择在最后一步清理后生成的“匹配文件”。它将与您提取的视频位于同一文件夹中,或者位于您提取的图像的文件夹中。
    • Faces Folder:选择一个空文件夹,用于放置输出的人脸。
    • Frames Folder:选择用作提取过程输入的视频或帧文件夹。
    • 将本节中的任何其他选项保留为空白,因为此步骤不需要它们。
      Faceswap
  • Extract【提取】

    这些选项用于从“匹配文件”中提取人脸

    • Extract Every N:这取决于您输入的每秒帧数,但是,对于 25fps 的视频,合理值大约在 12-25 之间(即每半秒到一秒)。否则,您最终可能会拥有太多类似的人脸。值得牢记的是,您要从“训练集”中提取多少个源,最终训练集中要拥有多少张人脸,以及源有多长时间,这些都将视情况而定。
    • Size:这是提取的人脸图像大小,当前没有模型支持 256px 以上,因此请保留默认值。
    • Align Eyes:我发现此选项完全没有意义。“匹配器”已匹配人脸,无需进一步匹配。
      Faceswap
  • Run【运行】

    所有其他选项保留为默认值。我们现在准备检查选项,并将训练集从清理后的“匹配文件”中提取到所选文件夹中。

    • 您应该最终看到类似于以下的屏幕:
      Faceswap
    • 点击“Alignments”按钮以提取人脸。

如果打算使用遮罩训练或使用“Warp to Landmarks”,则将“匹配文件”从源帧位置复制到新创建的 faces 文件夹中。

合并“人脸集”进行训练

因此,您已经准备好要训练的大量人脸,并且有一堆来自所对应帧的“匹配文件”。这些可以合并为一个训练源吗?当然可以!

准备

在合并“匹配文件”之前,我们需要做一点准备:

  • 首先,将要训练的所有人脸从其各自的文件夹复制到一个文件夹中(我们将其称为“训练”相关的)。
  • 将与刚从其源帧位置中选择的人脸相关的所有“匹配文件”复制到新的“训练”文件夹中。

现在,在 GUI 中,导航到“Tools”选项卡,然后导航至“Alignments”子选项卡:

Faceswap
  • Job【作业】

    这是该“Tools”中所有可用的“匹配作业”列表。

    • 选择“Merge”:
      Faceswap
  • Data【数据】

    我们要处理的资源的位置。

    • Alignments File:找到“训练”文件夹,按住“shift”键并高亮显示您刚刚复制的所有路线文件以选择它们。
    • Faces Folder:选择放置所有人脸的“训练”文件夹
    • 将本节中的任何其他选项保留为空白,因为此步骤不需要它们。
      Faceswap
  • Run【运行】

    所有其他选项保留为默认值。我们现在准备检查我们的选项并合并我们的“匹配文件”。

    • 您应该最终看到类似于以下的屏幕:
      Faceswap
    • 点击“Alignments”按钮合并文件

完成

处理完成后:

  • 从“训练”文件夹中删除先前复制到“训练”文件夹中的所有“匹配文件”。
  • 将“训练”文件夹中生成的“匹配文件”重命名为“alignments.fsa”

您的训练准备好了

Faceswap

“训练”流程

介绍

很多人在开始 “Faceswapping” 时不知所措,并且犯了许多错误。错误是好的,这是我们的学习方式,但有时在深入学习之前对所涉及的过程有一点了解可能会有所帮助。

在本节中,我将详细介绍我们如何训练模型。有一些模型有很多选择,我不会全都说到,但希望这能足够让您来做出自己的明智决定。如果您尚未生成用于训练的“人脸集”,请立即停止并转到“提取流程”来生成它们。

本指南中有很多背景信息,我建议您把这些全都熟悉一下。机器学习是一个复杂的概念,但我尝试将其分解为尽可能简单易懂。对神经网络的工作原理以及从中获得的数据类型有基本的了解,将极大地提高您成功交换数据的机会。

我将在本指南中使用“GUI”,在“cli”中也完全相同(“GUI”中存在的所有选项在“cli”中都是可用的)。

什么是训练?

概况

在较高的级别上,训练是在教我们的神经网络(NN)如何重塑人脸。大多数模型主要由两部分组成:

  1. 编码器 - 这项工作是将大量人脸作为输入,并将其“编码”为“矢量”表现形式。值得注意的是,它并不是在学习您输入的每个人脸的精确表示,而是在尝试创建一种算法,可用于以后尽可能地重建与输入图像更接近的人脸。
  2. 解码器 - 它的任务是获取编码器创建的矢量,并尝试将此转换变回人脸,并尽可能接近输入图像。
Faceswap

某些模型的构造略有不同,但基本前提保持不变。

神经网络需要知道它在编码和解码人脸方面做得如何,它使用 2 种 主要工具来实现此功能:

  1. 损失 - 对于每一批输入到模型中的人脸,神经网络都会读取人脸并尝试通过其当前的编码和解码算法重新创建,并将其与所输入的实际人脸进行比较。完成后,它将给自己一个分数(损失值)并相应地更新其权重。
  2. 权重 - 一旦模型评估了重新创建人脸的效果,它将更新其权重。编码器 / 解码器算法根据输入的数据,如果它在一个方向上调整了权重,但感觉重建的人脸比以前差,那它就知道权重在朝错误的方向移动,因此它将以另外的方向调整权重。如果感觉有所改进,那么它知道要在前进的方向不断的调整权重。
    Faceswap

然后,模型会重复这个动作很多次,并根据其损失值不断更新其权重,从理论上讲会随着时间的推移而不断改进,直到您认为已学到足以有效重现人脸的程度,或者损失值停止下降。

现在我们有了神经网络的基本知识,以及它如何学习创建人脸,这是如何应用于人脸交换的?在上面所述中,您可能已经注意到,神经网络学习如何对一个人脸进行加载,然后重建这些人脸。这不是我们想要的……我们想要很多的人脸并重建别人的脸。为了实现这一目标,我们的神经网络做了两件事:

  • 共享编码器 - 当我们训练模型时,我们为其提供了 2 组 人脸。A 集(我们要替换的原始人脸)和 B 集(我们要放置在场景中的交换人脸)。实现这一目标的第一步是共享 A 和 B 集的编码器。这样,我们的编码器可以为 2 个 不同的人学习一个单一的算法。这是极其重要的,因为我们最终将告诉我们的神经网络采取一个人脸的编码并将其解码为另一个人脸。编码器因此需要查看和学习我们交换所需的两组人脸。
  • 交换解码器 - 我们训练模型时,我们训练 2 个 解码器。解码器 A 获取编码矢量并试图重新创建“Face A”。解码器 B 正在获取编码矢量并试图重新创建“Face B”。当最终交换人脸时,我们切换解码器,因此我们将模型“Face A”输入,但要通过 解码器 B。由于编码器已经在两组人脸上训练了,因此模型将对输入的“Face A”进行编码,然后尝试从 解码器 B 重构它,从而从模型中输出交换的人脸。
    Faceswap

术语

使用 Faceswap 时,您将看到一些常见的机器学习术语,为了生活简单些,在这里展示了一个术语表:

  • Batch【批次】- 批次是一组同时通过神经网络输入的人脸。
  • Batch Size【批次大小】- 批次大小是同时通过神经网络输入的批次的大小。批次大小为 64 意味着将通过神经网络一次性输入 64 张人脸,然后为这批图像计算损失和权重更新。较高的批次大小将训练得更快,但会导致较高的泛化。较低的批次大小将训练得较慢,但可以更好地区分人脸之间的差异。在训练的各个阶段调整批处次大小会有所帮助。
  • Epoch【周期】- 周期是对通过神经网络输入的数据的完整表示:如果您有 5000 个 人脸的文件夹,则当模型看到所有 5000 个 人脸时为 1 个 周期。2 个 周期即当模型两次看到所有 5000 个 人脸时,依此类推。就 Faceswap 而言,周期实际上并不是一种有用的测量。由于一个模型是在 2 个 数据集(A 侧和 B 侧)上训练的,除非这些数据集的大小完全相同(不太可能),所以不可能计算一个周期,因为每侧的周期都不同。
  • Example【样本】- 就 Faceswap 而言,样本是“人脸”的另一个名称。它基本上是一张通过神经网络传递的人脸。如果模型看到了 10 个 样本,则它看到了 10 个 人脸。
  • EG/s - 这是神经网络每秒看到的样本数,或者就 Faceswap 而言,就是模型每秒处理的人脸数。
  • Iteration【迭代】- 迭代是通过神经网络处理的一个完整批次。因此,批次大小为 64 的 10 次迭代意味着该模型已看到 640 (64 * 10) 个人脸。
  • NN - 神经网络的缩写。

训练数据

数据的质量对模型来说是非常重要的。良好的数据能够使一个较小的模型执行的很好,同样,没有模型可以对不良的数据执行得很好。在模型的每一侧至少应有 500 张 不同的图像,但是数据越多,越多样化,则越好。合理的图像数量介于 1,000 到 10,000 之间。添加比这更多的图像实际上会损害训练。

太多 相似的图像 对您的模型没有帮助。您需要尽可能多的不同角度,表情和照明条件。常见的误解是以为模型是针对特定场景进行训练的。这只是“记忆”,而不是您要实现的目标。您的目标是尝试训练模型以在任何角度,在所有条件下使用所有表情来理解一个人脸,并将其与交换另一个人脸的所有角度,所有条件下的表情。因此,您希望有尽可能多的不同来源为 A 和 B 集 构建一个训练集。

两侧的不同角度非常重要。神经网络只能学习所见的。如果 95% 的人脸都是直视摄像头,而 5% 则是侧脸,那么模型需要很长时间才能学习如何创建侧面人脸,也可能根本无法创建,因为它看到的侧脸很少。理想情况是,尽可能均匀的分布角度,表情和光照条件。

同样,在 A 侧 和 B 侧 之间具有尽可能多的匹配 角度 / 表情 / 照明条件 的人脸也很重要。如果 A 侧 有很多侧脸,而 B 侧 没有侧脸,则该模型将永远无法交换侧脸,因为 解码器 B 缺少创建侧脸镜头所需的信息。

训练数据一般不应被遮挡的,并且具有高质量(清晰和详细)。但是可以在训练集中包含一些 模糊 / 部分遮挡 的图像。在最后交换中,会有一些 模糊 / 低分辨率 / 遮挡 的人脸,因此,对于神经网络来说,看到这些类型的图像也是很重要的,这样它才能忠实的进行再现。

可以在“提取”流程 指南中找到更详细的创建训练集内容。

选择模型

Faceswap 中有几种可用的模型,并且随着时间的推移会增加更多的模型。模型质量对于每个人是高度主观的,所以这里将简要概述每种(当前)可用的模型。最终最适合您的模型可以归结为许多因素,因此没有最佳答案。每种模型都有优点和缺点,但是如上所述,最重要的一个因素是数据的质量,没有模型可以解决数据问题。

您将看到下面提到的输入和输出大小(例如 64px 输入,64px 输出)。这是输入到模型的人脸图像大小(输入)和从模型生成的人脸大小(输出)。输入模型的所有人脸部都是正方形的,因此 64px 的图像将为 64 像素宽 64 像素高。一个普遍的误解是,高分辨率的输入将导致更好的交换。虽然可以提供帮助,但并非总是如此。神经网络正在学习如何将人脸编码为一种算法,然后再次对该算法进行解码。它只需要足够的数据就可以创建可靠的算法。输入分辨率和输出质量没有直接关联。

值得注意的是,模型越大,训练所需的时间就越长。“Original”在 Nvidia GTX 1080 上的训练可能需要 12-48 小时 的时间。而“Villain”在相同的硬件上可能需要一周以上的时间。通常认为,两倍大小的输入,模型将花费两倍的时间。这是不正确的,至少需要四倍的时间,甚至可能更长。这是因为 64px 图像具有 4,096 像素。但是,一个 128px 的图像具有 16,384 像素。这是原来的 4 倍,此外,模型需要处理这些增加数据的缩放,训练时间会快速增加。

  • Lightweight(64px 输入,64px 输出)- 这是一种非常精简的模型,旨在具有 [4] 的 GPU 上运行。这不是所谓的“production ready”,而是使具有较低端硬件的用户也可以训练模型。在高端 GPU 上,它将非常快速地进行训练,因此对于在转向更复杂的模型之前,快速了解可能的交换情况很有用。
  • Original(输入 64px,输出 64px)- 完全启动模型,仍然可以提供出色的结果,并且有助于您理解 数据集的质量 实际上是 交换人脸质量 的最大驱动因素之一。
  • IAE(64px 输入,64px 输出)- 与其它模型结构稍有不同。它具有一个共享的编码器和一个共享的解码器,但是有 3 个 中间层(一个用于 A,一个用于 B 和一个共享层),它们位于编码器和解码器之间。以这种方式构造,是试图更好地分离身份。可以在此处了解有关此模型的更多信息:https://github.com/deepfakes/faceswap/pull/251
  • Dfaker(64px 输入,128px 输出)- 此模型利用了一些与“Original”模型不同的技术,并且着重于将输入扩展为更高的分辨率输出。尽管存在了一段时间,该模型仍然取得了不错的结果,而缺乏定制选项使其成为一种简单的“发射后不管”模式。
  • Unbalanced(输入 64-512px,输出 64-512px)- 这是一个功能强大的模型,可以通过多种方式自定义和改进模型,但需要更多的专业知识和诀窍才能获得良好的结果。可以说已经被“RealFace”所取代。值得注意的是,此模型将更多的重点放在 B 解码器 上,因此反向交换(即交换 B >A 而不是 A >B)将导致效果不理想。
  • DFL-H128(128px 输入,128px 输出)- 该模型实际上使用与“Original”完全相同的编码器和解码器,但随后使用 128px 输入而不是 64px,然后试图将图像压缩为原始图像一半大的人脸。与“Original”相比,较小的“latent space”在质量上有一些缺点,从而抵消了较大的输入量。
  • DFL-SAE(64-256px 输入,64-256px 输出)- 该模型中包含两种不同的网络结构,一种基于“Original”共享 编码器 / 分离解码器 模型,另一种基于“IAE”模型(共享中间层)。有许多自定义选项。提供了很好的细节,但可能导致某些身份流失(即 A 的某些特征可能在 B 中可见)。
  • Villain(128px 输入,128px 输出)-“Villain”可能是最详细的模型,但是 VRAM 密集的,并且在进行有限源训练时可以提供低于标准的颜色匹配。是来源于“病毒 Steve Buscemi/Jennifer Lawrence Deepfake”。由于此模型没有任何自定义选项(除了低内存型号之外),如果您想要更高分辨率的模型而无需调整任何设置,这是一个不错的选择。
  • Realface(输入 64-128px,输出 64-256px)-“Unbalanced”模型的后继者。从该模型和“Dfaker”中吸取教训,同时希望进一步发展它们。该模型是高度可定制的,当你知道你在做什么以及设置会产生什么影响时,最好对选项进行一些调整。与“Unbalanced”模型一样,此模型将更多的重点放在 B 解码器 上,因此反向交换(即交换 B >A 而不是 A >B)将导致不太令人满意的结果。
  • Dlight(128px 输入,128-384px 输出)- 基于“Dfaker”变体的高分辨率模型,着重于使用自定义的放大器提升人脸尺寸。这是最新的模型,非常易于配置。

模型配置

Ok,您已经选择了模型,让我们开始训练吧!Well,等等。我很欣赏您的渴望,但是您可能会想先设置一些模型的特定选项。我将使用 GUI 来实现这一点,但是可以在 faceswap 文件夹中的找到配置文件 faceswap/config/train.ini(如果使用命令行)。

由于这些模型各不相同,因此我将不会介绍每个模型的选项,而且对新的模型持续更新介绍是很难的,但是我将概述一些较常见的选项。我们将重点放在适用于所有模型的全局选项上。所有选项都有工具提示,因此将鼠标悬停在选项上可获得更多的信息。

要访问模型配置面板,请转到“Settings”>“Configure Train Plugins…”:

Faceswap
  • Global【全局】

    这些是适用于所有模型的选项:

    Faceswap

    此页面上的所有选项(“Learning Rate”除外)仅在创建新模型时生效。一旦开始训练模型,此处选择的设置就会“锁定”到该模型,无论您在此处设置了什么,只要您继续训练,就会重新加载该设置。

    • Face【人脸】

      输入模型的 适用于人脸 的选项

      Faceswap
      • Coverage - 这将是输入模型的源图像覆盖值。从人脸中心按一个给定的百分比裁剪,百分比越高,就能获得更多的面部。裁剪百分比如下图所示:
        Faceswap

        虽然从直觉上看,高覆盖率(Coverage)似乎总是更好,但事实并非如此,这是一种权衡。虽然更高的覆盖率意味着将交换更多的人脸,但模型的输入大小始终保持不变,因此,由于需要将更多信息打包到相同大小的图像中,其交换的细节信息可能就较少。为了说明这一点,举一个极端例子,一张具有 62.5% 覆盖率和 100% 覆盖率的相同图像,它们的大小均为 32px。如您所见,100% 覆盖率图像包含的细节远少于 62.5% 版本。最终,此选项的正确选择取决于您:

        Faceswap
    • Mask【遮罩】

      适用于 带遮罩 训练的选项。

      Faceswap
      233.png

      设置遮罩是一种指示图像的哪个区域是重要的方法。在下面的示例中,红色区域是“被遮盖的”(即:它被认为不重要),而透明区域“未被遮盖”(这是面部,是我们感兴趣的区域):

      Faceswap

      带遮罩训练有两个目的:

      1. 它将训练的重点放在面部区域,从而迫使模型降低对背景的重要性。这有助于模型更快地学习,同时还可以确保它不会占用空间学习不重要的背景细节。
      2. 学习的遮罩可用于 转换阶段。在当前的实现中,学到的遮罩在转换时是否比使用标准遮罩有什么好处是有争议的,但是使用遮罩进行训练可以确保您可以选择使用它。

      注意:如果您正在使用遮罩进行训练,则必须在每个输入文件夹中为 A 和 B 中的所有人脸提供“匹配文件”。

      • Mask Type【遮罩类型】- 用于训练的遮罩类型。要使用遮罩,您必须已将所需的遮罩添加到匹配文件中。您可以使用遮罩工具 添加 / 更新 遮罩。看 这里 对每个遮罩的完整描述。
      • Mask Blur Kernel - 这使遮罩的边缘轻微模糊。实际上它移除了遮罩的硬边,并使面部到背景逐渐协调。这可处理计算不好的遮罩。是否要启用此功能以及用什么值取决于您。默认值应该没问题,但是您可以使用遮罩工具进行实验。
      • Mask Threshold - 此选项不会影响基于“匹配”的遮罩(Extended,Components),因为它们是二进制的(即遮罩为“打开”或“关闭”)。对于基于神经网络的遮罩,该遮罩不是二进制的,并且具有不同级别的透明度。在某些情况下,这可能会导致遮罩有斑点。提高阈值将使遮罩的部分接近透明,直至完全透明,而使遮罩的部分接近实体,直至完全实体。同样,这将视情况而定。
      • Learn Mask - 如前所述,学习遮罩是否有好处是有争议的。启用此选项将使用更多的 VRAM,因此我倾向于不使用它,但是如果您希望在转换中使用预测的遮罩,则应启用此选项。
    • Initialization【初始化】

      适用于初始化模型的选项。

      Faceswap

      正如在训练概述所讨论的,模型的权重在每次迭代结束时都会更新。初始化是首先设置这些权重的过程。您可以看到这给模型启动时的一个帮助。我们知道神经网络将用于什么,我们可以为这些权重设置一些值,这将有助于模型有一个快速的开始。

      默认的初始化方式是“he_uniform”。这将从均匀分布中抽取样本。本指南的目标不是介绍不同的初始化方法及其意义,但是此默认设置可以被本节中提供的选项所覆盖。

      应当注意,某些模型在内部为模型的某些层设置了初始化方法,因此这些层将不受此设置的影响。但是,对于尚未明确设置的层和模型,初始化设置将更改为选定的选项。

      现有两个初始化设置可以一起使用(即,它们都可以启用而不会产生不良影响),我倾向于同时启用它们。

      • ICNR Init - 此初始化程序仅适用于 放大层。当它们在神经网络中放大时,标准初始化可能会在输出图像中导致“棋盘”现象。该初始值设定项试图防止这些伪影。有关此方法的更多信息,请参阅:https://arxiv.org/abs/1707.02937
      • Conv Aware Init - 卷积感知初始化应用于模型中的所有卷积层。该初始值设定项的前提是,它考虑了卷积网络的用途并相应地初始化权重。从理论上讲,这将导致更高的精度,更低的损耗和更快的收敛速度。有关此方法的更多信息,请参阅:https://arxiv.org/abs/1702.06295

      注意:此初始化程序启动时会占用更多的 VRAM,因此建议从较小的批次大小开始,启动模型,然后再以所需的批次大小重新启动模型。

      注意:此初始化程序不会在启用多 GPU 模式下运行,因此,如果使用多个 GPU 进行训练,则应在 1 个 GPU 上开始训练,停止模型,然后继续启用多 GPU。

    • Network【网络】

      适用于模型中 层 的选项

      Faceswap

      这里的选项适用于模型中使用的某些层。

      • Subpixel Upscaling - 这是在神经网络中放大图像的一种方法。实际上,它所做的工作与“Pixel Shuffler”层完全相同,只是使用了不同的 TensorFlow 操作。我建议不要使用它,因为它没有任何区别(将来可能会删除)
      • Reflect Padding - 在最终交换中,某些模型(尤其是“Villain”)和较小程度的“DFL-SAE”在交换区域的边缘周围都有明显的“灰框”。此选项更改卷积层中使用的填充类型,以帮助减轻此现象。我只建议为这两个模型启用它,否则我将忽略它。
    • Loss【损失】

      要使用的损失函数。

      Faceswap

      有各种不同的方法来计算损失,或者让神经网络来辨别其在训练模型方面的表现。我将不详细介绍每个可用的函数,因为这将是一个漫长的过程,并且在互联网上有很多有关每个函数的信息。

      • Loss Function - 最受欢迎的损失方法是 MAE(平均绝对误差)和 SSIM(结构相似度)。我个人倾向于使用 SSIM。
      • Penalized Mask Loss - 此选项指示图像中位于面部区域内的图像是否比区域外的图像更重要。此选项应始终启用。
    • Optimizer【优化器】

      与优化器有关的选项。

      Faceswap

      优化器控制神经网络的学习速率。

      • Learning Rate - 此项通常不需要处理,除非模型崩溃(所有图像都变为纯色块,并且损失达到很高且无法恢复),与该页面上的其他参数不同,可以为现有模型调整该值。

        学习率决定了每次迭代后可以向上或向下调整权重的程度。直觉会说学习率越高越好,但事实并非如此。该模型正在试图学习获得尽可能低的损失值。设置过高的学习率将不断在最低值上下波动,并且永远不会学到任何东西。将学习率设置得太低,模型可能会跌至某个低谷,认为它已经达到最低点,并且将停止改进。

        把它想象成下山。您想到达山脚,所以您应该一直走下去。但是,下山的路并不总是下坡的,途中有小的丘陵和山谷。学习速度必须足够高,以能够摆脱这些较小的山谷,但又不能过高,以至于您最后到达了另一座山顶。

  • Model【模型】

    这些是特定于每个 模型插件 的设置:

    Faceswap

    如前所述,我不会详细介绍模型的特定设置,每个模型插件都有不同。但是,我将介绍您可能在每个模型插件中看到的一些常用选项。与往常一样,每个选项都有一个工具提示,可为您提供更多信息。

    • lowmem - 一些插件具有“lowmem”模式。这使您可以运行模型的精简版本,占用较少的 VRAM,但以降低精确度为代价。
    • input size - 一些插件可让您调整输入模型的图片大小。输入始终为正方形,因此这是输入模型的图像的宽度和高度的大小(以像素为单位)。不要相信投入越多,质量越好。情况并非总是如此。还有许多其他因素决定模型是否具有良好的质量。输入尺寸越大,需要的 VRAM 越多。
    • output size - 一些插件可让您调整模型所生成图像的尺寸。输入大小和输出大小不必相同,因此某些模型包含放大器,以返回比输入图像更大的输出图像。
  • Trainer【训练器】

    配置页面中的最后一个选项卡适用于 训练器 或“数据增强”选项:

    Faceswap

    神经网络需要看到很多很多不同的图像。为了更好地学习人脸,它会对输入图像执行各种操作。这称为“数据增强”。如注释中所述,标准设置适用于 99%的用例,因此只有在知道它们会有什么影响时才进行更改。

    • Evaluation【评估】- 评估训练状态的选项。

      Faceswap
      • Preview Images - 在预览窗口中显示交换的 A、B 两侧的人脸数量。
    • Image Augmentation【图像增强】- 这些操作是在输入模型的人脸上执行的。

      Faceswap
      • Zoom Amount - 人脸在输入神经网络之前将其放大或缩小的百分比量。帮助模型处理错位。
      • Rotation Range - 人脸在输入神经网络之前顺时针或逆时针旋转的百分比量。帮助模型处理错位。
      • Shift Range - 人脸在输入神经网络之前 向左 / 向右 上 / 下 移动的百分比量。帮助模型处理错位。
      • Flip Chance - 水平翻转人脸的机率。有助于为神经网络创造更多的学习角度。
    • Color Augmentation【颜色增强】- 这些 增强 可控制输入到模型中的人脸的 颜色 / 对比度,以使神经网络对色差更健壮。

      Faceswap

      这是面罩下颜色增强功能的说明(您不会在 预览 / 最终 输出中看到它,仅用于演示目的):

      Faceswap
      • Color Lightness - 上下调整 输入图像亮度的百分比。有助于应对不同的照明条件。
      • Color AB - 在 L*a*b 颜色空间的 A/B 刻度上调整颜色的百分比。帮助神经网络处理不同的颜色条件。
      • Color CLAHE Chance - 图像将应用“对比度受限的自适应直方图均衡”的概率百分比。CLAHE 是一种 对比 方法,试图定位 对比变化。这有助于神经网络处理不同的对比度。
      • Color CLAHE Max Size -CLAHE 算法的最大“网格大小”。这被缩放到输入图像。较高的值将导致较高的对比度。这有助于神经网络处理不同的对比度。

一旦你有了想要的模型设置,请单击“OK”以保存配置并关闭窗口。

注意:点击确定将保存所有选项卡上的选项,因此请确保仔细检查它们。您可以单击“Cancel”以取消所有更改,或单击“Reset”以将所有值恢复为其默认设置。

设置

现在您已经准备好了自己的人脸,已经配置了模型,是时候开始工作了!

转到 GUI 中的“Train”选项卡:

Faceswap

在这里,我们将告诉 Faceswap 所有东西都存储在哪里,我们想要什么,并开始实际训练。

  • Faces【人脸】

    在这里,我们将告诉 Faceswap 人脸的存储位置以及它们各自的“匹配文件”的位置(如果需要)

    Faceswap
    • Input A - 这是您从 提取过程 提取出来的 包含“A”人脸的文件夹位置。这些人脸将从原来的场景中移除,并替换成您想交换的人脸。此文件夹中应该有大约 1,000-10,000 张人脸。
    • Alignments A - 如果您是使用遮罩或使用“Warp to Landmarks”进行训练,那么您将需要一个人脸匹配文件。这将在提取过程中生成。如果该文件存在于您的 faces 文件夹中,并且名为 alignments.json,则该过程 将自动的 将其提取。必须在人脸文件夹中的每个人脸都在匹配文件中有一个条目,否则训练将失败。您可能需要合并多个匹配文件。您可以在提取流程中找到有关准备匹配文件以进行训练的更多信息。
    • Input B - 这是您从 提取过程 提取出来的 包含“B”人脸的文件夹位置。这些是将被交换到场景中的人脸。此文件夹中应该有大约 1,000-10,000 张人脸。
    • Alignments B - 如果您是使用遮罩或使用“Warp to Landmarks”进行训练,那么您将需要一个人脸匹配文件。这将在提取过程中生成。如果该文件存在于您的 faces 文件夹中,并且名为 alignments.json,则该过程 将自动的 将其提取。必须在人脸文件夹中的每个人脸都在匹配文件中有一个条目,否则训练将失败。您可能需要合并多个匹配文件。您可以在提取流程中找到有关准备匹配文件以进行训练的更多信息。
  • Model【模型】

    与您将要训练的模型有关的选项:

    Faceswap
    • Model Dir - 将在其中保存模型文件。如果启动的是新模型,则应该选择一个空文件夹,如果要从已经开始的模型恢复训练,则应该选择一个包含模型文件的现有文件夹。
    • Trainer - 这是您要为交换训练的模型。以上是所有可用模型的概览。
    • Allow Growth -[仅限 NVIDIA]。启用 TensorFlow GPU allow_growth 配置选项。此选项可防止 TensorFlow 在启动时分配所有 GPU VRAM,但可能导致更高的 VRAM 碎片化和较慢的性能。仅当您在训练中遇到问题时才启用它(特别是您遇到 cuDNN 错误)。
  • Training【训练】

    训练特定设置:

    Faceswap
    • Batch Size - 如上所述,批次大小是一次通过模型输入的图像数量。增加此数字将增加 VRAM 使用率。增加批次大小将使训练加速到一定程度。小批次可以提供一种有助于模型泛化的规则形式。虽然大批次训练速度更快,但批次大小在 8 到 16 之间可能会产生更好的质量。关于其他形式的规则能否替代或消除这种需求,仍然是一个悬而未决的问题。
    • Iterations - 在自动停止训练之前要执行的迭代次数。这实际上仅是为了自动化,或确保一定时间后停止训练。通常,当您对预览的质量感到满意时,您将手动停止训练。
    • GPUs – [NVIDIA ONLY] - 要训练的 GPU 数量。如果您的系统中有多个 GPU,则最多可以利用其中 8 个 GPU 来加快训练速度。请注意,这种加速不是线性的,添加的 GPU 越多,性能回报越少。最终,它允许您通过多个 GPU 来拆分更大的批次。最弱的 GPU 和 VRAM 总是会成为您的瓶颈,因此在相同的 GPU 上进行训练时效果最佳。您可以阅读有关 Keras multi-gpu 的更多信息。
    • No Logs - 损失和模型日志,以便能够在 TensorBoard 和 GUI 中分析数据。关闭此功能将意味着您无权访问此数据。实际上,没有理由禁用日志记录,因此通常不应勾选此项。
    • Warp To Landmarks - 如前所述,数据是变形的,以便神经网络可以学习如何重建人脸。“Warp to Landmarks”是一种不同的变形方法,该方法试图从另一侧随机变形人脸成一个相似的人脸(即,对于 A 集,它从 B 集中找到一些相似的面,并随机的应用变形)。是否与标准随机变形相比有任何 好处 / 不同,尚待确定。
    • No Flip - 随机翻转图像以帮助神经网络增加看到的数据量。在大多数情况下,这很好,但是人脸是不对称的,因此对于某些目标而言,这可能是不希望的(例如,脸部一侧的痣)。通常,应取消选中该选项,当然在开始训练时也可以勾选此项。在随后的会话阶段,您可能要为某些交换禁用此功能。
    • No Augment Color -Faceswap 执行颜色增强(前面有详细介绍)。这确实有助于在 A 和 B 之间匹配 颜色 / 照明 / 对比度,但有时可能并不理想,因此可以在此处禁用它。增色的影响如下所示:
      Faceswap
  • VRAM Savings【VRAM 节省】

    优化设置以节省 VRAM:

    Faceswap

    Faceswap 提供了许多节省 VRAM 的优化选项,可以让用户训练他们无法训练的模型。不幸的是,这些选项当前仅适用于 Nvidia 用户。这些应该是最后的手段了。如果您可以在不启用这些选项的情况下以至少 6-8 的批次大小进行训练,那么您应该首先这样做,因为所有这些都会带来速度上的损失。可以相互启用所有这些选项,以节省堆栈。

    • Memory Saving Gradients – [NVIDIA ONLY] – MSG 是一种优化方法,可以节省 VRAM 的计算成本。在最佳情况下,训练时间增加 20% 即可使您的 VRAM 需求减半。这是您应该尝试的第一个选项。您可以阅读“Memory Saving Gradients”获取更多信息。

    • Optimizer Savings – [NVIDIA ONLY] – 通过在 CPU 而非 GPU 上执行一些优化计算,可以节省相当数量的 VRAM。这样做确实以增加系统 RAM 使用率和降低训练速度为代价。这应该是您尝试的第二个选项。

    • Ping Pong – [NVIDIA ONLY] - 又称“最后的手段”。这是目前为止最糟糕的 VRAM 保存选项,但它可能刚好满足您的需要。这基本上将模型分为两部分,并将一次训练模型的一半。这可以节省多达 40% 的 VRAM,但将花费超过两倍的时间来训练模型。这应该是您尝试的最后一个选择。

      注意:启用此选项后,TensorBoard 日志记录 / 绘图 功能将不可用。

      注意:在模型两侧完成一个训练周期前,不会显示预览。

  • Saving【保存】

    计划保存模型文件的选项:

    Faceswap
    • Save Interval - 将模型保存到磁盘的频率。保存模型时,不会对其进行训练,因此您可以提高该值以在训练时稍微提高速度(即它不再像以前那样等待模型写入磁盘)。您可能不想将其提高得太高,因为它基本上是您的“故障保护”。如果模型在训练期间崩溃,那么您将只能从上一次保存继续。

      注意:如果使用“Ping Pong”的节省内存选项,则不应将此值增加到 100 以上,因为这可能会损害最终质量。

    • Snapshot Interval - 快照是模型在某个时间点的副本。这使您能够在对模型的进度不满意时回滚到以前的快照,或者在保存文件已损坏且没有可用备份时回滚。通常,这应该是个很高的数字(在大多数情况下,默认值应该很好),因为创建快照可能会花费一些时间,并且在此过程完成前,您的模型将无法进行训练。
  • Preview【预览】

    用于显示训练进度的预览窗口选项:

    Faceswap

    如果您使用的是 GUI,那么通常您将不想使用这些选项。预览是一个弹出窗口,显示训练进度。GUI 又将这些信息嵌入了“显示”面板中,因此弹出的“显示”窗口将仅显示 GUI 中完全相同的信息,而且也是多余的。预览在每次保存迭代时更新。

    • Preview Scale - 弹出预览的大小与训练图像的大小相同。如果您的训练图像为 256 像素,则整个预览窗口将为 3072×1792。对于大多数显示器来说,这太大了,因此此选项将预览按给定的比例缩小。
    • Preview - 启用以弹出预览窗口,禁用以不弹出预览窗口。对于 GUI 使用,通常不要选中它。
    • Write Image - 这会将预览图像写入 faceswap 文件夹。如果在无显示器的系统上训练很有用。
  • Timelapse【延时摄影】

    用于生成一组可选的延时摄影图像的选项:

    Faceswap

    “延时摄影”是一项可选功能,通过该功能,您可以查看随着时间推移对固定人脸进行训练的进度。在每次保存迭代时,将保存一张图像,显示在该时间点对所选人脸进行训练的进度。请注意,延时摄影图像占用的磁盘空间量会随着时间推移而堆积。

    • Timelapse Input A - 一个包含从 A(原始)侧生成延时摄影人脸的文件夹。仅使用找到的前 14 张 人脸。如果您想从训练集中选择前 14 张 人脸,则可以将其指向“Input A”文件夹。
    • Timelapse Input B - 一个包含从 B(交换)侧生成延时摄影人脸的文件夹。仅使用找到的前 14 张 人脸。如果您想从训练集中选择前 14 张 人脸,则可以将其指向“Input B”文件夹。
    • Timelapse Output - 您想要保存所生成的延时摄影图像的位置。如果您提供了 A 和 B 的来源,但将其留为空白,则默认为您选择的模型文件夹。
  • Global【全局】

    Faceswap 的全局选项:

    Faceswap

    这些选项对于 Faceswap 的每个部分都是全局的,而不仅仅是训练。

    • Configfile - 您可以指定一个自定义的 train.ini 文件,而不使用存储在 faceswap/config 文件夹中的文件。如果您想在几种不同的良好配置之间进行切换,这将很有用。
    • LOGLEVEL - 设置 Faceswap 的日志记录的级别。通常,应始终将其设置为 INFO。仅在开发人员要求时,才应将其设置为 TRACE,因为这将大大减慢训练速度并生成大量日志文件。

      注意:控制台只会记录到 VERBOSE 级别。DEBUG 和 TRACE 的日志级别仅写入日志文件。

    • Logfile - 默认情况下,日志文件存储在 faceswap/faceswap.log 中。您可以根据需要在此处指定其他位置。

    一旦您锁定所有设置后,请检查它们以确保您满意,然后单击“Train”按钮开始训练。

训练监控

一旦开始训练,该过程将花费一两分钟来构建模型,预加载数据并开始训练。一旦启动,GUI 将进入训练模式,在底部放置一个状态栏,并在右侧打开一些选项卡:

  • Status Bar【状态栏】

    它显示在右下方,并提供当前训练过程的概览。它在每个迭代完成时更新:

    Faceswap

    您无需密切关注这里的损失数字。对于 faceswapping,它们实际上是毫无意义的。这些数字给出了神经网络认为它重建 人脸 A 和 人脸 B 的程度。然而我们感兴趣的是模型从人脸 编码 A 创建的 人脸 B 的效果如何。这是一个不可能获得的损失值,因为现实世界中没有人脸交换的例子可以让神经网络进行比较。

    • Elapsed - 此次训练消耗的时间。
    • Session Iterations - 此次训练已处理的迭代次数。
    • Total Iterations - 该模型所有已处理的迭代次数。
    • Loss A/Loss B - 当前迭代的损失值。注意:可能有多个损失值(例如人脸,遮罩,多路输出等)。该值是所有损失的总和,因此此处的数字会有很大的变化。
  • Preview Tab【预览选项卡】

    模型当前状态的可视化。这表示模型重建和交换人脸的能力。每次保存模型时都会更新:

    Faceswap

    想知道模型是否已完成训练的最好方法是观看预览。最终,这里显示了实际交换的情况。当您对预览感到满意时,就该停止训练了。眼部眩光和牙齿等细节将是最后才会显露出来。一旦这些都清晰明确了,通常可以很好地表明训练即将完成。

    • 预览将显示 12 列。前 6 个 是“A”(原始人脸)侧,后 6 个 是“B”(交换人脸)侧。前后 6 列 里分为 2 组,每组 3 列。对于以下各列:
      Faceswap
      • 第 1 列 是输入到模型中的不变人脸
      • 第 2 列 是模型试图重建该人脸
      • 第 3 列 是模型试图交换的人脸
    • 开始时,这里显示纯色或非常模糊的图像,但随着时间的推移,神经网络学习如何重建和交换人脸而将逐渐改善。
    • 不透明的红色区域表示被遮盖的脸部区域(如果使用遮罩进行训练)。
    • 如果训练的覆盖率小于 100%,您将看到一个红色框的边缘。这表示“交换区域”或神经网络正在训练的区域。
    • 您可以使用右下角的保存按钮保存当前预览图像的副本。
    • 可以通过取消选中右下角的“Enable Preview”框来禁用预览。
  • Graph Tab【图表选项卡】- 此选项卡显示一个随时间变化的损失曲线图。每次保存模型时都会更新,但是可以通过单击“Refresh”按钮来刷新:

    Faceswap

    您无需太在意此处的数字。对于 faceswapping,它们实际上是毫无意义的。这些数字给出了神经网络认为它重建 人脸 A 和 人脸 B 的程度。然而我们感兴趣的是模型从人脸 编码 A 创建的 人脸 B 的效果如何。这是一个不可能获得的损失值,因为现实世界中没有人脸交换的例子可以让神经网络进行比较。

    损失图仍然是有用的工具。最终,只要损失在下降,那模型就仍在学习。该模型学习的速度将随着时间的推移而降低,因此到最后,可能很难辨别它是否仍在学习。在这些情况下,请参阅【分析选项卡】。

    • 根据输出的数量,可能会有多个图表可用(如总损失,遮罩损失,人脸损失等)。每个图表都显示该特定输出的损失。
    • 您可以使用右下角的保存按钮保存当前图表的副本。
    • 可以通过取消选中右下角的“Enable Preview”框来禁用图表。
  • Analysis Tab【分析选项卡】- 此选项卡显示 当前正在运行 和 以前的训练会话 的一些统计信息:

    Faceswap
    • 每列说明如下:
      • Graphs - 单击蓝色图标以打开所选会话的图表。
      • Start/End/Elapsed - 每个会话的开始时间,结束时间和总训练时间。
      • Batch - 每个会话的批次大小。
      • Iterations - 每个会话处理的迭代总数。
      • EGs/sec – 每秒通过模型处理的人脸数。
    • 当模型不训练时,您可以通过单击右下角的打开按钮并在模型文件夹中选择模型的 state.json 文件来打开先前训练过的模型的统计信息。
    • 您可以使用右下角的保存图标将分析选项卡的内容保存到一个 csv 文件中。

    如上所述,损失图对于查看损失是否正在下降很有用,但是当模型经过长时间训练时可能很难辨别。分析选项卡可以为您提供更详细的视图。

    • 单击您最近的训练会话旁边的蓝色图标,将弹出所选会话的训练图表。
      Faceswap
    • 选择“Show Smoothed”,将“Smoothing amount”提高到 0.99,点击刷新按钮,然后放大最后的 5,000-10,000 次 迭代:
      Faceswap
    • 现在该图表已放大,您应该能够知道损失是否仍在下降或损失是否已经“收敛”。收敛是指模型不再学习任何东西。在此示例中,您可以看到,虽然乍一看似乎模型已经收敛,但仔细检查,损失仍在下降:
      Faceswap

停止和重新开始

只需按一下 GUI 左下方的“Terminate”按钮,即可停止训练。模型将保存其当前状态并退出。

通过选择相同的设置并将“Model dir”文件夹指向与保存的文件夹相同的位置,可以恢复模型。通过 GUI “File” 菜单或选项面板下面的保存图标保存 Faceswap 配置,可以使其变得更加容易。

Faceswap
Faceswap

然后,您可以重新加载配置并继续训练。

可以在“训练”文件夹中添加和删除人脸,但是请确保在进行任何更改之前先停止训练,然后再次开始。如果您正在使用“Warp to Landmarks”或使用遮罩进行训练,则需要确保使用 新的人脸 或 移除的人脸 更新“匹配文件”。

恢复损坏的模型

有时模型会损坏。可能有多种原因,但这可以通过预览中的所有人脸变为 纯色 / 乱码 来证明,并且损失值急剧上升且无法恢复。

Faceswap 提供了可轻松恢复模型的工具。每次保存迭代(损失值总体下降)时都会保存备份,这些备份可以通过以下方式恢复:

  • 转到“Tools”>“Restore”:

    Faceswap
  • Model Dir - 包含损坏的模型的文件夹应在此处输入:

    Faceswap

点击“Restore”按钮。一旦恢复,您应该可以从上次备份继续训练。

Faceswap

Faceswap

  1. 根据该文件在 Faceswap 中的作用,鄙人觉得翻译为“匹配文件”更加符合。↩

  2. 这个词不好翻译,故直接使用英文。↩

  3. 原文直译为排序,但根据实际操作,翻译为“分类”更加容易理解。↩

  4. VRAM 指的是显卡内存。↩

关注微信订阅号,每日推送
post-qrcode
黎明岛
版权声明:本站原创文章,由 黎明岛 2022-08-14发表,共计23678字。
转载说明:除特殊说明外本站文章皆由CC-4.0协议发布,转载请注明出处。