写在前面
融合模型一般是我们接触最多的模型。 c站的大部分车型都是融合车型,也就是那些后缀为mix的车型。由于训练基础模型对硬件条件要求较高,因此只需20秒就能融合的模型自然成为了大多数朋友获得自己喜欢的模型的最佳选择。本期我们来聊聊融合模型。事物。
和往常一样,这个测试结果只是在同等条件下进行的测试。其他不同参数的测试仅供参考。结论仅基于测试结果,不代表实际结果。
测试参数
、最佳、艺术、CG 8k、
, ,, , , 红头发, 红眼睛,(ear1.3), , , 红, , 开, (鸟.8), 开, (.1), , 高, , , , ,大,( .2 ),( .4),( .2),手放在臀部,,( .3),城市,,鸟尾,独奏,膝盖,关闭,独奏,, (鸟 .5), , , ,, (.1), (.4),( 从 .1 开始),
: 和上一期一样
: 30, : DPM++ 2M, CFG: 7, 尺寸: ,剪辑跳过: 2,
这次的模特是小姐,不过肥鸭子的头发真的很难画……
测试结论
首先要做的是模型融合测试。我们选择 和 作为融合的基本模型。我们选择这两个是因为这两个模型的绘画风格有很大不同,更容易观察到融合的本质。如果对这两个模型不熟悉的朋友,可以参考上一篇专栏:
AI绘画模型推荐(三)模型评测|图片包及链接
宿业金石·1245读
AI绘画模型推荐(五)模型评测|图片包及链接
宿业金石·1211读
融合测试
首先,使用加权和进行融合测试。公式为A*(1-M) + B*M。测试表中,M从0增加到1,相差0.1。也就是说表中第一列是opk。第二列是opk*0.9+*0.1,第三列是opk*0.8+*0.2...等等。
从测试图片中我们可以感受到,随着两个底部模型权重的变化,融合后的模型呈现出绘画风格的逐渐变化。有些朋友对融合模型存在误解,认为融合模型只是将两个模型按照权重相加。生成图片时,根据权重随机选择其中一个模型。显然事实并非如此。融合模型直接根据权重融合两个模型的绘画风格。也就是说,融合后的模型画风还是稳定的,不像模型A,下一秒就像模型A那样。
0.+0。
对比上面三张图,我们可以发现,融合模型确实具有两个基础模型的特点:天空中的云朵继承了opk油画厚重的涂层质感,淡化了真实感,但由于明亮的颜色。 grey;opk 脸部表情过于暗淡,2的加入赋予了丰富的明暗表情,但不像平常那样太生动;在线稿中,融合模型不仅具有OPK清晰的轮廓特征,而且还淡化了一些线条,使其不那么突兀;
这时,有的朋友就会陷入另一个误区:那就是融合模型综合了两种模型的优点;这种说法是片面的。事实上,融合模型只能融合两个模型的特征。 ,无法选择一个或几个特征进行复制。此外,融合模型不仅融合了模型的优点,也融合了模型的缺点。以上图为例。如果只是想提高opk的颜色亮度而不改变opk的其他特性,这基本上是不可能的。另外,opk在废墟和战场上优秀的生成效果也会被忽略。擅长此类场景的负面因素被淡化,这也是融合模型的负面影响。
因此,在使用加权模型和融合模型时,必须清楚两种基础模型的优缺点,并对融合模型的效果有一个初步的了解。这可以大大减少融合模型带来的不确定性,获得更好的结果。适合您需求的型号。
第二个测试是添加插值融合,公式为:A+(BC)*M,基础模型为:A:竖画,B:,C:,可以参考上一篇专栏:
AI模型推荐(一)-v3.0竖画专用模型评测 |附链接
宿业金石·4871读
AI绘画模型推荐(四)模型评测|图片包及链接
苏业进士·1953读
这突然变得抽象了。可以看出,该模式类似于加权融合。模型最初呈现模型A的风格,然后风格逐渐偏向模型B。但是,与加权和不同的是,当权重增加时,模型不会向模型B的渲染效果靠拢,只是绘画风格会偏向模型B。另外,C模型在融合方面似乎并没有起到明显的作用。
模型求和很容易理解,但模型求差有点令人困惑。目前可以确定的是,模型差分后的结果应该与相减后的模型B比较接近。通过插值融合很难控制模型风格。如果有时间,我会进一步了解这个融合算法。如果有了解这个算法的朋友,请在评论区分享一下。
看不到明显的图案
讲完了两种基本的融合方式,我们再来讨论另一个问题:二次融合。
什么是二次融合?二次融合就是以融合模型为基础模型,然后进行融合。其实严格来说,我们刚才的测试算是二次融合,因为基础模型也是融合模型。
众所周知,绘画模型是在一堆图片上训练的,因此不同的训练集决定了不同的模型风格。然而,融合模型没有训练集,或者融合模型的训练集是基于基础模型的。所以无论融合模型如何融合,它的训练集仍然是原始图片,不可能产生新的风格。
我们来验证一下这个猜想。首先,我们使用一系列不同权重的模型进行加权融合。他们的基本模型都是opk和。让我们对这些模型进行二次融合。融合规则是:反转权重。将两个模型以0.5:0.5的权重再次融合,使得最终融合结果中底层模型的比例为0.5:0.5,如:
用(0.9opk+0.)和(0.1opk+0.)按照0.5:0.5进行融合,则融合结果为(0.9opk+0.)*0.5+(0.1opk+0.)*0 .5 =(0.5opk+0.),我们命名为,它的底模参数与 的参数相同,我们也对其他几个模型进行同样的操作,使得它们最终的底模参数均为0.5:0.5;
那么,基础模型参数相同但融合过程不同的几个模型的输出效果会一样吗?
答案是肯定的。即使几个模型在融合过程中经历了不同的融合参数变化,只要基础模型的参数不变,渲染效果就不会改变(实际上是有细微的差别,可以理解为融合误差引起的)。
这是否是两种模型融合的独特之处?我对四个模型进行了融合测试。方法与上述相同。首先将四种模型配对混合,然后将六种混合模型配对混合。最终模型底模比例为0.25:0.25:0.25:0.25;测试结果如下:
很明显,虽然四个底层模型不同,并且两两混合后的绘制结果并不一致,但第二次混合后的绘制结果仍然收敛,这证明之前的猜想基本正确,并且输出模型为图中结果仅与底模比例有关,与混合次数、混合顺序无关。
成功收敛
这时候,一个问题就出现了。在谈这个问题之前,我们先提出一个概念:AI画风
有时候我们看到一张图片,判断它是否是AI生成的,我们会根据人物的人体结构、手脚是否正常、细节是否合理等来判断。再者,还会涉及到光影效果、发际线方向等更高级的方面来判断AI的水平(这里涉及到画图思路的部分是由于(我不会画画,所以就不深究了)然而,对于一些图片,我们会在没有任何具体判断的情况下,下意识地认为它们是由AI生成的,也就是所谓的“AI一目了然”,虽然这种判断是仓促的,但并没有任何依据,但造成这种情况的原因其实就是所谓的AI绘画 风格。
网上找到的,侵权删除,不过AI好像不受版权保护。
上图中的人体结构甚至手的细节看起来都没有任何问题,但当我们第一眼看到它时,我们以为它是人工智能绘制的。没有其他原因。这是典型的AI绘画风格。这种画风或者其他与其类似的AI画风在各大AI分享中经常可以看到,所以当我们看到这种画风时,我们会下意识地认为它是AI画的(只是画风相似而已)画家经常因其人工智能而受到批评。)
那么什么是AI画风,或者说AI画风是怎么出现的呢?这时,思考我们刚刚得出的结论,就不难想到答案:过多的模型融合导致了AI绘画风格的趋同。
我们可以建立一个数学模型:设一个模型类有4个参数,分别代表四个基本模型A、B、C、D在模型中所占的比例。还有一个模型库,里面有四个基本模型A、B、C、D。现在,我们对模型库进行如下操作:随机选择两个模型,按照0.5:0.5的比例混合,添加混合模型到模型库中,然后重复此步骤100次。
现在我们从这个模型库中随机选择一个模型。我可以大胆猜测这个模型的四个参数比例是0.25:0.25:0.25:0.25。我们甚至可以扩展这个数学模型,增加基本模型的数量。加到10,将权重比例改为0.3-0.7并随机浮动,重复步骤1000次……但可以肯定的是,最终这个模型库中大部分模型的底层模型比例都会均匀分布式,即各占十分之一的情况。
那么这种各个基础模型比例均衡的模型就是我们所说的AI风格。经过过多次二次融合后,模型库中的模型会趋于相同,因为它们的基础模型比例相似。我们之前已经证明,模型的渲染效果只与基础模型的比例有关,与融合过程无关。
这种现象会导致什么结果呢?也就是上面提到的模型收敛。很可能当你使用两个名称完全不同的模型时,绘制的结果会相似。这给我们寻找和测试模型带来了很大的麻烦。 ,这只会增加很多不必要的工作量。
虽然与画风完全不同,但相似的构图还是说明他们之间一定有“亲缘关系”
在之前的模型测试中,有几十个模型都有同样的效果。
后记
本期图片不多,主要是测试过程和理论。单纯想看妹子的朋友可能要失望了。我真的不建议共享融合模型。如果你真的想分享,我还建议给出融合参数和基础模型。但事实上,这很难实施。我们先不说融合基础模型是否也是融合模型。光是不懂正则插值融合,包括现在的分层融合,就够吃一盆了。然而,如上所述,无论模型如何融合,如果基础模型不变,训练集不变,融合后的模型永远不会突破一个看不见的框架,最终会收敛到某个值。
本期测试图、图表包链接:
关联:
提取码:j55u
如果您觉得对您有帮助,请点个赞吧! !您的支持是up继续更新的动力! !
往期AI测试链接:
AI绘画模型测试|图片包
宿业金石·1269读
AI绘画放大倍率测试|图片包
苏业进士·1455读
AI绘画标签测试|图片套餐
宿野金石·1429读