AI照骗恐怖如斯!美女刷屏真假难辨,网友:AI网恋诈骗时代开启

梦晨 发自 凹非寺
量子位 | 公众号 QbitAI

什麽?这些不是真人照片,都是AI画出来的?!

最近这样一组美女图片刷屏了,许多人看到第一反应都是「AI逼真到这个份上了?」。

直到看到手部露出了破绽,才敢确定确实是AI画的。

原来在ChatGPT的光芒掩盖一切的这段时间,图像生成AI已经从从画画悄悄进化到了「画照片」。

这种风格和质量的AI照片,还有很多在各大网路社区流传,国内贴吧、微博、NGA,国外推特、油管,到处都是。

有网友表示:AI聊天 AI照片,快进到AI网恋诈骗。

而Cosplay风格的AI照片也让一些人感叹「商业Coser和摄影师可能双双下岗」。

根据各帖子发布者透露,这些AI照片都出自同一个模型,Chilloutmix。

多个模型融合进化,照片级AI诞生

ChilloutMix,二月初出现在模型分享社区CivitAI(不少爱好者称之为c站)。

不到两周时间,下载数量超过5万。

简单来说,这个模型还是基於大家熟悉的Stable Diffusion,1.5版本,但是由许多衍生模型合并(Merge)而来。

主要组件包括两大模型,首先是Basilmix,专攻逼真的纹理和亚洲脸型。

但这个模型主要还是擅长半写实的「2.5D风格」。

接下来合并了用照片集数据优化的Dreamlike的衍生模型,让最终生成结果更接近3D写实风格。

除了两个主要模型之外,作者还添加了一些小的Embeddings(相当於给AI模型打补丁)。

比如第一个Pure Eros Face,提供的.pt文件只有3.92KB,可以合并到任何基於SD1.5的模型,专门负责生成「纯欲系面孔」。

所有这些模型和Embeddings,各自擅长不同的地方,如一种画风、一种纹理、人物脸型甚至姿势。

Merge在一起後,可通过不同提示词调用它们的能力,一般原作者都会附上使用指南。

如果还是不太会用,CivitAI社区里还会有很多网友晒使用相应模型生成的作品,其中还有很多标记了「NSFW」或「18 」,懂得都懂。

除了ChilloutMix之外,文章开头的那组图片之所以能固定生成同一张面孔,还使用了另一项技术LoRA。

LoRA本来是微软研究团队早在2021年提出的一项大语言模型微调的技术,可以大大提高微调训练速度。

去年底,韩国科学技术院KAIST一位研究员@cloneofsimo与HuggingFace合作,将此方法扩展到Stable Diffusion上。

不仅实现了单块11GB显存的RTX2080Ti实现模型完整微调,同时原始模型权重冻结,新训练出来的权重可以保存为3MB大小的单个文件发布。

这项技术被AI绘画爱好者用来让模型固定生成一个物体,最流行的就是固定一个人物形象。

现在,在CivitAI社区里,每个微调好的权重就叫做一个Lora,就相当於一个人物模版,所有人都可以方便下载使用。

如开头的那组图片就是来自叫「Korean Doll Likeness」的Lora,目前下载量排名第一。

对於ChilloutMix LoRA这样的技术,作者也意识到了可能被滥用的风险,并着重提示了法律风险,特别强调不要用於真实存在的人物。

为什麽AI还是不会画手?

对於这个问题,最近也有了研究进展。

Stability AI 发言人表示,在AI数据集中,手的图像不够显着,「在源图像中,手(比面部部分等)要小得多。」

佛罗里达大学AI和艺术副教授Amelia Winger-Bearskin解释说,AI基於从互联网上收集的数十亿张图像进行训练,它并不能真正理解「手」是什麽,至少不理解解剖学意义上手和人体的关联。

在用来训练生成AI的图像中,手通常会抓住一些东西,或者另一只手。如此一来,手指的情况就不容易辨清。

如果所有的训练图像中,手都是五指张开,AI就能够画出正常的手。

ChilloutMix:
https://civitai.com/models/6424/chilloutmix

参考链接:
[1]https://huggingface.co/blog/lora

— 完 —

量子位 QbitAI · 头条号签约

关注我们,第一时间获知前沿科技动态

喜欢这篇文章吗?立刻分享出去让更多人知道吧!

本站内容充实丰富,博大精深,小编精选每日热门资讯,随时更新,点击「抢先收到最新资讯」浏览吧!

请您继续阅读更多来自 量子位 的精彩文章:

※ChatGPT给总统写演讲稿,骗过现场2万听众
※甜味晶元列印法了解一下:科学家用糖实现微电路曲面列印

国内怎么安装surfshark

0 0 投票数
Article Rating
订阅评论
提醒
guest
0 Comments
内联反馈
查看所有评论