编辑【导读(dú)】生成式AI火了以后，限制输出内容的就只剩人(rén)们的(de)想象力了。这不(bù)，两个高(gāo)中生用AI生成裸照，疯(fēng)狂在道(dào)德的底线游(yóu)走(zǒu)。

生成式AI爆火之(zhī)后，人们发(fā)现，这AI还真的什(shén)么都能(néng)生成啊(a)。

从ChatGPT生(shēng)成语(yǔ)段和用(yòng)户(hù)自如对(duì)话，到AI生成图像，再到搭载GPT-4的微软全家桶(tǒng)连(lián)ppt都能一键生成，好像没有什么东(dōng)西(xī)是(shì)生(shēng)成(chéng)式AI做不到的了。

能是(shì)一方面，怎么加以利用变现又是另一码事了。

这不，国外几个不知天(tiān)高地厚的大学(xué)生，竟然用AI生成裸照(zhào)在Reddit上(shàng)卖(mài)。

甚至还大赚了一笔。

AI卖「黄」？

图片的这个姑娘叫Claudia，她有着乌黑的长发，甜美(měi)的笑容。在社(shè)交媒体上，她会update自己的心情(qíng)，觉(jué)得自己美美哒。

然而在Reddit上(shàng)，只(zhǐ)要你跟(gēn)她(tā)私聊，她就卖你(nǐ)裸照(zhào)。不得不说，在Reddit上她还挺火(huǒ)。可惜，Claudia是个假的。社交媒体上的所有(yǒu)照片，包(bāo)括(kuò)上面这张，全都是用AI生成的。据(jù)两(liǎng)位(wèi)合成媒体(tǐ)领域的研究人员说，这一组Claudia的照(zhào)片都是冲着坑蒙拐骗(piàn)去的(de)。

总有人(rén)看(kàn)不出(chū)这是AI，然后(hòu)为(wèi)此买单。最近，像Midjourney和Stable Diffusion这种能(néng)生(shēng)成(chéng)图片的AI发展非常快，他们所展(zhǎn)现出的(de)创造性备受瞩目(mù)。但在Claudia之前，绘图AI一般(bān)都(dōu)是靠生成(chéng)一些逼真的艺术作品或者美丽(lì)的画作夺人眼球。在Claudia之(zhī)后，人们认识到(dào)用AI生成假(jiǎ)人的图片的功(gōng)能(néng)，还有这个让人意想不到(dào)的变现手段(duàn)。

其(qí)实很多年以来，一部分(fēn)新技术的发(fā)展都跟色情行(xíng)业有那么一点关系，AI图像生成看(kàn)来(lái)也没能免俗。目前，Reddit上有好几千个(gè)账户都在搞AI图像生成——而且大部分生(shēng)成(chéng)的(de)都是女(nǚ)性。带来(lái)的(de)影响(xiǎng)就是，改变了人们对(duì)于模特(tè)，和一部分演员的需求，同时加深了人们对于物(wù)化女性这(zhè)个(gè)议题的担忧。

有人(rén)匿名表示，「反正也遇不到真(zhēn)人，就算不是AI生成的也遇不到真(zhēn)人，那她究竟是(shì)真是(shì)假(jiǎ)又怎(zěn)么(me)样呢？」Claudia的账户并没有(yǒu)做出回应。但是有两位大学生表示，自己是(shì)该账户的管理者(zhě)。在接受(shòu)「滚石(shí)」杂志(zhì)采访(fǎng)时(shí)表示(shì)，他们从Claudia这个账(zhàng)户(hù)挣了100美元。研究人(rén)员继续出发，根据一些AI图像生成(chéng)器留下(xià)的蛛丝马迹，确定了几个女性用户的在(zài)线(xiàn)资(zī)料。他们(men)判断，这些头像是(shì)AI生成的。

就像是Claudia的账户一样(yàng)，这(zhè)些账户(hù)也在(zài)Instagram、Reddit、推特和(hé)OnlyFans等(děng)论坛上(shàng)分享女性的(de)裸(luǒ)照，并标明付(fù)费(fèi)以解(jiě)锁更(gèng)多图片。研(yán)究人员联(lián)系了(le)这(zhè)些(xiē)账户后这(zhè)些账户没(méi)有(yǒu)对该问(wèn)题做出任何相关回应。由于大部分(fēn)AI图像生成(chéng)的时候并没有任何水印，所以普通用户无法进行辨别。所以，有大量的(de)用户被这(zhè)些免费图片吸引，给(gěi)这些(xiē)账户留言(yán)。因为，他(tā)们相信这些照片(piàn)是真的（也(yě)许是因为不(bù)在乎）。

为啥这么逼(bī)真(zhēn)？

AI生成图像的原(yuán)理其实并不复(fù)杂。

在整(zhěng)个过程中，AI会先生成一个较低分辨率的图像，然后慢慢增加细节和复(fù)杂度。神(shén)经网(wǎng)络(luò)有(yǒu)很(hěn)多层(céng)，每(měi)一层神经网络(luò)负责(zé)处(chù)理不同级别(bié)的特征。从简单的边缘和纹(wén)理，再到复杂的场(chǎng)景等(děng)等。各层神(shén)经网络之间(jiān)互相(xiāng)连接，这(zhè)样AI就可以(yǐ)将不同(tóng)层次上的特征进(jìn)行组合。比如，AI可(kě)能会先确定一个(gè)场景的大致(zhì)布局的框(kuāng)架(jià)，然后在这个基础上慢(màn)慢添加其它物体或者细节(jié)。在这个过程中，AI根据prompt调整该部(bù)分的组合，以生成(chéng)相关图(tú)像。目前(qián)很多AI生成器靠的是所谓的(de)扩散(sàn)模型。任(rèn)何人都(dōu)可以输入(rù)简短的prompt，然后(hòu)免费得(dé)到(dào)一张(zhāng)足(zú)以(yǐ)以假乱真的图片(piàn)。初次创(chuàng)建(jiàn)完(wán)还能进一(yī)步(bù)调教(jiào)，让照片(piàn)变(biàn)得更有(yǒu)说(shuō)服力。底线在(zài)哪里？

技术说完了，事儿本身(shēn)说(shuō)完了，就(jiù)该考虑一些技术之外(wài)的(de)东西了。