iWeekly
在过去的一段时间里中，全球网友都为AI自拍痴迷，其中一个名为Lensa的应用软件收获了众多关注。它可以根据你上传的自拍照片，将其转换成各种不同风格的电子肖像。截至12月12日，Lensa是美国苹果应用商店中最受欢迎的iPhone应用。但是这个AI图像生成软件正面临着众多争议，包括种族歧视、性别偏见、隐私安全和数字艺术版权等问题。
Lensa是什么？
如果你是一名互联网十级冲浪用户，那么你可能发现很多朋友的头像突然变成了童话公主、动漫超级英雄或太空旅行者。说唱歌手钱斯（Chance the Rapper），以及《闪婚》（Married at First Sight）中的乔纳森·维勒曼（Jonathan Wileman）、阿德里安·桑德森（Adrian Sanderson），《英国少妇》里的克洛伊·巴顿（Chloe Patton）等真人秀明星也分享了类似风格的自拍。这些图片都产自Lensa的“魔法头像”（Magic Avatars）功能。
Lensa是Prisma Labs旗下的一款照片和视频编辑软件，根据分析公司Sensor Tower的数据，这个软件早在2018年就上架了，但直到2022年11月底推出了“魔法头像”的功能之后，它的全球下载量才急剧上升。Lensa在12月的前五天就达到了400万次的安装量，登上了苹果和谷歌应用商店的排行榜第一。而这五天期间，消费者在Lensa上共花费了820万美元。
Lensa采取的是订阅会员制，但“魔法头像”功能需要额外付费。你可以在一周的试用期内，花3.99美元制作50张头像，或者选择购买35.99美元一年的Lensa会员，年费订阅可以在制作魔法头像时打51%的折扣。Lensa的结账页面显示：“魔法头像功能需要强大的计算设备支撑，来为用户提供惊艳的头像。费用比较贵，但是我们在尽可能地让它更加实惠。”随着Lensa越来越火，“魔法头像”功能的价格也一直在变动。
尽管价格高昂，但是Lensa的使用方式非常简单：上传8—10张只有自己的脸的自拍照，然后选择性别和主题（包括“宇宙”“仙女公主”“动漫”），Lensa就会根据你的脸生成不同艺术风格的图像。“我认为我的自拍已经相当得体了，但当我看见这些生成的照片时，我在想：‘我为什么看起来这么棒？’我觉得，它剃掉了我很多粗糙的棱角。”图奇（Twitch）主播詹姆斯（James）说道。
AI绘画也有社会偏见吗？
当一些人惊叹于Lensa生成的画像有多么美丽时，有一些用户也在社交平台上分享了“发生错误”的图片，在这些图片中，人像或是面部扭曲，或是肢体怪异地从头顶冒出。深肤色的用户们表示，他们在使用Lensa时产生的故障图片比他们浅肤色的朋友们更多，得到的图片也比他们的实际肤色更白，这加剧了人们对于AI成像公平性的担忧。
算法正义组织AI for the People的创始人穆塔莱·恩康德（Mutale Nkonde）指出，由于在AI工程和图像训练中都缺乏深色人种的代表，机器模型在分析、模仿深色人种的图像时往往表现得更差。执法过程中面部识别技术已经造成了至少三次对黑人男子的错误逮捕。Lensa在使用AI技术进行成像时，也受到了影响，从目前来看，Lensa在女性方面的搜索结果倾向于“白人辣妹”。“这会对黑人女性的自尊心造成极大伤害。”恩康德说道。
除了肤色问题外，一些女性用户还表达了对Lensa性化女性身体的愤怒。曾在科技行业工作的女权主义者布兰迪·巴克（Brandee Barker）在推特上说：“这是我的问题吗？还是这些AI自拍生成器在延续厌女症？”她在上传自己脸部的自拍照后，却得到了一张长着超模的长发、穿着紧身低胸连衣裤的图片。CNN记者佐伊·索蒂尔（Zoe Sottile）谈及自己的经历，尽管她上传的所有图片都是衣着整齐的，并且大多数都是面部特写，但Lensa还是生成了几张裸露的照片。
▲被隆胸缩腰的女权主义者Shirley Chisholm。
▲裸露图像。
华盛顿大学助理教授艾琳·卡利斯坎（Aylin Caliskan）表示，当前研究发现在线图像数据库、语料库和视觉模型中存在与性别、种族相关的偏见，“性感化是一个非常突出的问题，如果人工智能基于这样的图像进行训练，那么它会延续社会中强势群体的表现”。Lensa的代表回应了这个问题：“请注意，尽管方式不同，但是在所有的性别中都能发现偶尔的性化现象。我们使用的Stable Diffusion模型是基于未筛选的互联网内容来训练的。因此，它反映了人类在自己制作的图像中融入的偏见。图像创作者承认社会偏见的可能性，我们也是如此。”Lensa目前无法杜绝图片成像中的偏见问题，所以“我们规定该产品不适合未成年人使用，并警告用户内容存在风险。”
争议不断的隐私与版权问题
Lensa面对的争议远不止内容上的种族、性别偏见，它还引发了隐私和版权问题。Lensa使用条款的第5条写道：“您授予我们永久的、不可撤销的、非独家的、免版税的、全球性的、全额支付的、可转让的使用许可，以使用、复制、修改、传播您的用户内容并创造衍生作品。”
“简单来说，如果你是一个Lensa用户，这意味着你同意Lensa随意使用你的照片。”法律分析专家丹尼·塞瓦略斯（Danny Cevallos）解释道。国家安全分析员克林特·瓦茨（Clint Watts）说明了向一个公司提供面部照片的危险所在，“在互联网上，你的面部照片可以用于识别并解锁你的身份”。
Prisma Labs的一名发言人告诉TechCrunch，公司在使用用户照片训练完人工智能程序后，就会将它们从云端删除。但这对一些人来说，这实际上是用户协议中最令人担忧的部分之一。根据Lensa的用户协议，当公司使用用户的图像进行人工智能训练时，用户们不会得到补偿。
同样得不到补偿的还有为Lensa使用的Stable Diffusion模型提供原始学习数据的数字艺术家们。据《纽约时报》报道，坎巴蒂（Kambhampati）博士说道：“如果梵高今天还活着，那么你可能需要向梵高支付一些许可费，然后你才能在照片中加入梵高的风格。”Lensa的Stable Diffusion模型是基于许多数字艺术家的作品进行训练的，而这些艺术家们没有明确同意过Prisma Labs公司使用他们的作品。
“我们创作的艺术被盗，很多人不认为这是对一个人的侵犯，他们会说：‘哦，但这只是一种风格，你不能要求对一种艺术风格进行版权保护。’”从事电子游戏和动画创作的艺术家乔纳森·林（Jonathan Lam）说，“但我认为，对于数字艺术家而言，我们的风格就构成了我们的艺术家身份，这是让我们与众不同的地方，也是我们能够向客户进行推销的依据。”
▲Lensa AI 生成的一张照片似乎包含艺术家的签名。
乔纳森还指出，Lensa生成的一些作品上似乎还留有艺术家的签名，“技术爱好者们总喜欢说AI生成器在创造新的东西，但如果艺术家的签名还在那里，这就不是新的东西。它只是根据输入的数据产生了一些东西罢了”。他补充道：“社会公众似乎认为这是一个刚学会自己作画的程序，却没有意识到利用数据的后果。当你看见这些程序被货币化，真实的人在被程序利用，这是相当可怕的。尤其是它被伪装成了一个漂亮的应用软件时，就更可怕了。”
新闻与图片来源：纽约时报、华盛顿邮报、CNN、卫报、华尔街日报、Wral News、BuzzFeed News，部分图片来自网络
iWeekly周末画报独家稿件，未经许可，请勿转载
© 2014 现代传播 Modern Media Co,Ltd.