iWeekly
过去几天，天主教会领袖教皇方济各身穿白色大号羽绒服的图片传遍了整个互联网。网友们对教皇的时尚穿搭很感兴趣，但问题是这张图片不是真的，这张图片是由一个名为Midjourney的人工智能图像生成器制作成的。随着人工智能的技术越来越普及，人们已经能够生成各种各样超现实的图像。虽然现在的技术仍有许多缺陷，但它在不断优化，想要区别真假正在变得越来越难。
教皇图片骗过了许多人的眼睛
教皇的这张图片由人工智能Midjourney生成，它能根据文本提示生成图片。这张图片于3月24日由一位名为u/trippy_art_special的艺术家发布到了Reddit上，后来又被转载到推特上，在短短几天的时间里，骗过了许多人的眼睛。
据BuzzFeed报道，来自美国芝加哥地区的31岁建筑工人泽维尔（Pablo Xavier）表示，他上周在服用致幻蘑菇时想到了教皇图片的点子。“我当时在想办法做一些有趣的事，因为这是我通常会尝试去做的事，”泽维尔告诉BuzzFeed，“我试着做一些有趣的东西或迷幻的艺术——迷幻的东西。我突然意识到：我应该做教皇。然后它就像水一样涌现出来，‘教皇穿着Balenciaga或Moncler的蓬松大衣，走在罗马和巴黎的街道上’，类似这样的东西。”
这张假图片骗过了很多人。超模泰根（Chrissy Teigen）在推特上写道：“我以为教皇的羽绒服是真的，我没有多想。我不可能在未来的技术中幸存下来。”另一位推特用户写道：“所以，我今天才知道这张教皇方济各穿羽绒服的图片是由人工智能生成的……这是我第一次被人工智能欺骗。”
人工智能正在变得越来越真实
网络文化专家布罗德里克（Ryan Broderick）表示，教皇图片是“第一个真正的大规模人工智能错误信息案例”。
就在上周，随着美国前总统特朗普有可能被捕的消息出来之后，由Midjourney生成的特朗普被捕的图片开始在社交媒体上传播开来。虽然这些图片在经过仔细检查之后很快就能辨认出真假，但许多专家认为它们的到来和扩散预示着人工智能有故意误导的能力。上周四，特朗普在Truth Social上分享了一张他在灯光下跪地祈祷的图片。这张图片开始在他的支持者中流传开来，但很快也被发现是由人工智能生成。图片中特朗普的右手似乎缺少了一根手指，并且他的大拇指看起来也异常错乱，违背了人体解剖学原理。
如果说当时还有很多人对特朗普的图片表示怀疑的话，那么这次很多人在一开始就相信了教皇的图片。在不断的更新之后，Midjourney的真实性提升了不少。不过，还是有一些迹象表明教皇的图片是由人工智能合成的，包括扭曲的手和他身上变形的十字架。
专家表示，重新生成手对于Midjourney这类的人工智能图像生成器来说仍是一个软肋，因为它还不能完全理解“手”这个词的含义，这使得这一身体部位经常会有轻微异常的状况出现。
制造和传播虚假信息如此轻而易举
教皇图片出来之后，越来越多人开始对人工智能造假担忧起来。与之前的深度伪造（deepfake）相比，Midjourney的规模更大，技术也更成熟。发布教皇图片的Reddit子论坛r/midjourney有超过14.3万的成员，他们每天在上面发布着各种同样令人信服的图像事例。其中有一名用户生成了一系列描绘2001年美国和加拿大地震的虚构图片，帖子下面的点赞最多评论写道：“到2025年，人们将难以分辨真假信息。到2100年，人们将不知道历史的哪些部分是真实的……”
△虚假地震照片。
“我认为，现在如此多的人可以使用它——在某种程度上，它更加民主——这意味着，闸门已经打开，”马耳他大学深度伪造和安全政策专家维尼玛（Agnes Venema）告诉《新科学家》杂志，“它变得越现实，越多的人获得了访问权，我们就应该越小心，就越有可能有人采取这种欺骗的手段。”
普林斯顿大学研究人工智能的计算机科学教授纳拉扬安（Arvind Narayanan）在接受《华盛顿邮报》采访时说道：“教皇这个梗很有可能会因为真假不明而走红。”他认为，由于越来越多的人可以接触到这项技术，社交媒体平台应该开发更好的工具来标记错误和虚假的信息。“不用说，我们永远不能再因为一张图片看起来很逼真而假设它是真实的。”
在一些专家看来，人工智能的迅速崛起意味着它所带来的一些破坏是不可避免的。伦敦大学城市学院数据政治和社会正义讲师卡尔米（Elinor Carmi）表示，我们被期望拥抱人工智能革命，但却并不能完全理解它所带来的影响——这意味着我们需要更好的媒体素养，知道制造和传播虚假图像是多么容易的一件事。她说：“我们社会的大多数人被甩在了后面，不了解这些技术是如何工作的，出于什么目的，以及这样做的后果是什么。”
新闻来源：NBC、华盛顿邮报、BuzzFeed、每日邮报，部分图片来源于网络
iWeekly周末画报独家稿件，未经许可，请勿转载
© 2014 现代传播 Modern Media Co,Ltd.